AI向善之惑：需要給大模型裝上“紅綠燈”嗎？

ChatGPT迎來市場大火，大模型應(yīng)用落地有了新領(lǐng)域，國內(nèi)企業(yè)紛紛選擇進入大模型研究領(lǐng)域。隨著大模型的不斷發(fā)展，但是也出現(xiàn)了各種各樣的安全隱患，比如內(nèi)容安全，隱私保護，侵權(quán)以及結(jié)果合法性等等。在大力發(fā)展科技的同時，是否需要給大模型裝上“紅綠燈”來規(guī)范科技向善？

國內(nèi)的各個大型互聯(lián)網(wǎng)公司已經(jīng)進入大模型研究領(lǐng)域，AIGC受到的追捧熱度越來越高，國內(nèi)企業(yè)的大模型布局也紛紛嶄露頭角。何曉冬在接受《通信產(chǎn)業(yè)報》媒體記者采訪時表示：“多模態(tài)大模型是人工智能技術(shù)從限定領(lǐng)域的弱人工智能邁向通用人工智能路徑的重要途徑。通用多模態(tài)大模型將逐漸在人工智能領(lǐng)域扮演著基礎(chǔ)模型的角色。”

大模型本身還存在著技術(shù)挑戰(zhàn)以及不完善等各種問題，但是在當(dāng)前大環(huán)境的影響下，已經(jīng)展現(xiàn)出了強大的威力。對于科技行業(yè)的各種治理帶來了各種不好的影響，比如可能會泄露用戶的數(shù)據(jù)隱私，做出各種各樣的侵權(quán)行為等等。

何曉冬表示：“隨著人工智能應(yīng)用的深入其自身的技術(shù)缺陷以及帶來的隱私倫理，決策偏見，使用安全等問題，引發(fā)了信任危機。黑箱模型導(dǎo)致算法不透明，使得人們無法直觀理解決策背后的原因。應(yīng)用上訓(xùn)練數(shù)據(jù)中存在的偏見導(dǎo)致公平性缺失，以人臉識別技術(shù)為代表的生物識別信息的頻繁使用增加了隱私泄露的可能。倫理上人工智能系統(tǒng)決策復(fù)雜，難以界定責(zé)任主體，帶來倫理安全問題。”

針對這種情況廉世國表示：“人工智能領(lǐng)域的專家們已經(jīng)開始考慮用技術(shù)手段來鑒別AI生成的內(nèi)容。”