信通院稱人工智能風(fēng)險(xiǎn)分為5個(gè)等級(jí) AI會(huì)有什么影響

2023-12-26 14:31:56 編輯：鮑彬媚來(lái)源：

導(dǎo)讀 12月24日，在2024中國(guó)信通院ICT深度觀察報(bào)告會(huì)人工智能伙伴分論壇上，中國(guó)信息通信研究院發(fā)布2023年人工智能風(fēng)險(xiǎn)管理體系。該體系將人工智...

12月24日，在2024中國(guó)信通院ICT深度觀察報(bào)告會(huì)人工智能伙伴分論壇上，中國(guó)信息通信研究院發(fā)布2023年人工智能風(fēng)險(xiǎn)管理體系。該體系將人工智能帶來(lái)的風(fēng)險(xiǎn)分為兩類，包括自身技術(shù)系統(tǒng)造成的風(fēng)險(xiǎn)以及應(yīng)用生產(chǎn)的風(fēng)險(xiǎn)，同時(shí)參考我國(guó)現(xiàn)行網(wǎng)絡(luò)安全等級(jí)保護(hù)要求將人工智能風(fēng)險(xiǎn)劃分為5個(gè)等級(jí)。最高的第五等級(jí)風(fēng)險(xiǎn)是指對(duì)人類社會(huì)有一定的顛覆性影響，比如不受人類控制的強(qiáng)人工智能，具有極強(qiáng)的自主性。

人工智能的發(fā)展可能會(huì)帶來(lái)一定的偏見(jiàn)和歧視，比如通過(guò)訓(xùn)練數(shù)據(jù)的人工智能系統(tǒng)，可能會(huì)在無(wú)意當(dāng)中延續(xù)或放大社會(huì)偏見(jiàn)。人工智能技術(shù)需要收集和分析大量的個(gè)人數(shù)據(jù)，會(huì)引發(fā)數(shù)據(jù)隱私和安全相關(guān)的問(wèn)題。道德困境也是一個(gè)大問(wèn)題，在人工智能系統(tǒng)中灌輸?shù)赖潞蛡惱韮r(jià)值觀，是一項(xiàng)極大的挑戰(zhàn)。