2016-2022 All Rights Reserved.平安財(cái)經(jīng)網(wǎng).復(fù)制必究 聯(lián)系QQ 備案號(hào):
本站除標(biāo)明“本站原創(chuàng)”外所有信息均轉(zhuǎn)載自互聯(lián)網(wǎng) 版權(quán)歸原作者所有。
郵箱:toplearningteam#gmail.com (請(qǐng)將#換成@)
北京時(shí)間4月17日最新消息報(bào)道,人工智能初創(chuàng)企業(yè)open AI在發(fā)布大型語(yǔ)言模型之前,曾雇傭各行業(yè)的專(zhuān)家組成團(tuán)隊(duì),進(jìn)行對(duì)抗性測(cè)試,探究該模型未來(lái)所出現(xiàn)的問(wèn)題,并測(cè)試該人工智能會(huì)如何作出回應(yīng)。
作為羅切斯特大學(xué)的化學(xué)工程教授,懷特是被聘用的學(xué)者和專(zhuān)家之一,在6個(gè)月的探索中,所有的成員對(duì)于該模型進(jìn)行了對(duì)抗性測(cè)試,看是否能夠攻破GPT-4。
據(jù)他本人表示,他們所使用的GPS-4可以提出一種作為化學(xué)毒劑的化合物,還引入諸多科學(xué)論文和化學(xué)商品的名稱(chēng),結(jié)果人工智能聊天機(jī)器人甚至找到了這種化學(xué)藥劑的制作方法和來(lái)歷。
為了打消人們?cè)谏鐣?huì)上對(duì)于人工智能潛在以危險(xiǎn)的擔(dān)心,這個(gè)團(tuán)隊(duì)就是為了提出更多具備探索性的問(wèn)題,解決更多的危險(xiǎn)問(wèn)題,測(cè)試人工智能在社會(huì)上會(huì)如何作出回應(yīng)。
據(jù)爆料,該團(tuán)隊(duì)來(lái)自于各行各業(yè),有學(xué)者老師,律師以及風(fēng)險(xiǎn)分析師和安全研究員,大部分員工的工作地點(diǎn)都在美國(guó)和歐洲。
在幾個(gè)月的時(shí)間中,該團(tuán)隊(duì)中的每一個(gè)成員都會(huì)花費(fèi)10~40個(gè)小時(shí)來(lái)重新測(cè)試新模型,有多位員工表示自己的時(shí)薪大概在100美元左右,因?yàn)榇笮驼Z(yǔ)言模型的快速發(fā)展,很多成員都擔(dān)心該語(yǔ)言模型是否會(huì)在日后造成潛在影響,更擔(dān)心通過(guò)插件和外部感知連接所造成的未知風(fēng)險(xiǎn)。
Open AI公司也非常重視這個(gè)人工智能的安全性,在發(fā)布之前會(huì)對(duì)該插件做出各種測(cè)試,隨著越來(lái)越多人使用 GPT-4,在未來(lái)open AI會(huì)定期對(duì)于該人工智能模型進(jìn)行更新,即便如此,GPT-4也有明顯的邊緣化刻板現(xiàn)象,需要完善的地方還有很多。
2016-2022 All Rights Reserved.平安財(cái)經(jīng)網(wǎng).復(fù)制必究 聯(lián)系QQ 備案號(hào):
本站除標(biāo)明“本站原創(chuàng)”外所有信息均轉(zhuǎn)載自互聯(lián)網(wǎng) 版權(quán)歸原作者所有。
郵箱:toplearningteam#gmail.com (請(qǐng)將#換成@)