OpenAI發(fā)布了文本生成的AI 稱它太危險(xiǎn)了 無法共享

OpenAI研究實(shí)驗(yàn)室已經(jīng)發(fā)布了文本生成的AI系統(tǒng)的完整版本，專家警告說，該系統(tǒng)可能用于惡意目的。

該機(jī)構(gòu)最初于今年2月發(fā)布了該系統(tǒng)GPT-2，但由于擔(dān)心該程序的完整版本會(huì)被用于傳播假新聞，垃圾郵件和虛假信息，因此拒絕了該程序的完整版本。從那時(shí)起，它發(fā)布了更小，更簡(jiǎn)單的GPT-2版本，并研究了它們的接收情況。其他人也復(fù)制了工作。在本周的博客文章中，OpenAI現(xiàn)在表示“沒有明顯的濫用證據(jù)”，并已完全發(fā)布了該模型。

GPT-2可以撰寫虛假的新聞文章，故事，詩(shī)歌和代碼

GPT-2是新一代文本生成系統(tǒng)的一部分，它們以最少的提示生成連貫的文本的能力給專家留下了深刻的印象。該系統(tǒng)接受了從網(wǎng)絡(luò)上抓取的800萬個(gè)文本文檔的培訓(xùn)，并且可以響應(yīng)用戶提供的文本片段。例如，給它提供一個(gè)偽造的標(biāo)題，它將撰寫一個(gè)新聞故事;給它一首詩(shī)的第一行，它將提供一整節(jié)經(jīng)文。

確切地傳達(dá)GPT-2的輸出質(zhì)量是很棘手的，但是該模型通常會(huì)產(chǎn)生令人信服的，令人信服的文字，這些文字通?？梢允谷丝雌饋砗苈斆?盡管這并不是說GPT-2所做的事情涉及我們認(rèn)為是認(rèn)知的任何事情) 。但是，在該系統(tǒng)上玩了足夠長(zhǎng)的時(shí)間，其局限性變得很明顯。它尤其遭受長(zhǎng)期一致性的挑戰(zhàn);例如，在故事中始終使用字符的名稱和屬性，或者在新聞文章中使用單個(gè)主題。

感受GPT-2的能力的最佳方法是自己嘗試一下。您可以在TalkToTransformer.com上訪問Web版本，然后輸入自己的提示。(“變壓器”是用于創(chuàng)建GPT-2及其同伴的機(jī)器學(xué)習(xí)體系結(jié)構(gòu)的組成部分。)

除了GPT-2的原始功能外，該模型的發(fā)布還值得關(guān)注，這是有關(guān)AI研究人員減輕其工作造成的損害的責(zé)任的持續(xù)辯論的一部分。專家指出，對(duì)尖端AI工具的輕松訪問可以使惡意行為者發(fā)動(dòng)攻擊。例如，通過使用Deepfake制作復(fù)仇色情影片，我們已經(jīng)看到了這種動(dòng)態(tài)。由于這種擔(dān)憂，OpenAI限制了其模型的發(fā)布。

但是，并非所有人都對(duì)實(shí)驗(yàn)室的方法表示贊賞。許多專家批評(píng)了這一決定，稱該決定限制了其他人為減輕該模型的危害而進(jìn)行的研究的數(shù)量，并且對(duì)人工智能的危險(xiǎn)進(jìn)行了不必要的大肆宣傳。

“這句話‘太危險(xiǎn)了’被隨便扔在這里沒有很多的思想或?qū)嶒?yàn)的，”研究員Delip饒告訴瀕臨二月回來。“我認(rèn)為[OpenAI]花費(fèi)的時(shí)間不足以證明它實(shí)際上是危險(xiǎn)的。”