OpenAI發(fā)布強(qiáng)大的文本生成器

人工智能實(shí)驗(yàn)室OpenAI宣布將為自然語言處理提供功能強(qiáng)大的新型神經(jīng)網(wǎng)絡(luò)，并向公眾限量發(fā)行。

該實(shí)驗(yàn)室由埃隆·馬斯克(Elon Musk)創(chuàng)立，最近獲得了微軟10億美元的資助，該實(shí)驗(yàn)室設(shè)計(jì)了文本生成器，它們創(chuàng)建的可讀段落與人類書寫的段落幾乎沒有區(qū)別。

OpenAI的機(jī)器學(xué)習(xí)方法從Web上抓取大量數(shù)據(jù)，并對(duì)其進(jìn)行分析以得到統(tǒng)計(jì)模式，從而使其能夠現(xiàn)實(shí)地預(yù)測下一個(gè)字母或單詞可能會(huì)被寫成什么。

當(dāng)用戶向生成器中輸入單詞或短語或更長的文本片段時(shí)，它會(huì)以令人信服的人性化文本擴(kuò)展到單詞上。結(jié)果可用于創(chuàng)建故事，解決閱讀理解練習(xí)，回答問題，總結(jié)論文甚至下棋，解決數(shù)學(xué)問題或創(chuàng)建基于文本的地下城場景。

文本生成器稱為GPT-3，它依賴于一個(gè)龐大的數(shù)據(jù)庫，該數(shù)據(jù)庫包含通過掃描網(wǎng)絡(luò)帖子和數(shù)字圖書收集的近一萬億個(gè)單詞。微軟為該項(xiàng)目建造了一個(gè)擁有數(shù)十萬個(gè)處理器的超級(jí)計(jì)算機(jī)。

該程序精通??創(chuàng)造事實(shí)段落和小說作品。實(shí)際上，早期版本的文本生成器非常擅長創(chuàng)建原始文本，以至于引起了創(chuàng)作者的關(guān)注，以至于它可能被用于邪惡目的，例如在網(wǎng)絡(luò)上散布虛假新聞報(bào)導(dǎo)或參與旨在通過欺詐手段欺騙消費(fèi)者的方案虛假的在線聊天。

這些擔(dān)憂導(dǎo)致OpenAI在2019年2月采取了不同尋常的步驟，拒絕發(fā)布早期版本GPT-2，理由是擔(dān)心潛在的濫用可能會(huì)造成危險(xiǎn)。

OpenAI政策主管杰克·克拉克(Jack Clark)當(dāng)時(shí)說：“我們需要進(jìn)行試驗(yàn)，以找出他們可以做什么和不能做什么。”“如果無法預(yù)測模型的全部功能，則必須對(duì)其進(jìn)行生產(chǎn)以了解其功能。比我們更多的人更擅長于思考它可以惡意地做什么。”

該程序最終向公眾發(fā)布，并且從未意識(shí)到OpenAI的最嚴(yán)重的擔(dān)憂。

現(xiàn)在，更新的GPT-3可以通過商業(yè)途徑租借給數(shù)量有限的來源。

根據(jù)OpenAI報(bào)告，GPT-3的性能是GPT-2的100倍左右，在測試中表現(xiàn)出色。它解決了閱讀壓縮練習(xí)，該練習(xí)需要填寫單詞空白，解決“即時(shí)推理”并生成多達(dá)500個(gè)單詞的作品。

Google已將此技術(shù)應(yīng)用于處理復(fù)雜搜索查詢的算法。Microsoft在其Office產(chǎn)品中使用該程序來不斷改進(jìn)語法檢查功能。

OpenAI仍然擔(dān)心濫用行為，例如偽造新聞發(fā)布，垃圾郵件和網(wǎng)絡(luò)釣魚。他們的在線論文指出：“我們將針對(duì)明顯有害的用例終止API訪問，例如騷擾，垃圾郵件，激進(jìn)化或令人生厭的[掩蓋消息背后的人]。但是我們也知道我們無法預(yù)見所有可能的情況這項(xiàng)技術(shù)的后果，因此我們今天以非公開Beta版(測試版)推出產(chǎn)品，而不是全面上市。”

只能通過邀請(qǐng)?jiān)L問GPT-3 API。早期用戶包括自然語言網(wǎng)絡(luò)搜索公司Algolia，心理健康社交網(wǎng)絡(luò)Koko和人工智能聊天機(jī)器人“伴侶”創(chuàng)建者Replika。