幻覺？馬斯克TruthGPT搞不定！OpenAI創(chuàng)始人直言復(fù)雜

2023-05-04 14:05:39 編輯：伏厚麗來源：

導(dǎo)讀馬斯克此前聯(lián)合各行各業(yè)的大佬，呼吁停止AI研發(fā)6個(gè)月。事實(shí)上并沒有起到很好的阻止效果，反而讓AI大戰(zhàn)愈演愈烈。馬斯克最終妥協(xié)AI研發(fā)，官

馬斯克此前聯(lián)合各行各業(yè)的大佬，呼吁停止AI研發(fā)6個(gè)月。事實(shí)上并沒有起到很好的阻止效果，反而讓AI大戰(zhàn)愈演愈烈。馬斯克最終妥協(xié)AI研發(fā)，官宣推出TruthGPT平臺(tái)。

幻覺一直是open AI、谷歌以及馬斯克人工智能公司面對(duì)的核心問題。 Open AI聯(lián)合創(chuàng)始人兼研究員在演講中討論到如何解決這些問題，根據(jù)該研究員的說法，將幻覺可以分為兩種類型。

第1種為模式完成行為，指的是語言模型無法表達(dá)自己的不確定性，無法質(zhì)疑提示中的前提或者之前犯的錯(cuò)誤。

第2種為模型猜測(cè)錯(cuò)誤，語言模型本身是一種知識(shí)圖譜，包括來自網(wǎng)絡(luò)當(dāng)中訓(xùn)練的數(shù)據(jù)事實(shí)，微調(diào)可以理解為學(xué)習(xí)一個(gè)函數(shù)，該函數(shù)在知識(shí)圖譜上運(yùn)行并輸出token預(yù)測(cè)。之后該研究員又講了一系列的解決方法，對(duì)于如何攻克幻想難題直言很復(fù)雜。

標(biāo)簽：幻覺，GPT