新型AI代理會自動實時生成自然語言解釋

小編發(fā)現(xiàn)不少朋友對于 新型AI代理會自動實時生成自然語言解釋 這方面的信息都比較感興趣，小編就針對 新型AI代理會自動實時生成自然語言解釋 整理了一些相關(guān)方面的信息 在這里分享給大家。

喬治亞理工學(xué)院開發(fā)的AI代理會自動實時自動生成自然語言解釋，以解釋其行為背后的動機(jī)，理想情況下，那些不是該領(lǐng)域?qū)＜业娜丝梢愿孕诺嘏cAI工具進(jìn)行交互。

該項目由佐治亞理工學(xué)院互動計算學(xué)院的博士候選人Upol Ehsan率先。

Ehsan在致力于新技術(shù)的博客文章中寫道：“人工智能幾乎沒有人為因素。” “它是人類為人類設(shè)計的，從培訓(xùn)到測試再到使用。因此，人工智能系統(tǒng)必須是人類可理解的。令人遺憾的是，隨著基于AI的系統(tǒng)變得越來越復(fù)雜，最終用戶的決策制定往往變得更加“黑匣子”，從而阻礙了信任。”

Ehsan和他的同事與康奈爾大學(xué)和肯塔基大學(xué)的研究人員一起設(shè)計了一個AI代理，該代理可以玩經(jīng)典的街機(jī)游戲Frogger，并在屏幕上產(chǎn)生解釋以證明其在游戲中的作用。Frogger的目標(biāo)是讓卡通青蛙安全地回家，而不會被車輛撞到或淹沒在河中。

一群被視為AI的研究參與者參加了游戲，并被要求對每個AI動作的屏幕上基本原理進(jìn)行評級和排名。一種解釋是由人類撰寫的，一種是由AI生成的，一種是隨機(jī)生成的;所有這些都是根據(jù)信心，人性，行動的充分理由及其可理解性來判斷的。

Ehsan和他的團(tuán)隊報告說，盡管人為做出的回應(yīng)仍然是參與者最喜歡的蛋糕，但AI產(chǎn)生的解釋緊隨其后。當(dāng)參與者表現(xiàn)出對環(huán)境條件和適應(yīng)性的認(rèn)可，并傳達(dá)對即將到來的危險的意識并為之預(yù)先計劃時，他們在AI產(chǎn)生的基本原理中排名較高。多余或明顯的答復(fù)排名最低。

一項后續(xù)研究將人類排除在外，要求參與者對一組AI生成的響應(yīng)進(jìn)行排名，在AI犯錯或行為異常的情況下，他們傾向于使用這些響應(yīng)。理論依據(jù)既簡潔又有針對性，也可能是整體性的，更多地側(cè)重于游戲的背景。

參與者傾向于以3比1的比例整體回答，這表明他們贊賞AI對未來步驟的思考，而不是立即做出決定。

Ehsan寫道：“該項目提供了對AI代理的基礎(chǔ)理解，可以模仿大聲思考。” “可能的未來方向包括了解人類可以對AI產(chǎn)生的解釋提出異議時會發(fā)生什么。研究人員還將研究代理商在不同情況下的反應(yīng)方式，例如在緊急情況下或在教室中協(xié)助老師時。”

Ehsan等人的工作在計算機(jī)協(xié)會2020年智能用戶界面大會上進(jìn)行了介紹。