谷歌從AI工具中屏蔽基于性別的代詞以防止偏見(jiàn)的指控

路透社-Alphabet的Google在5月推出了Gmail的一個(gè)巧妙功能，它可以在用戶輸入句子時(shí)自動(dòng)完成句子。 點(diǎn)擊“我愛(ài)”，Gmail可能會(huì)提出“你”或“它”。但是，如果用戶的情感對(duì)象是“他”或“她”，他們就會(huì)失去運(yùn)氣。

谷歌的技術(shù)不會(huì)暗示基于性別的代詞，因?yàn)樗?ldquo;智能合成”技術(shù)可能會(huì)錯(cuò)誤地預(yù)測(cè)某人的性別或性別身份，并冒犯用戶，產(chǎn)品領(lǐng)導(dǎo)者在采訪中向路透社透露。

Gmail產(chǎn)品經(jīng)理保羅?蘭伯特(Paul Lambert)表示，1月份，一位公司研究科學(xué)家發(fā)現(xiàn)了這個(gè)問(wèn)題，當(dāng)時(shí)他打字說(shuō)：“我下周要見(jiàn)一位投資者”，而Smart Compose則提出了一個(gè)可能的后續(xù)問(wèn)題：“你想見(jiàn)見(jiàn)他嗎?”而不是“她”。

消費(fèi)者已經(jīng)習(xí)慣了智能手機(jī)自動(dòng)校正帶來(lái)的尷尬失態(tài)。 但在性別問(wèn)題正在重塑政治和社會(huì)的時(shí)候，谷歌拒絕冒險(xiǎn)，批評(píng)者也像以前一樣仔細(xì)審視人工智能的潛在偏見(jiàn)。

“并非所有的‘螺絲起子’都是相等的，”蘭伯特說(shuō)。 性別是一個(gè)“大的，大的事情”出錯(cuò)。

正確處理智能組合可能對(duì)生意有好處。 證明谷歌比競(jìng)爭(zhēng)對(duì)手更了解人工智能的細(xì)微差別是該公司為其品牌建立親和力并吸引客戶使用其人工智能驅(qū)動(dòng)的云計(jì)算工具、廣告服務(wù)和硬件的戰(zhàn)略的一部分。

Gmail擁有15億用戶，蘭伯特說(shuō)Smart Compose在全球11%的Gmail.com發(fā)送的信息上提供了幫助。

智能組合是AI開(kāi)發(fā)者所謂的自然語(yǔ)言生成(N LG)的一個(gè)例子，其中計(jì)算機(jī)通過(guò)研究文學(xué)、電子郵件和網(wǎng)頁(yè)中單詞之間的模式和關(guān)系來(lái)學(xué)習(xí)寫句子。

一個(gè)顯示了數(shù)十億個(gè)人類句子的系統(tǒng)變得善于完成常見(jiàn)的短語(yǔ)，但受到一般性的限制。 例如，男性長(zhǎng)期以來(lái)一直在金融和科學(xué)等領(lǐng)域占據(jù)主導(dǎo)地位，因此這項(xiàng)技術(shù)將從數(shù)據(jù)中得出結(jié)論：投資者或工程師是“他”或“他”。

蘭伯特說(shuō)，由大約15名工程師和設(shè)計(jì)師組成的智能組合團(tuán)隊(duì)嘗試了幾種解決方案，但沒(méi)有一個(gè)被證明是無(wú)偏見(jiàn)的或值得的。 他們認(rèn)為最好的解決方案是最嚴(yán)格的解決方案：限制覆蓋范圍。 蘭伯特說(shuō)，性別代詞禁令對(duì)Smart Compose提出建議的情況影響不到1%。

“我們唯一可靠的技術(shù)是保守，”Prabhakar Raghavan說(shuō)。

谷歌決定在性別問(wèn)題上保持安全是因?yàn)樵摴镜念A(yù)測(cè)技術(shù)令人難堪。

該公司于2015年道歉，當(dāng)時(shí)其照片服務(wù)的圖像識(shí)別功能將一對(duì)黑人夫婦標(biāo)記為大猩猩。 在2016年，谷歌改變了搜索引擎的自動(dòng)完成功能，因?yàn)樗ㄗh反猶查詢“是猶太人的邪惡”，當(dāng)用戶尋找猶太人的信息。

谷歌已禁止其預(yù)測(cè)技術(shù)中的誹謗和種族誹謗，并提到其商業(yè)對(duì)手或悲劇事件。

該公司禁止性別代詞的新政策也影響了谷歌智能回復(fù)中可能的反應(yīng)清單。 這項(xiàng)服務(wù)允許用戶用“聽(tīng)起來(lái)不錯(cuò)”等短語(yǔ)即時(shí)回復(fù)短信和電子郵件。

谷歌利用其人工智能倫理團(tuán)隊(duì)開(kāi)發(fā)的測(cè)試來(lái)揭示新的偏見(jiàn)。 蘭伯特說(shuō)，一個(gè)垃圾郵件和虐待團(tuán)隊(duì)攻擊系統(tǒng)，試圖通過(guò)思考黑客或記者可能會(huì)找到“多汁”的失態(tài)。

以外的工人尋找當(dāng)?shù)氐奈幕瘑?wèn)題。 Smart Compose不久將使用其他四種語(yǔ)言：西班牙語(yǔ)、葡萄牙語(yǔ)、語(yǔ)和法語(yǔ)。

“你需要很多人的監(jiān)督，”工程領(lǐng)導(dǎo)拉哈萬(wàn)說(shuō)，因?yàn)?ldquo;在每種語(yǔ)言中，不恰當(dāng)?shù)木W(wǎng)絡(luò)必須涵蓋不同的東西。

谷歌不是唯一一家處理基于性別的代名詞問(wèn)題的科技公司。

來(lái)自湯森路透(Thomson Reuters)投資的紐約初創(chuàng)企業(yè)Agolo利用AI總結(jié)商業(yè)文檔。

它的技術(shù)無(wú)法在某些文檔中可靠地確定哪個(gè)代詞與哪個(gè)名稱。 因此，這篇摘要引用了幾句話來(lái)給用戶更多的上下文，Agolo的首席技術(shù)官M(fèi)ohamedAlTantawy說(shuō)。

他說(shuō)，更長(zhǎng)的副本比缺失細(xì)節(jié)更好。 “最小的錯(cuò)誤會(huì)使人們失去信心，”Al Tantawy說(shuō)。 “人們希望百分之百正確。

然而，不完美仍然存在。 谷歌和蘋果開(kāi)發(fā)的預(yù)測(cè)鍵盤工具提出了性別化的“”來(lái)完成“”和“推銷員”的“銷售”。

把中性的土耳其短語(yǔ)“一個(gè)是士兵”輸入谷歌翻譯，它用英語(yǔ)吐出“他是士兵”。 阿里巴巴和微軟的翻譯工具也是如此。 Amazon.com選擇“她”作為云計(jì)算客戶翻譯服務(wù)中的同一短語(yǔ)。

人工智能專家呼吁這些公司展示一個(gè)免責(zé)聲明和多個(gè)可能的翻譯。

微軟的Linked In表示，它在其一年前的預(yù)測(cè)消息工具“智能回復(fù)”中避免了性別代詞，以避免潛在的錯(cuò)誤。

阿里巴巴和亞馬遜沒(méi)有回應(yīng)置評(píng)請(qǐng)求。

北卡羅來(lái)納州達(dá)勒姆的集成工程師JohnHegele說(shuō)，像Smart Compose中的警告和限制仍然是復(fù)雜系統(tǒng)中最常用的對(duì)策，該公司從統(tǒng)計(jì)數(shù)據(jù)中生成新聞文章。

“最終目標(biāo)是一個(gè)完全由機(jī)器生成的系統(tǒng)，它神奇地知道該寫什么，”Hegele說(shuō)。 “已經(jīng)取得了很多進(jìn)展，但我們還沒(méi)有實(shí)現(xiàn)。