谷歌云人工智能從云視覺API中移除性別標(biāo)簽

谷歌云A I正在移除在圖像中將人標(biāo)記為“男人”或“女人”的能力，該公司今天告訴Venture Beat。 標(biāo)簽被用來分類圖像和訓(xùn)練機(jī)器學(xué)習(xí)模型，但谷歌正在刪除性別標(biāo)簽，因?yàn)樗`反了谷歌的AI原則，以避免創(chuàng)建有偏見的系統(tǒng)。

“鑒于一個(gè)人的性別不能通過外表來推斷，我們決定刪除這些標(biāo)簽，以符合谷歌的人工智能原則，特別是原則2：避免制造或強(qiáng)化不公平的偏見。 在今天之后，一位谷歌發(fā)言人在一封電子郵件中告訴Venture Beat，一個(gè)非性別的標(biāo)簽，如“Person”，將由Cloud VisionAPI返回。

風(fēng)險(xiǎn)毆打聯(lián)系微軟的Azure和亞馬遜的AWS，詢問他們是否打算從他們的云A I服務(wù)中刪除性別標(biāo)簽。 當(dāng)我們聽到回音時(shí)，我們會用更多的信息來更新這個(gè)故事。

谷歌云視覺API為客戶提供計(jì)算機(jī)視覺，以檢測對象和面部。 谷歌以前在2018年阻止了基于性別的代詞在AI工具中的使用。

當(dāng)今市場上的許多面部分析和面部識別系統(tǒng)預(yù)測性別，但在識別不符合性別規(guī)范的人、人和有色人種婦女方面存在挑戰(zhàn)。

科羅拉多大學(xué)去年秋天的一項(xiàng)研究發(fā)現(xiàn)，來自亞馬遜、Clarifai、微軟和其他公司的人工智能對順式性別男性和女性的準(zhǔn)確率保持在95%以上，但38%的時(shí)間錯(cuò)誤地將反式男性識別為女性。 沒有性別認(rèn)同的人100%被錯(cuò)誤識別。