微軟可能會創(chuàng)建天網(wǎng)說研究

星期三，在日內(nèi)瓦舉行的“聯(lián)合國某些常規(guī)武器公約”上，一個政府專家小組就有關(guān)致命自主武器的政策選擇進行了辯論。

荷蘭非政府組織Pax創(chuàng)建了一份報告，調(diào)查了該部門的主要參與者對致命自主武器的看法。他們根據(jù)3個標準??對公司進行了分類：他們是否正在開發(fā)可能與致命AI相關(guān)的技術(shù)，從事相關(guān)軍事產(chǎn)品的工作，以及他們是否承諾在未來放棄做出貢獻。

根據(jù)這些標準，微軟在天網(wǎng)排名的發(fā)源地得分相當高。微軟已經(jīng)投入大量資金開發(fā)人工智能產(chǎn)品，與美國軍方有著非常密切的關(guān)系，而Satya Nadella則致力于為軍方提供最好的技術(shù)。雖然微軟未能明確開發(fā)用于軍事目的的人工智能，但我們知道他們已經(jīng)為軍隊開發(fā)了一種版本的HoloLens，專門用于增加戰(zhàn)場上士兵的殺傷力。

對于微軟來說，美國軍隊很可能成為一個關(guān)鍵的增長領(lǐng)域。

雖然它可能還沒有被授予，但微軟可能會贏得100億美元的國防部JEDI合同。

周三，加州大學伯克利分校的計算機科學教授Stuart Russell告訴法新社：

任何目前都是武器的人，人們正在研究自主版本，無論是坦克，戰(zhàn)斗機還是潛艇。

自主武器將不可避免地成為可擴展的大規(guī)模殺傷性武器，因為如果人類不在循環(huán)中，那么一個人就可以發(fā)射一百萬件武器或一億枚武器。

事實上，自主武器將由公司發(fā)展，并且在防止自主武器普及的運動方面，它們可以發(fā)揮非常重要的作用。

微軟并不是唯一被認為是“高風險”的公司 - 超過12個不同國家的50多家公司被考慮過; 亞馬遜，微軟，英特爾和Plantir在21位成為“高風險”的人中脫穎而出。這項價值8億美元的開發(fā)人工智能系統(tǒng)的合同“可以幫助士兵實時分析戰(zhàn)區(qū)”，使得Plantir成為最佳類別。

一些人工智能驅(qū)動的自主武器已經(jīng)活躍 - 例如以色列的哈比無人機。也可能創(chuàng)造新的自主武器類別，他們使用面部識別技術(shù)可能會產(chǎn)生更多的道德問題。

使用這種類型的武器，你可以在集裝箱或貨運飛機上發(fā)送一百萬件武器 - 因此它們具有核彈的破壞能力，但是將所有建筑物留在后面。

(他們可以)消滅一個民族或一個性別，或者使用社交媒體信息，你可以消滅所有具有政治觀點的人。

拉塞爾強烈認為應(yīng)該對致命的人工智能實施國際禁令。

不得開發(fā)，部署或使用決定殺死人類的機器。“

谷歌是被發(fā)現(xiàn)參與“最佳實踐”的七家公司之一。以及退出JEDI云合同的競爭; 該公司拒絕續(xù)簽五角大樓合同“Project Maven”，該合同使用機器學習來區(qū)分無人機視頻中的人和物體。