圖靈獎得主姚期智對談Stuart Russell 人工智能應(yīng)成為一門學(xué)科研究

6月10日，2023年北京智源大會當(dāng)中，圖靈獎獲得者姚期智與Stuart Russel教授針對AI安全問題展開了對談，他認(rèn)為，人類應(yīng)該更好的去理解自己，否則與AI人工智能系統(tǒng)相處的時候，將無法有效的管控機器與人之間的互動，Stuart Russel認(rèn)為，人類應(yīng)該對未來有著各自的偏好，AI系統(tǒng)將會為人類提供服務(wù)，但是這套系統(tǒng)的行動范圍必須要限定在每一個人關(guān)心的領(lǐng)域中，這樣才能避免損害他人的利益。

Stuart Russel是人工智能領(lǐng)域一個非常出名的學(xué)者，他就職于加州大學(xué)伯克利分校，在該領(lǐng)域是創(chuàng)造過很多的貢獻，同時是呼吁暫停開發(fā)人工智能的名人之一，針對當(dāng)前AI發(fā)展可能會對人類社會造成的深遠影響，他認(rèn)為當(dāng)前的領(lǐng)域發(fā)展需做出適當(dāng)?shù)谋O(jiān)督和管理，必須要考慮AI可能會引發(fā)的嚴(yán)重社會問題，并且在設(shè)計方面，也要考慮到道德與倫理方面的元素。

當(dāng)一個或者是的多個機器人與類在一起的時候，或許會涉及到道德與哲學(xué)方面的的問題，那么在這種情況下，AI系統(tǒng)就應(yīng)該為人類提供服務(wù)，如果想要一個AI能夠響應(yīng)個人愿望的系統(tǒng)，就應(yīng)該明確表明這個系統(tǒng)的行為邏輯會被限制在個人關(guān)心的領(lǐng)域中，不能讓AI機器人在追求個人利益的時候去傷害其他的人。

然而在形式功利主義中，如今還有很多沒有能夠解決的問題，比如AI的決策可能影響的人數(shù)等等，是應(yīng)該去，愿望較多的國度愿望較少的國度，還是應(yīng)該去選擇人口較少愿望較多的國度，這些都是需要人們?nèi)タ紤]的問題，也必須要給出這些問題的答案，因為AI系統(tǒng)有能力去確保這些答案的正確性。