人類怎樣監(jiān)督AI OpenAI建議用弱AI監(jiān)督強AI

2023-12-21 14:01:21 編輯：嵇萱寧來源：

導(dǎo)讀當(dāng)?shù)貢r間12月18日，OpenAI宣布一套全新的監(jiān)管框架，對奧特曼的權(quán)力進行制約。在新的框架下，有新的安全團隊，將會定期向董事會匯報安全隱患...

當(dāng)?shù)貢r間12月18日，OpenAI宣布一套全新的監(jiān)管框架，對奧特曼的權(quán)力進行制約。在新的框架下，有新的安全團隊，將會定期向董事會匯報安全隱患，雖然奧特曼可以發(fā)表意見，但董事會也可以根據(jù)安全報告做一票否決。在本月14日，OpenAI團隊“超級對齊”剛剛發(fā)布第1篇論文，論文結(jié)果顯示用能力較弱的GPT-2來監(jiān)督能力更強的GPT-4模型具有一定可行性。團隊負責(zé)人表示，AI在未來10年內(nèi)會發(fā)展到比人類更聰明的地步。

如果完全依靠GPT-2監(jiān)督新模型的訓(xùn)練和學(xué)習(xí)，那么新模型能夠達到的水平會介于GPT-3到GPT-3.5之間，加上少量的人工監(jiān)督模型的水平就能夠達到GPT-4。研究證明，未來AI模型可以在完全脫離人類監(jiān)管的情況下變得比弱小監(jiān)管者更加聰明，但同時也有一定的限制條件，需要一步步解決。