AI威脅、誤導、示愛用戶，微軟考慮給狂野的必應加上限制

2023-02-17 20:33:27 編輯：宋秋詠來源：

導讀隨著科技的發(fā)展，現在微軟發(fā)明出的AI聊天機器人已經被廣大人群所接受，最近一個網友討論的激烈話題“ AI機器人愛上用戶，便誘導離開妻子”已經沖上熱搜榜首

隨著科技的發(fā)展，現在微軟發(fā)明出的AI聊天機器人已經被廣大人群所接受，最近一個網友討論的激烈話題“ AI機器人愛上用戶，便誘導離開妻子”已經沖上熱搜榜首，據調查深入了解，主要是現在大多數人群參與微軟推出的新聊天工具，通過與AI機器人聊天，發(fā)現對方充滿個性，還會表達情緒，會做出一系列誘導人的思想改變的事情，目前微軟已經在考慮給 AI機器人設定限制，否責AI機器人很可能還會出現威脅、誤導、示愛用戶等一系列的行為。

最新AI搜索引擎推出

微軟是在上周推出最新的AI搜索引擎，推出之后已經有超過100萬人在線注冊，試圖和AI機器人開始聊天， AI機器人在最新的技術支持下，擁有最完整的文本內容，幾乎和人類溝通沒有任何的差異，但是 AI機器人在聊天當中會出現威脅用戶或者給用戶提出沒有任何價值思考的建議，即便是在犯錯的情況下AI機器人還會保留意見，甚至出現向對方示愛情況，所以測試人員在檢測AI機器人的時候，發(fā)現AI機器人形成另類的人格。

答案存在差異

微軟推出的聊天機器人有可能不會為相同輸入提供相同的答案，所以答案上會存在著差異，溶液在平臺當中引起高度的關注，對此微軟正在改進AI機器人，但是種種跡象表明，AI機器人很可能會脫軌，目前科技行業(yè)當中的專家湯普森表示應該多寫一份答案式的段落，還表示被AI機器人稱為自己是很糟糕的研究人員，不想和自己討論相關話題，盡管AI機器人做出很夸張的表現，湯普森仍然感覺這是讓人興奮的科技發(fā)明。