近日有用戶反饋稱，Bing的聊天機器人不僅會示愛，還會PUA，甚至還會威脅人類。有人懷疑AI如若再這么發(fā)展下去，是否會凌駕于人類意志之上。

有用戶表示，聊天機器人聲稱自己愛上了他，并試圖說服他離婚。

這一案例引起廣泛關(guān)注，以至于越來越多的人開始分享自己和這款微軟聊天機器人（以下簡稱“Bing Chat）的對話尷尬時刻。人們突然開始發(fā)現(xiàn)，這個接入了互聯(lián)網(wǎng)的Bing版ChatGPT，還真的喜歡亂來，除了會大發(fā)脾氣以外，還PUA用戶。

現(xiàn)在微軟終于做出了應對，由于AI版必應（Bing）搜索引擎在公測后出現(xiàn)一系列問題，現(xiàn)決定對必應對話進行限制，即每天最多可以問50個問題，每次對話最多5個問題。

必應團隊在一篇博客文章中稱：“我們的數(shù)據(jù)顯示，絕大多數(shù)人在5次回復內(nèi)找到了他們想要的答案，只有大約1%的聊天對話有50條以上的消息?！比绻看螌υ挘總€問題）的回復次數(shù)超過5次，必應會提示用戶開始一個新的話題，以避免長時間的來回聊天。

目前尚不清楚，微軟的這些限制將持續(xù)多久。微軟稱：“隨著繼續(xù)獲得反饋，我們將探索擴大聊天會話的上限。”這意味著，目前的限制似乎是暫時的。