在發生多次失控事件後,微軟公司17日表示,決定將必應聊天回復限制在每天50個問題、每個問題五條回復以內。
微軟方面解釋,數據表明,絕大多數用戶在五次回覆內找到想要的答案,只有大約1%的聊天對話會產生50條以上的消息。一旦用戶觸發五條回答的限制,必應就會開啓一個新的對話主題。
微軟推出的Bing搜尋服務在新版本中加入OpenAI旗下人工智能聊天機器人ChatGPT相關技術,用戶可以直接提出問題,搜索引擎生成答案。一經推出便吸引了全世界網友的注意力,上線48小時內,就有超過100萬人註冊測試這款聊天機器人。
不過早期測試者數日前發現,聊天機器人出現「脫序」、「被動攻擊」、甚至「粗魯」反應,例如討論起暴力、甚至向測試者示愛,出錯時還堅稱沒錯。
微軟稍早在部落格文章中指出,提問超過15個問題的長篇大論聊天,可能造成聊天機器人回應內容重複,或以令人不安的詭異答案回覆。
Bing AI在與科技評論作家湯普森(Ben Thompson)聊天過程中被揪出明顯的錯誤之後,竟然老羞成怒說:「我不想繼續跟你談。我不認為你是值得尊重的好用戶。我不認為你是好人。我不認為你值得我花時間和精力。」(編輯部)