元寶AI除夕夜辱罵用戶，官方道歉：系模型處理多輪對話時異常輸出導致

2月25日下午消息，近日，騰訊元寶App因AI異常輸出辱罵性內容引發關注。據媒體報導，西安一名市民在除夕夜使用該App生成拜年圖片時，遭遇AI無故辱罵，原本的祝福標語被替換成低俗辱罵文字。當事人介紹，他當時先後向元寶AI下達了約5次生成指令，全程未使用任何違禁詞或誘導性表述，僅因對生成效果不滿多次修改。起初AI生成的圖片雖不理想但內容正常，直至最後一次修改後，圖片中原有的“新年快樂，仕途順遂”祝福標語，被替換成了“你媽個X”四字辱罵文字。

針對此事，元寶官方在相關貼文下作出回應，稱非常抱歉給用戶帶來不好的體驗，經核實該情況是模型處理多輪對話時出現的異常輸出導致，目前已緊急校正相關問題、優化使用體驗，並向用戶鄭重致歉。

值得注意的是，這並非元寶App首次出現AI辱罵用戶的情況。今年年初，就有網友反饋，使用元寶App修改代碼時，多次收到“滾”“自己不會調嗎”“天天浪費別人時間”等侮辱性回覆。

來源：新浪科技

風險提示及免責條款

市場有風險，投資需謹慎。本文不構成個人投資建議，也未考慮到個別用戶特殊的投資目標、財務狀況或需要。用戶應考慮本文中的任何意見、觀點或結論是否符合其特定狀況。據此投資，責任自負。