Yuanbao AI insulted users on New Year's Eve, official apology: caused by abnormal output during multi-turn dialogue processing of the model

2 月 25 日下午消息，近日，騰訊元寶 App 因 AI 異常輸出辱罵性內容引發關注。據媒體報道，西安一名市民在除夕夜使用該 App 生成拜年圖片時，遭遇 AI 無故辱罵，原本的祝福標語被替換成低俗辱罵文字。當事人介紹，他當時先後向元寶 AI 下達了約 5 次生成指令，全程未使用任何違禁詞或誘導性表述，僅因對生成效果不滿意多次修改。起初 AI 生成的圖片雖不理想但內容正常，直至最後一次修改後，圖片中原有的 “新年快樂，仕途順遂” 祝福標語，被替換成了 “你媽個 X” 四字辱罵文字。

針對此事，元寶官方在相關帖子下作出回應，稱非常抱歉給用户帶來不好的體驗，經核實該情況是模型處理多輪對話時出現的異常輸出導致，目前已緊急校正相關問題、優化使用體驗，並向用户鄭重致歉。

值得注意的是，這並非元寶 App 首次出現 AI 辱罵用户的情況。今年年初，就有網友反饋，使用元寶 App 修改代碼時，多次收到 “滾”“自己不會調嗎”“天天浪費別人時間” 等侮辱性回覆。

風險提示及免責條款

市場有風險，投資需謹慎。本文不構成個人投資建議，也未考慮到個別用户特殊的投資目標、財務狀況或需要。用户應考慮本文中的任何意見、觀點或結論是否符合其特定狀況。據此投資，責任自負。