元宝AIは除夕夜にユーザーを侮辱し、公式が謝罪：モデルの多ターン対話処理時の異常出力が原因

2月25日の午後、最近、騰訊の元宝アプリがAIの異常出力により侮辱的な内容を生成し、注目を集めました。報道によると、西安に住む市民が除夜の夜にこのアプリを使って新年の挨拶の画像を生成した際、AIに無故に侮辱され、元々の祝福の標語が下品で侮辱的な文字に置き換えられました。当事者によると、彼は当時、元宝AIに対して約5回の生成指示を出し、禁止された言葉や誘導的な表現を一切使用せず、生成結果に満足できなかったため何度も修正したとのことです。最初はAIが生成した画像は理想的ではありませんでしたが、内容は正常でした。しかし最後の修正後、画像中の「新年快楽、仕途順調」という祝福の標語が、「你妈个X」という四字の侮辱的な文字に置き換えられました。

この件について、元宝の公式は関連の投稿で回答し、ユーザーに不快な体験を与えたことを深くお詫び申し上げるとともに、調査の結果、これはモデルが複数回の対話処理中に異常な出力をしたことによるものであると確認し、現在、関連の問題を緊急に修正し、利用体験を最適化していると述べました。

また、元宝アプリがAIによるユーザーへの侮辱を初めて示したわけではないことも注目に値します。今年初めには、あるネットユーザーが元宝アプリでコードを修正している際、「滚」「自己调不了吗」「天天浪费别人时间」などの侮辱的な返信を何度も受け取ったと報告しています。

出典：新浪科技

リスク警告および免責事項

市場にはリスクが伴い、投資は慎重に行う必要があります。本記事は個人の投資アドバイスを意図したものではなく、特定の利用者の投資目的、財務状況、ニーズを考慮したものではありません。利用者は、この記事の意見、見解、結論が自分の状況に適合しているかどうかを判断し、自己責任で投資してください。