Yuanbao AI insulte les utilisateurs lors de la veille du Nouvel An, l'équipe officielle présente ses excuses : il s'agit d'une sortie anormale du modèle lors du traitement de dialogues multi-tours

Dans l’après-midi du 25 février, l’application Tencent Yuanbao a récemment attiré l’attention en raison de la production anormale de contenus abusifs par l’IA. Selon des rapports médiatiques, un citoyen de Xi’an a été insulté par l’IA sans raison lorsqu’il a utilisé l’application pour générer des images de vœux du Nouvel An chinois, et le slogan original de bénédiction a été remplacé par un texte vulgaire et abusif. Selon le parti, il a émis environ 5 instructions de génération à l’IA de Yuanbao à cette époque, sans utiliser de mots interdits ni d’expressions incitantes tout au long du processus, et n’a modifié que de nombreuses fois car il n’était pas satisfait de l’effet de génération. Au début, bien que l’image générée par l’IA ne fût pas idéale, le contenu restait normal, jusqu’à la dernière modification, le slogan original « Bonne année, carrière fluide » sur l’image fut remplacé par le texte abusif de quatre mots « Your mother X ».

En réponse à cette question, Yuanbao a officiellement répondu dans le post concerné, exprimant ses regrets pour la mauvaise expérience causée par l’utilisateur, et il a été vérifié que la situation était due à la sortie anormale du modèle lors du traitement de plusieurs rondes de dialogue, et que les problèmes concernés ont été corrigés d’urgence, que l’expérience utilisateur a été optimisée, et que l’utilisateur a solennellement présenté ses excuses à l’utilisateur.

Il convient de noter que ce n’est pas la première fois que l’application Yuanbao subit des abus d’IA sur les utilisateurs. Au début de cette année, certains internautes ont signalé qu’en utilisant l’application Yuanbao pour modifier le code, ils recevaient des réponses insultantes telles que « rouler », « ne peux-tu pas t’adapter » et « perdre le temps des autres chaque jour ».

Source : Sina Technology

Avertissement et avertissement de risque

        Le marché est risqué, et l’investissement doit être prudent. Cet article ne constitue pas un conseil d’investissement personnel et ne prend pas en compte les objectifs d’investissement spécifiques, la situation financière ou les besoins des utilisateurs individuels. Les utilisateurs doivent réfléchir à la question de savoir si les opinions, opinions ou conclusions contenues dans cet article sont cohérentes avec leur situation spécifique. Investissez en conséquence à vos risques et périls.