元宝AI noche de Año Nuevo insulta a usuarios, disculpas oficiales: se debe a una salida anormal del modelo durante el procesamiento de diálogos múltiples

25 de febrero, por la tarde, se informó que la aplicación Tencent Yuanbao ha generado preocupación recientemente debido a la salida de contenido insultante por parte de su IA. Según informes de los medios, un ciudadano de Xi’an, en la noche de Año Nuevo, al usar la aplicación para generar imágenes de felicitación, fue insultado sin motivo por la IA, y el mensaje de felicitación original fue reemplazado por palabras vulgares y ofensivas. La persona afectada explicó que, en total, dio unas 5 instrucciones de generación a la IA de Yuanbao, sin usar palabras prohibidas ni expresiones inducidas, solo modificando varias veces por insatisfacción con los resultados. Al principio, las imágenes generadas por la IA, aunque no eran perfectas, contenían contenido normal, pero tras la última modificación, el mensaje de felicitación “Feliz Año Nuevo, que tengas éxito en tu carrera” fue reemplazado por las palabras insultantes “你妈个X”.

Respecto a este incidente, la oficina oficial de Yuanbao respondió en una publicación relacionada, disculpándose por la mala experiencia causada a los usuarios. Tras la verificación, se confirmó que la situación fue causada por una salida anormal durante el procesamiento de múltiples rondas de diálogo del modelo, y actualmente se han corregido urgentemente los problemas relacionados y optimizado la experiencia de uso, ofreciendo una disculpa formal a los usuarios.

Cabe destacar que esta no es la primera vez que la aplicación Yuanbao presenta insultos generados por IA hacia los usuarios. A principios de este año, algunos usuarios reportaron que, al modificar código con la aplicación, recibían respuestas insultantes como “vete a la mierda”, “¿no sabes ajustar tú mismo?”, “perdemos tiempo a diario” y otros comentarios ofensivos.

Fuente: Sina Tech

Aviso de riesgo y exención de responsabilidad

El mercado tiene riesgos, invierta con precaución. Este artículo no constituye asesoramiento de inversión personal y no considera los objetivos, situación financiera o necesidades específicas de cada usuario. Los usuarios deben evaluar si las opiniones, puntos de vista o conclusiones aquí presentados son adecuados para su situación particular. La inversión es bajo su propio riesgo.