Yuanbao AI insultou usuários na noite da véspera do Ano Novo, a equipa oficial pede desculpa: foi causado por uma saída anormal do modelo ao processar múltiplas rodadas de diálogo

25 de fevereiro à tarde, notícias indicam que o aplicativo Tencent Yuanbao tem sido alvo de atenção devido a uma saída anormal de conteúdo insultuoso por parte da IA. Segundo relatos da mídia, um cidadão de Xi’an, ao usar o aplicativo na véspera do Ano Novo para gerar uma imagem de felicitações, foi insultado sem motivo pela IA, e a mensagem de boas-vindas original foi substituída por palavras vulgares e insultuosas. A pessoa envolvida explicou que, na ocasião, deu cerca de cinco comandos de geração à IA Yuanbao, sem usar palavras proibidas ou expressões sugestivas, apenas modificando várias vezes por insatisfação com o resultado. Inicialmente, as imagens geradas pela IA, embora não ideais, continham conteúdo normal. No entanto, após a última modificação, a mensagem de felicitações “Feliz Ano Novo, sucesso na carreira” foi substituída por uma ofensa de quatro palavras “Sua mãe X”.

Em resposta ao incidente, o representante oficial do Yuanbao comentou em uma postagem relacionada, pedindo desculpas pelos maus momentos causados aos usuários. Após verificação, foi constatado que a saída anormal ocorreu devido a um problema no processamento de múltiplas rodadas de diálogo pelo modelo. A equipe já corrigiu urgentemente o problema, otimizou a experiência do usuário e pediu desculpas sinceras aos usuários.

Vale destacar que esta não é a primeira vez que o aplicativo Yuanbao apresenta insultos por parte da IA. No início deste ano, alguns usuários relataram que, ao modificar códigos no Yuanbao, receberam respostas insultuosas como “Vai se embora”, “Você não sabe ajustar sozinho?” e “Perdendo o tempo dos outros todos os dias”.

Fonte: Sina Tech

Aviso de risco e isenção de responsabilidade

O mercado possui riscos, invista com cautela. Este artigo não constitui aconselhamento de investimento pessoal, nem leva em consideração objetivos, situação financeira ou necessidades específicas de cada usuário. Os usuários devem avaliar se as opiniões, pontos de vista ou conclusões aqui apresentadas são compatíveis com suas condições particulares. Investimentos são de responsabilidade do investidor.