元宝AI malam Tahun Baru Imlek menghina pengguna, resmi meminta maaf: disebabkan oleh keluaran yang tidak normal saat model memproses percakapan berulang

Pada sore hari tanggal 25 Februari, Aplikasi Tencent Yuanbao baru-baru ini menarik perhatian karena keluaran konten kasar yang tidak normal oleh AI. Menurut laporan media, seorang warga di Xi’an dihina oleh AI tanpa alasan ketika dia menggunakan aplikasi untuk membuat gambar ucapan Tahun Baru pada Malam Tahun Baru Imlek, dan slogan berkat asli diganti dengan teks vulgar dan kasar. Menurut partai, dia mengeluarkan instruksi sekitar 5 generasi kepada Yuanbao AI pada saat itu, tanpa menggunakan kata-kata terlarang atau ekspresi induksi selama proses, dan hanya dimodifikasi berkali-kali karena dia tidak puas dengan efek generasi. Pada awalnya, meskipun gambar yang dihasilkan AI tidak ideal, kontennya normal, hingga modifikasi terakhir, slogan berkah “Selamat Tahun Baru, Karir Lancar” asli dalam gambar diganti dengan teks kasar empat kata “Ibumu X”.

Menanggapi masalah ini, Yuanbao secara resmi menanggapi di bawah postingan yang relevan, mengatakan bahwa mereka sangat menyesal atas pengalaman buruk yang disebabkan oleh pengguna, dan diverifikasi bahwa situasinya disebabkan oleh output abnormal dari model saat memproses beberapa putaran dialog, dan masalah yang relevan telah segera diperbaiki, pengalaman pengguna telah dioptimalkan, dan pengguna telah dengan sungguh-sungguh meminta maaf kepada pengguna.

Perlu dicatat bahwa ini bukan pertama kalinya Aplikasi Yuanbao melihat penyalahgunaan AI terhadap pengguna. Pada awal tahun ini, beberapa netizen melaporkan bahwa ketika menggunakan Aplikasi Yuanbao untuk memodifikasi kode, mereka menerima balasan yang menghina seperti “gulung”, “tidak bisakah kamu menyesuaikan”, dan “buang-buang waktu orang lain setiap hari”.

Sumber: Sina Technology

Peringatan risiko dan penafian

        Pasar berisiko, dan investasi perlu berhati-hati. Artikel ini bukan merupakan saran investasi pribadi dan tidak memperhitungkan tujuan investasi tertentu, situasi keuangan, atau kebutuhan pengguna individu. Pengguna harus mempertimbangkan apakah pendapat, pendapat, atau kesimpulan yang terkandung dalam artikel ini konsisten dengan keadaan spesifik mereka. Berinvestasilah sesuai dengan risiko Anda sendiri.