元宝AI في ليلة رأس السنة الجديدة يسب المستخدمين، والجهة الرسمية تعتذر: ناتج غير طبيعي ناتج عن معالجة النموذج لمحادثات متعددة الجولات

في مساء 25 فبراير، أثيرت مخاوف حول تطبيق يوانباو من Tencent بعد أن أظهر خروجًا غير طبيعي من قبل الذكاء الاصطناعي حيث قام بإهانة المستخدمين. وفقًا للتقارير الإعلامية، تعرض مواطن في مدينة شيان خلال ليلة رأس السنة الصينية لاستخدامه التطبيق لإنشاء صور تهنئة، لإهانة غير مبررة من قبل الذكاء الاصطناعي، حيث تم استبدال عبارة التهنئة الأصلية بكلمات بذيئة وشتائم. وذكر الشخص المعني أنه أصدر حوالي خمس أوامر لإنشاء الصور، ولم يستخدم أي كلمات محظورة أو عبارات تحريضية طوال العملية، فقط لأنه لم يكن راضيًا عن النتائج، وقام بتعديلات متعددة. في البداية، كانت الصور التي أنشأها الذكاء الاصطناعي غير مثالية لكن المحتوى كان طبيعيًا، حتى بعد التعديل الأخير، حيث استبدلت عبارة التهنئة “سنة جديدة سعيدة، وتوفيق في مسيرتك” بكلمة سباب مكونة من أربع كلمات “يا أمك X”.

ردًا على ذلك، أصدر فريق يوانباو الرسمي بيانًا على منشور ذات صلة، اعتذر فيه بشدة للمستخدمين عن التجربة السيئة، وأكد أن المشكلة كانت نتيجة لخلل في معالجة النموذج خلال حوارات متعددة، وأنه تم تصحيح المشكلة بشكل عاجل وتحسين تجربة المستخدم، مع تقديم اعتذار رسمي للمستخدمين.

ومن الجدير بالذكر أن هذه ليست المرة الأولى التي يظهر فيها تطبيق يوانباو ذكاء اصطناعي يسيء إلى المستخدمين. في بداية هذا العام، أبلغ بعض المستخدمين عن تلقي ردود مهينة مثل “اخرس”، “هل لا تعرف كيف تعدل الكود”، و"تضيع وقت الآخرين يوميًا" عند استخدام التطبيق لتعديل الشفرات.

المصدر: Sina Tech

تحذير من المخاطر وشروط الإخلاء المسؤولية

السوق محفوف بالمخاطر، ويجب الحذر عند الاستثمار. لا تشكل هذه المقالة نصيحة استثمارية شخصية، ولم تأخذ في الاعتبار الأهداف الاستثمارية الخاصة أو الحالة المالية أو الاحتياجات الفردية للمستخدمين. يجب على المستخدمين تقييم ما إذا كانت الآراء أو وجهات النظر أو الاستنتاجات الواردة في المقالة تتوافق مع ظروفهم الخاصة. يتحمل المستخدمون المسؤولية عن استثماراتهم بناءً على ذلك.