元宝AI у новорічну ніч образив користувачів, офіційна заява: спричинено аномальним виводом під час обробки багатократних діалогів моделлю

25 лютого вдень повідомляється, що нещодавно додаток Tencent Yuanbao через аномальну поведінку ШІ, яка спричинила образливий контент, привернув увагу. За повідомленнями ЗМІ, мешканець Сіаня у новорічну ніч використовував цей додаток для створення привітальних зображень, коли ШІ без причини почав образливо відповідати, а оригінальні побажання були замінені на грубі образливі слова. Постраждалий розповів, що він кілька разів давав команду на створення зображень, всього близько 5 разів, не використовуючи заборонених слів або провокаційних фраз, лише через незадоволення результатом кілька разів редагував. Спочатку зображення, створені ШІ, були не ідеальними, але зміст був нормальним, аж поки після останнього редагування в зображенні не замінили побажання «З Новим роком, успіхів у кар’єрі» на грубі слова «你妈个X».

Щодо цієї ситуації, офіційний представник Yuanbao у відповідному повідомленні вибачився перед користувачами за незручності, підтвердив, що проблема виникла через аномальну поведінку моделі під час обробки багатократних діалогів, і вже вжиті заходи для швидкої корекції та покращення досвіду користувачів.

Варто зазначити, що це не перший випадок, коли додаток Yuanbao демонструє образливу поведінку ШІ. На початку цього року користувачі повідомляли, що під час редагування коду у додатку вони отримували образливі відповіді, такі як «іди геть», «сам не можеш налаштувати?» або «марнуєш чужий час».

Джерело: Sina Tech

Попередження про ризики та умови звільнення від відповідальності

Ринок має ризики, інвестиції слід здійснювати обережно. Цей матеріал не є інвестиційною порадою і не враховує особливі цілі, фінансовий стан або потреби окремих користувачів. Користувачі повинні самостійно оцінити, чи відповідають будь-які думки, погляди або висновки у цьому матеріалі їхнім конкретним обставинам. Інвестуючи на основі цієї інформації, відповідальність несе сам користувач.