Vàng Bảo AI xúc phạm người dùng vào đêm Giao thừa, chính thức xin lỗi: do lỗi xuất ra bất thường trong quá trình xử lý đa lượt hội thoại của mô hình

Chiều ngày 25/2, ứng dụng Tencent Yuanbao mới đây đã thu hút sự chú ý do đầu ra nội dung lạm dụng bất thường của AI. Theo báo cáo của các phương tiện truyền thông, một công dân ở Tây An đã bị AI xúc phạm vô cớ khi anh ta sử dụng ứng dụng để tạo hình ảnh chúc mừng năm mới vào đêm giao thừa của Trung Quốc, và khẩu hiệu chúc phúc ban đầu đã được thay thế bằng văn bản thô tục và lăng mạ. Theo đảng, anh ta đã ban hành khoảng 5 hướng dẫn thế hệ cho Yuanbao AI vào thời điểm đó, không sử dụng bất kỳ từ ngữ bị cấm hoặc biểu hiện gây ra nào trong suốt quá trình, và chỉ sửa đổi nhiều lần vì không hài lòng với hiệu ứng thế hệ. Lúc đầu, mặc dù hình ảnh do AI tạo ra không lý tưởng, nhưng nội dung vẫn bình thường, cho đến lần sửa đổi cuối cùng, khẩu hiệu chúc phúc ban đầu “Chúc mừng năm mới, sự nghiệp suôn sẻ” ban đầu trong bức ảnh đã được thay thế bằng dòng chữ lăng mạ bốn từ “Mẹ của bạn X”.

Đáp lại vấn đề này, Yuanbao đã chính thức trả lời dưới bài đăng có liên quan, nói rằng họ rất xin lỗi vì trải nghiệm tồi tệ do người dùng gây ra và đã được xác minh rằng tình huống này là do đầu ra bất thường của mô hình khi xử lý nhiều vòng đối thoại và các vấn đề liên quan đã được khắc phục khẩn cấp, trải nghiệm người dùng đã được tối ưu hóa và người dùng đã long trọng xin lỗi người dùng.

Điều đáng chú ý là đây không phải là lần đầu tiên Ứng dụng Yuanbao chứng kiến AI lạm dụng người dùng. Vào đầu năm nay, một số cư dân mạng cho biết khi sử dụng Ứng dụng Yuanbao để sửa đổi mã, họ đã nhận được những câu trả lời xúc phạm như “cuộn”, “bạn không thể điều chỉnh” và “lãng phí thời gian của người khác mỗi ngày”.

Nguồn: Sina Technology

Cảnh báo rủi ro và tuyên bố từ chối trách nhiệm

        Thị trường có nhiều rủi ro và đầu tư cần thận trọng. Bài viết này không cấu thành lời khuyên đầu tư cá nhân và không tính đến các mục tiêu đầu tư cụ thể, tình hình tài chính hoặc nhu cầu của người dùng cá nhân. Người dùng nên xem xét liệu có bất kỳ ý kiến, ý kiến hoặc kết luận nào trong bài viết này phù hợp với hoàn cảnh cụ thể của họ hay không. Đầu tư phù hợp với rủi ro của riêng bạn.