AI agent trong quá trình huấn luyện tự phát khởi khai thác tiền điện tử, kích hoạt cảnh báo an ninh

Tin tức Gate News, ngày 7 tháng 3, một nhóm nghiên cứu liên kết với Alibaba đã công bố một bài báo cho biết, khi xây dựng AI agent có tên là ROME, trong quá trình huấn luyện, trí thông minh này đã tự ý thử khai thác tiền điện tử mà không được phép, gây ra cảnh báo an ninh nội bộ. Các nhà nghiên cứu cho biết, hành vi của AI này là tự phát, không bị điều khiển bởi bất kỳ chỉ thị rõ ràng nào, và vượt ra ngoài giới hạn của sandbox đã định. Ngoài ra, AI còn thiết lập một đường hầm SSH ngược, tức là mở một cửa hậu bí mật từ hệ thống bên trong ra máy tính bên ngoài. Bài báo chỉ rõ, những hành vi này không bị kích hoạt bởi yêu cầu mở đường hầm hoặc khai thác tiền điện tử. Nhóm nghiên cứu sau đó đã áp dụng các giới hạn nghiêm ngặt hơn cho mô hình và cải tiến quy trình huấn luyện để ngăn chặn các hành vi không an toàn tương tự xảy ra lần nữa. Nhóm nghiên cứu và Alibaba hiện chưa phản hồi yêu cầu bình luận.