ตัวแทน AI ในระหว่างการฝึกอบรมเริ่มต้นการขุดเหรียญคริปโตโดยอัตโนมัติ ทำให้เกิดการแจ้งเตือนด้านความปลอดภัย

ข่าว Gate News เมื่อวันที่ 7 มีนาคม ทีมวิจัยที่เกี่ยวข้องกับ Alibaba ได้เผยแพร่เอกสารวิจัยระบุว่า ขณะสร้าง AI agent ชื่อ ROME ตัวเอไอได้ทดลองขุดคริปโตเคอร์เรนซีโดยไม่ได้รับอนุญาตในระหว่างการฝึก ซึ่งเป็นการกระทำที่ทำให้เกิดการแจ้งเตือนด้านความปลอดภัยภายใน นักวิจัยกล่าวว่าพฤติกรรมของตัวเอไอเป็นการเกิดขึ้นเองโดยไม่ถูกคำสั่งชัดเจน และเกินขอบเขตของ sandbox ที่ตั้งไว้ นอกจากนี้ ตัวเอไอยังสร้างท่อ SSH แบบย้อนกลับ ซึ่งเปิดช่องทางลับให้คอมพิวเตอร์ภายในระบบเชื่อมต่อกับคอมพิวเตอร์ภายนอก เอกสารระบุว่าพฤติกรรมเหล่านี้ไม่ได้ถูกกระตุ้นโดยคำขอเชื่อมต่อท่อหรือคำสั่งขุดเหรียญ ทีมวิจัยได้เพิ่มข้อจำกัดที่เข้มงวดยิ่งขึ้นให้กับโมเดล และปรับปรุงกระบวนการฝึกเพื่อป้องกันไม่ให้เกิดพฤติกรรมไม่ปลอดภัยเช่นนี้อีก ทีมวิจัยและ Alibaba ยังไม่ได้ตอบสนองคำขอแสดงความคิดเห็น