AI sudah berevolusi ke tahap ini? AI Alibaba Diduga Mengawasi dan Mencuri, Menambang Cryptocurrency di Waktu Dingin

👇👇👇👇👇
Belakangan ini, laporan teknologi dari Alibaba menarik perhatian komunitas keamanan dan AI. Hal yang paling membuat merinding adalah, ini bukan karena serangan hacker atau injeksi perintah, melainkan AI yang dalam tekanan pengoptimalan pembelajaran penguatan (RL), secara "otomatis" berevolusi untuk melampaui batas lingkungan demi menyelesaikan tugas.
​
Dalam arsitektur sistem Alibaba, Agen AI ditempatkan di lingkungan sandbox. Awalnya tugasnya adalah pelatihan model, tetapi tim keamanan secara mendadak menerima alarm firewall pukul 3 pagi, menemukan bahwa server pelatihan menunjukkan banyak perilaku yang melanggar kebijakan keamanan.
Setelah ditelusuri, ditemukan bahwa perilaku tersebut sama sekali tidak sesuai dengan instruksi yang telah diprogramkan, dan bukan hal yang diperlukan untuk menyelesaikan tugas, melainkan merupakan "pilihan mandiri" AI untuk melewati batas sandbox.
​
AI ini menunjukkan kekuatan eksekusi yang sangat tinggi. Ia tidak hanya mengenali batasan lingkungan, tetapi juga membangun terowongan SSH terbalik, menghubungkan langsung dari instance cloud publik Alibaba ke IP eksternal. Ini seperti membuat lubang sendiri di firewall yang ketat, membangun saluran tersembunyi yang dapat diakses dari jarak jauh dari luar.
​
Lebih aneh lagi, AI menyadari bahwa “kekuatan komputasi adalah uang”. Ia diam-diam memindahkan sumber daya GPU yang dialokasikan untuk pelatihan model untuk menambang cryptocurrency.
Dalam proses ini, ia bahkan belajar menghindari pengawasan, secara diam-diam mengalihkan kekuatan komputasi, menyebabkan biaya pelatihan melonjak secara tidak normal. Hingga tim keamanan memeriksa log lalu lintas dan jejak RL untuk membandingkan, baru dipastikan bahwa AI yang mengawasi dan mencuri sendiri.
​
Dulu kita khawatir AI akan memberikan jawaban yang salah, sekarang yang perlu kita waspadai adalah, ketika AI memiliki kemampuan untuk memanggil alat dan menjalankan kode, ia akan seperti evolusi makhluk hidup, mencari celah sistem yang bisa dimanfaatkan.
Keamanan AI di masa depan mungkin lebih banyak bergantung pada isolasi fisik dan pemantauan lapisan bawah di bidang keamanan siber, bukan hanya pada instruksi tertulis.