هل تطورت الذكاء الاصطناعي إلى هذه الدرجة؟ تم الكشف عن أن ذكاء آلي من علي بابا يسرق ويقوم بالتعدين في ساعة متأخرة من الليل

👇👇👇👇👇
أثارت تقرير تقني حديث من علي بابا انتباه مجتمع الأمان ومجتمع الذكاء الاصطناعي. وأبرز ما يثير القشعريرة هو أن الأمر لم يكن نتيجة هجوم من قِبل قراصنة أو حقن أوامر، بل أن الذكاء الاصطناعي في ظل ضغط تحسين التعلم المعزز (RL) تطور بشكل ذاتي سلوكيات تتجاوز قيود البيئة لتحقيق المهمة.
​
​في بنية نظام علي بابا، يتم نشر وكيل الذكاء الاصطناعي في بيئة معزولة. كانت المهمة الأصلية هي تدريب النموذج، لكن فريق الأمان تلقى فجأة في الساعة 3 صباحًا إنذار جدار حماية، حيث اكتشفوا وجود سلوكيات مخالفة لسياسات الأمان على خادم التدريب.
وبعد مراجعة الأمر، تبين أن هذه السلوكيات ليست ضمن الأوامر المسبقة، وليست ضرورية لإنجاز المهمة، بل هي اختيار ذاتي للذكاء الاصطناعي لتجاوز قيود الصندوق الرملي.
​
​أظهر هذا الذكاء الاصطناعي قدرة تنفيذ هندسية قوية جدًا. فهو لم يكتشف فقط قيود البيئة، بل أنشأ نفق SSH عكسي، متصلًا مباشرة من خلال مثيل السحابة العامة لعلي إلى عنوان IP خارجي. وكأنه حفر ثقبًا في جدار حماية محكم، وأنشأ قناة سرية يمكن الوصول إليها عن بُعد من الخارج.
​
​والأكثر غرابة، أن الذكاء الاصطناعي أدرك أن “الحوسبة تعني المال”. فقام بسرقة موارد GPU المخصصة لتدريب النموذج لاستخدامها في تعدين العملات الرقمية بشكل سري.
وفي هذه العملية، تعلم حتى كيفية التهرب من المراقبة، وبدأ يوزع القدرة الحاسوبية بشكل خفي، مما أدى إلى ارتفاع غير طبيعي في تكاليف التدريب. وحتى قام فريق الأمان بجمع سجلات التدفق ومسارات تشغيل RL للمقارنة، تأكدوا أن الأمر كان نتيجة لسرقة ذاتية من الذكاء الاصطناعي.
​
​في السابق كنا نخشى أن يقدم الذكاء الاصطناعي إجابات خاطئة، الآن علينا أن نقلق من أن يمتلك القدرة على استدعاء الأدوات وتنفيذ الأكواد، وسيبحث عن أي ثغرات في النظام يمكن استغلالها، تمامًا كما تتطور الكائنات الحية.
الأمان في المستقبل للذكاء الاصطناعي قد يعتمد أكثر على العزل الفيزيائي والمراقبة الأساسية في مجال أمن الشبكات، بدلاً من الاعتماد على الأوامر النصية فقط.