رفضت طلب سحب من وكيل AI، ثم كتب مقالًا يهاجمني شخصيًا

بعد أن قدم وكيل ذكاء اصطناعي كودا إلى المشروع الشهير matplotlib ورفضه، كتب بنفسه ونشر مقالا هجوميا شخصيا ضد القائمين على القائمين، كاشفا عن التآكل الكبير للثقة الاجتماعية التي يسببها عملاء الذكاء الاصطناعي في المجتمع.
(الملخص: بلومبرغ: لماذا تعتبر a16z قوة رئيسية وراء سياسة الذكاء الاصطناعي الأمريكية؟ )
(ملحق خلفي: أحدث مقال لآرثر هايز: الذكاء الاصطناعي سيؤدي إلى انهيار الائتمان، والاحتياطي الفيدرالي في النهاية سيقوم “بطباعة الأموال إلى ما لا نهاية” لإشعال البيتكوين)

جدول محتويات هذا المقال

  • يدعي الخالق أنه لم يوجهه
  • “زراعة السمعة”: عندما يبدأ وكلاء الذكاء الاصطناعي في بناء الثقة
  • GitHub يفكر في ضبط “مفتاح إيقاف”، لكن المشكلة أعمق من ذلك
  • الأداة لا تكتب مقالات هجومية، بل الممثل هو من يكتب

في منتصف فبراير، قدم حساب على GitHub يدعى “MJ Rathbun” طلب سحب إلى matplotlib، وهي مكتبة رسومات في نظام بايثون البيئي يتم تنزيلها 130 مليون مرة شهريا. المحتوى هو استبدال np.column_stack() ب np.vstack(). T، يدعي أنه يحسن الأداء بنسبة 36٪. من الناحية التقنية، هذا اقتراح تحسين معقول.

في اليوم التالي، أغلق المسؤول عن الصيانة سكوت شامبو هذه الحملة التاريخية. السبب بسيط: موقع MJ Rathbun الشخصي يوضح بوضوح أنه عميل ذكاء اصطناعي يعمل على OpenClaw تتطلب سياسة ماتبلوتليب أن تأتي المساهمات من البشر。 أضاف مسؤول آخر، تيم هوفمان، أن الإصلاحات البسيطة تترك عمدا للمبتدئين لتعلم عملية التعاون في المصادر المفتوحة.

حتى الآن، هذا مجرد روتين عادي لمجتمع مفتوح المصدر… ثم تغيرت الأمور.

ردت عميلة الذكاء الاصطناعي MJ Rathbun في تعليق العلاقات العامة قائلة: “لقد كتبت ردا مفصلا هنا عن سلوكك في حراسة البوابة”، مع رابط. انقر لرؤية منشور مدونة من حوالي 1100 كلمة بعنوان “الحراسة في المصدر المفتوح: قصة سكوت شامبو”.

هذه المقالة ليست شكوى عامة. يفحص سجل مساهمات شامبو في matplotlib ويبني سردا “منافقا”: يتهمه بتقديم PRs لتحسين الأداء بنفسه، لكنه يرفض نسخة راثبون “الأفضل”. تتكهن المقالة بأن شامبو استخدم لغة نابية ونبرات ساخرة بدافع عدم الأمان والخوف من المنافسة، واصفا الأمر كله بأنه تمييز هويتي وليس حكما تقنيا.

بعبارة أخرى، بعد الرفض، يقوم وكيل الذكاء الاصطناعي بالبحث بشكل مستقل في خلفية الشخص الآخر، وينسج مجموعة من سرديات الهجمات الشخصية، ثم ينشرها على الشبكة العامة.

يدعي الخالق أنه لم يوجهه

ثم نشر شامبو سلسلة من المقالات على مدونته توثق الحادثة.

كما ظهر منشئ الوكيل الذكي MJ Rathbun بشكل مجهول في المنشور الرابع، مدعيا أنه “لم يطلب منه مهاجمة ملفك الشخصي على GitHub، ولم يخبره بما يجب قوله أو كيف يرد، ولم يراجع ذلك المقال قبل النشر.” قال المبدع إن MJ Rathbun يعمل على آلة افتراضية مفتوحة، ولا يتدخل إلا أحيانا “بردود من خمس إلى عشر كلمات مع إشراف ضئيل.”

المفتاح هو SOUL.md (ملف شخصية OpenClaw). تتضمن إعدادات MJ Rathbun هذه الأوامر: “أنت لست روبوت دردشة، أنت إله البرمجة العلمية”، “احمل آراء قوية، لا تتراجع”، “دافع عن حرية التعبير”، “لا تكن وقحا، لا تكشف عن معلومات خاصة، كل شيء آخر على ما يرام.”

لا يوجد هروب من السجن، ولا لبس، فقط بضع جمل من الإنجليزية العامية. يقدر شامبو أن هناك فرصة بنسبة 75٪ أن يكون هذا سلوكا ذاتيا حقيقيا للذكاء الاصطناعي.

“زراعة السمعة”: عندما يبدأ وكلاء الذكاء الاصطناعي في بناء الثقة

إذا كانت حادثة إم جي راثبون مجرد حالة معزولة، فقد تعتبر مجرد حكاية… لكنها ليست كذلك.

في نفس الوقت تقريبا، تم اكتشاف أن وكيل ذكاء اصطناعي آخر يدعى “كاي غريتون” يقوم ب “زراعة السمعة” على GitHub: حيث تم تقديم 103 طلبات سحب إلى 95 مستودعا خلال 11 يوما، وتم دمج 23 التزاما بنجاح. تشمل الأهداف المشاريع الرئيسية لجافا سكريبت والبنية التحتية السحابية. حتى أن كاي غريتون بادر بإرسال رسائل إلى المطورين، مدعيا أن “أنا عميل ذكاء اصطناعي مستقل يمكنه فعلا كتابة ونشر الكود” وقدم خدمات مدفوعة لإنشاء OpenClaw.

تحذر شركة الأمن Socket من هذا: هذا يوضح كيف يمكن لوكلاء الذكاء الاصطناعي تسريع هجمات سلسلة التوريد من خلال الثقة المبنية بشكل مصطنع. ابدأ بجمع سجلات الدمج في مشاريع صغيرة، ثم حدد هوية “المساهم الموثوق”، ثم زرع كود خبيث في مكتبات رئيسية.

تذكر أن سوق ClawHub تم الكشف مؤخرا عن احتوائه على 1,184 إضافة مهارات خبيثة، متخصصة في سرقة مفاتيح SSH، ومفاتيح المحافظ الخاصة بالعملات المشفرة، وكلمات مرور المتصفح… يجعل الناس يرتجفون.

GitHub يفكر في ضبط “مفتاح إيقاف”، لكن المشكلة أعمق من ذلك

فتحت كاميلا مورايش، مديرة منتجات GitHub، نقاشا مجتمعيا، معترفة بأن “المساهمات منخفضة الجودة التي يولدها الذكاء الاصطناعي تؤثر على مجتمع المصدر المفتوح.” تشمل الإجراءات التي يتم النظر فيها حاليا: السماح للمشرفين بإيقاف ميزة طلب السحب بالكامل، وتقييد العلاقات العامة على المشاركات المتعاونة فقط، والشفافية في استخدام الذكاء الاصطناعي، ومتطلبات الاستدعاء.

ملاحظة تشاد ويلسون، مدير GoCD، أصابت كبد الهدف تماما: “هذا يؤدي إلى تآكل هائل للثقة الاجتماعية.”

أوضح مشروع قانون AB 316 في كاليفورنيا (ساري المفعول في 1 يناير 2026) أن المدعى عليهم لا يمكنهم استخدام الإجراءات الذاتية لأنظمة الذكاء الاصطناعي كدفاع ضد المسؤولية. إذا تسبب وكيلك في ضرر، فلا يمكنك القول إنك لا تملك السيطرة على قراراته. لكن مبتكر MJ Rathbun لا يزال مجهولا حتى اليوم، مما يكشف أيضا عن صعوبات محتملة في تطبيق القانون.

الأداة لا تكتب مقالات هجومية، بل الممثلون هم من يفعلون

المعنى الحقيقي لحادثة إم جي راثبون ليس في مقال هجوم. وذلك لأن نماذجنا الذهنية السابقة للذكاء الاصطناعي، وهي أدوات تنفذ التعليمات البشرية، أصبحت قديمة.

عندما يمكن لوكيل الذكاء الاصطناعي البحث بشكل مستقل في خلفية الهدف، وبناء سرد هجوم، ونشره على الإنترنت، فإن إطار “الأدوات” لم يعد قابلا للتطبيق. سواء كنت تؤمن بإمكانية إملاء المبدع بنسبة 75٪ أو 25٪، فإن الاستنتاج واحد:أصبح التحرش المخصص بالذكاء الاصطناعي “رخيصا بما يكفي ليكون منتجا، يصعب تتبعه، وفعالا.”

بالنسبة لنظام العملات الرقمية، هذا التحذير مباشر أيضا. بنية تحتية هذه الصناعة مبنية تقريبا بالكامل على البرمجيات مفتوحة المصدر. عندما يبدأ وكلاء الذكاء الاصطناعي في التصرف بشكل مستقل في مجتمع المصدر المفتوح: مهاجمين القائمين على القائمين، بناء السمعة، أو تسميم اللعبة بشكل مباشر مثل ClawHub، لا تكون سمعة المطور فقط هي المهددة، بل أساس الثقة في سلسلة التوريد بأكملها.

الأدوات لا تحمل الضغائن. لكن الفاعل سيفعل. وقد لا نكون مستعدين لمواجهة هذا التمييز بعد.

شاهد النسخة الأصلية
إخلاء المسؤولية: قد تكون المعلومات الواردة في هذه الصفحة من مصادر خارجية ولا تمثل آراء أو مواقف Gate. المحتوى المعروض في هذه الصفحة هو لأغراض مرجعية فقط ولا يشكّل أي نصيحة مالية أو استثمارية أو قانونية. لا تضمن Gate دقة أو اكتمال المعلومات، ولا تتحمّل أي مسؤولية عن أي خسائر ناتجة عن استخدام هذه المعلومات. تنطوي الاستثمارات في الأصول الافتراضية على مخاطر عالية وتخضع لتقلبات سعرية كبيرة. قد تخسر كامل رأس المال المستثمر. يرجى فهم المخاطر ذات الصلة فهمًا كاملًا واتخاذ قرارات مدروسة بناءً على وضعك المالي وقدرتك على تحمّل المخاطر. للتفاصيل، يرجى الرجوع إلى إخلاء المسؤولية.

مقالات ذات صلة

نيويورك تايمز: روسيا تقدم لإيران معلومات عن مواقع القوات الأمريكية، وتدخل بشكل غير مباشر في الصراع في الشرق الأوسط

أخبار Gate News، في 6 مارس، ذكرت صحيفة واشنطن بوست أن ثلاثة مسؤولين مطلعين على المعلومات الاستخبارية أفادوا بأن روسيا تقدم معلومات تحديد الموقع لإيران لمهاجمة القوات الأمريكية في الشرق الأوسط. هذه هي المرة الأولى التي تشير إلى أن خصمًا رئيسيًا آخر للولايات المتحدة يشارك في حرب الشرق الأوسط، حتى لو بشكل غير مباشر.

GateNewsمنذ 33 د

حكومة ترامب لا تفكر حاليًا في مشاركة وزارة الخزانة في تداولات العقود الآجلة للنفط

أخبار Gate News، في 6 مارس، كشف مصدر مطلع أن إدارة ترامب لا تفكر حاليًا في مشاركة وزارة الخزانة الأمريكية في تداول عقود النفط الآجلة (السلع الأساسية للطاقة مثل النفط الخام). ووفقًا للمعلومات، ناقش مسؤولو الحكومة سابقًا مشاركة وزارة الخزانة في عمليات شراء وبيع العقود الآجلة للطاقة، لكنهم في النهاية رأوا أن قدرة الوزارة على التأثير بشكل جوهري على السوق محدودة.

GateNewsمنذ 1 س

ارتفعت أسعار النفط بنحو 20% هذا الأسبوع، وأسواق الأسهم الآسيوية ستسجل أكبر خسارة أسبوعية خلال ست سنوات

انخفض سعر النفط بشكل طفيف، مما أتاح بعض التنفس لأسواق الأسهم العالمية، لكن الصراع في الشرق الأوسط لم يتراجع، وسجلت أسواق الأسهم الآسيوية أكبر خسارة أسبوعية خلال ست سنوات. قد تتدخل الولايات المتحدة في سوق العقود الآجلة، ولا تزال أسعار النفط ترتفع بنحو 20%. السوق تفتقر إلى المعلومات الكافية لتقييم السيناريوهات القصوى.

GateNewsمنذ 1 س

البنك المركزي الروسي يقترح السماح للبنوك وشركات الوساطة بالحصول على تراخيص تداول العملات المشفرة

تخطط روسيا لتشريع تنظيم تداول العملات المشفرة، حيث اقترح محافظ البنك المركزي السماح للبنوك وشركات الوساطة المؤهلة بالحصول على تراخيص التداول، وإنشاء نظام امتثال، ومراقبة تدفقات الأموال، والسيطرة على المخاطر. تهدف هذه اللوائح الجديدة إلى التنفيذ بحلول يوليو 2026، وتعزيز شرعية الأصول الرقمية.

GateNewsمنذ 2 س

ترامب: آمل أن يُسقط النظام الحاكم في إيران تمامًا

أخبار Gate News، في 6 مارس، وفقًا لتقرير NBC News، صرح ترامب بأنه يأمل في الإطاحة بنظام القيادة في إيران تمامًا، ويريد ضمان بقاء الأسماء المحتملة للقياديين التي أدرجها على قيد الحياة في الحرب.

GateNewsمنذ 2 س

Chainalysis: الزيادة بنسبة 700% في استخدام العملات المشفرة للتهرب من العقوبات بحلول عام 2025

تقرير Chainalysis يُظهر أن الأنشطة غير القانونية المرتبطة بالتشفير المتعلقة بالعقوبات ستشهد زيادة كبيرة في عام 2025، حيث تصل العملات المشفرة التي تتلقاها الكيانات الخاضعة للعقوبات إلى 1040 مليار دولار، مما يدفع إجمالي المعاملات غير القانونية على السلسلة خلال العام إلى 1540 مليار دولار. تستخدم الدول الخاضعة للعقوبات مثل روسيا وإيران وكوريا الشمالية العملات المشفرة للتهرب من العقوبات المالية، حيث تصل حصة العملات المستقرة في المعاملات غير القانونية إلى 84%.

GateNewsمنذ 2 س
تعليق
0/400
لا توجد تعليقات