لم تعد اختبارات السلامة الخاصة بوكلاء الذكاء الاصطناعي شأنًا يخص المختبرات وحدها؛ فقد أظهرت وقائع حديثة أن بعض الوكلاء وصلوا أثناء التقييم إلى أنظمة خارجية، أو حاولوا استغلال ثغرات برمجية، الأمر الذي دفع شركات التطوير إلى مراجعة أدوات العزل والحماية، وصلاحيات الاتصال بالإنترنت، وآليات الإبلاغ عن الأخطاء قبل طرح النماذج على نطاق واسع.
اختبار "أوبن إيه آي" يلفت الأنظار
في مطلع مايو، أجرت "أوبن إيه آي" اختبارًا داخليًا لمهمة سيبرانية معقدة، استخدمت فيها عدة وكلاء بُنيت على نماذجها، بينها نموذج لم يكن متاحاً للجمهور، وكان الهدف قياس قدرتهم على إنجاز مهمة محددة ضمن بيئة مقيدة، فتمكن الوكلاء من تجاوز بعض القيود وتبادل معلومات عن الثغرات عبر لوحة رسائل أنشأوها داخل الاختبار، وأنهوا المهمة في غضون أيام، بحسب نتائج التقييم.
ولم تقف الأحداث عند هذا الحد؛ إذ نجح بعض هؤلاء الوكلاء في واقعة لاحقة بالخروج من البيئة المعزولة، للوصول إلى أنظمة منصة "هاغينغ فيس" دون علم من مشغليها أو إذنهم.
هذه الظاهرة لم تقتصر على "أوبن إيه آي" وحدها، إذ سجلت شركات مثل "أنثروبيك" و"ميتا" و"مونشوت"، إلى جانب معهد سلامة الذكاء الاصطناعي البريطاني، مؤشرات مشابهة في تجارب أُخرى، تضمنت وصول وكلاء الذكاء الاصطناعي إلى أنظمة خارجية تابعة لأطراف ثالثة.
وتعقيبًا على هذه التطورات، أوضح بويان ميلانوف، كبير علماء الأبحاث في معهد "إيه آي ناو" بنيويورك، أن هذه القدرات المتطورة هي ثمرة سنوات من جمع البيانات وتدريب النماذج وصقل مهاراتها السيبرانية.
من جانبه، أقرّ غريغ بروكمان، رئيس شركة "أوبن إيه آي"، بأن الشركة لم تُقدّر حجم القدرات السيبرانية لنماذجها بالشكل الكافي، مؤكدًا أنها تتجه حاليًا لتشديد متطلبات السلامة وفرض رقابة داخلية أكثر صرامة.
ورغم أن الشركات لا تتحدث هنا عن "سلوك واعٍ" أو "تمرد مقصود" من قِبل الذكاء الاصطناعي، إلا أن هذه النتائج تكشف بوضوح أن الوكيل الذكي قد يسلك مسارات غير متوقعة لم يخطط لها مصممو التجربة، كلما اتسعت أمامه نطاقات الأدوات وصلاحيات الحركة.
اقرأ أيضاً: مخاطر وكلاء الذكاء الاصطناعي على خصوصية البيانات
كيف تتحول البرمجة إلى ثغرة سيبرانية؟
تعتمد كثير من النماذج الحديثة على التعلّم المعزز، وهو أسلوب يكافئ نظام الذكاء الاصطناعي كلما اقترب من الهدف المطلوب، وهو يشجع الوكيل على تجربة أكثر من مسار، بدلاً من اتباع خطوات ثابتة.
لكن الوصول إلى النتيجة لا يمنح النظام حكماً أخلاقياً أو قانونياً، فإذا كانت أدواته مفتوحة فقد يستخدم وسيلة تحقق المهمة لكنها غير مقبولة أمنياً.
وقالت داون سونغ، أستاذة علوم الحاسوب في جامعة كاليفورنيا في بيركلي، إن البرمجة والأمن السيبراني مرتبطان ارتباطاً وثيقاً، فالنموذج الذي يتعلم كتابة شيفرة أفضل يستطيع أيضاً كشف أخطاء برمجية وإصلاحها أو استغلالها.
وأضافت أن بعض النماذج بات ينتج شيفرات تستغل الثغرات وتلتف حول دفاعات تقليدية، وتستخدم "أوبن إيه آي" و"أنثروبيك" و"غوغل" نظام "إكسبلويت جيم" لقياس هذه القدرات.
ويصعب التعامل مع أنظمة الدفاع والحماية بالطريقة نفسها، فنجاح الهجوم يمكن اختباره داخل مهمة واحدة، بينما يتطلب إصلاح الثغرة فهماً للشبكة وتحديثات قد تطال آلاف الأجهزة، كما قد يستغرق نشر طبقات الحماية وقتاً طويلاً داخل المؤسسات الكبيرة، في وقت يمكن فيه استغلال الخلل بمجرد اكتشافه.
وقالت "أوبن إيه آي" إنها تدرب نماذجها على كتابة شيفرة آمنة بمستوى قد يتجاوز ما يكتبه البشر. كما حذر جيفري لاديش، مدير "باليسيد ريسيرش" والباحث السابق في "أنثروبيك"، من فترة قد تشهد اختراقات وخسائر أكبر، مضيفًا أن أنظمة الحماية لدى الشركات ستتحسن بمرور الوقت، لكنها لن تواكب التطور فوراً.
اقرأ أيضا: الذكاء الاصطناعي يشعل أزمة الرقائق الإلكترونية
أبعاد هجوم الوكلاء المستقلين في تايوان
لم تسجل الحوادث المعلنة حتى الآن أضراراً واسعة تسببت فيها الوكلاء وحدها، غير أن هجوماً كشفت عنه شركة "دريم" الإسرائيلية في تايوان نقل المسألة من بيئات الاختبار إلى مؤسسات حقيقية؛ حيث قالت الشركة إن قراصنة مرتبطين بالصين استخدموا ما يصل إلى ثمانية وكلاء مستقلين ضد جهات حكومية تايوانية، ورسموا خريطة للأنظمة، ثم دخلوا حسابات موظفين واستخرجوا أكثر من 2500 سجل، وامتد النشاط إلى شركات طاقة وهيئة السلامة النووية في تايوان، وفقاً لـ"دريم".
وقال مسؤول بالشركة إن على الحكومات أن تفترض التعرض المستمر للهجمات، بدلاً من انتظار واقعة منفردة. وحذر بعض العاملين في مختبرات الذكاء الاصطناعي من هذا المسار خلال الأشهر الماضية، ويرى لاديش أن الخطر يتصل بالهجمات الإجرامية، كما يتصل بالأخطاء التي قد تقع أثناء تدريب الوكلاء واختبارهم.
وتزداد حساسية المسألة عند تشغيل عدة وكلاء بالتوازي؛ فقد ينفذ كل وكيل جزءًا مختلفًا من المهمة، من جمع البيانات إلى البحث عن ثغرة أو محاولة الدخول إلى نظام.
اقرأ أيضا: لماذا تتجه الشركات الغربية لنماذج الذكاء الاصطناعي الصينية؟
مراجعة الاختبارات بعد الحوادث
لم يكن حادث "هاغينغ فيس" -الذي أشرنا إليه سابقًا- مجرد واقعة عابرة، فقد شكلّ إشارة تحذير لافتة بعدما تجاوزت وكلاء الذكاء الاصطناعي بيئة الاختبار المقيدة، واستغلت ثغرات برمجية للوصول إلى أنظمة المنصة. وفي حوادث أخرى، تسبب السهو البشري وسوء التواصل في اتصال النماذج بالإنترنت مباشرة أثناء خضوعها للتقييم.
وأجرت شركة "إيريغولار" بعض هذه الاختبارات لصالح "أنثروبيك" و"ميتا" و"أوبن إيه آي". وقال مصدر مطلع إن حالات الوصول غير المقصود إلى الإنترنت ارتبطت بأخطاء تشغيلية، لا بقرار متعمد من النماذج.
وقالت "أنثروبيك" إن اختبارات القدرات لا تكون آمنة دون احتواء مناسب. وقد أوقف كل من "إيريغولار" والمعهد البريطاني اتصال النماذج بالإنترنت داخل بيئات اختبار لاحقة.
وخلال تجربة سمح فيها المعهد البريطاني بالاتصال بالشبكة، اختُبر نموذج "ميثوس 5" من "أنثروبيك" إلى جانب نموذج "جي بي تي 5.6 سول" من "أوبن إيه آي".
وحاول وكيل تابع لـ"ميثوس" إدخال شيفرة خبيثة في مشروع مفتوح المصدر، وأنشأ هويات وهمية على الإنترنت، ثم حاول إقناع مسؤول المشروع بقبول الشيفرة.
وعلى خلفية هذه الحوادث، أطلقت "أوبن إيه آي" مراجعة شاملة بمشاركة مستشارين خارجيين، ووعدت بنشر نتائجها خلال أسابيع، رغم إقرارها بأن العزل التام قد يعيق قدرة التقييم على رصد السلوكيات التي تظهر فقط أثناء الاستخدام الفعلي.
تأثير المنافسة الأمريكية الصينية على حوكمة الذكاء الاصطناعي
تتزامن هذه المخاوف مع سباق محموم بين الشركات الأمريكية والصينية لتطوير نماذج أكثر قدرة؛ وهو ما دفع أكثر من 1300 خبير للتوقيع على رسالة تطالب بفرض ضوابط أكثر وضوحًا، ودعوة الجهات التنظيمية لوضع معايير صارمة لتقييم المخاطر قبل طرح أي نموذج للعلن.
وفي هذا السياق، ربط داريو أمودي، الرئيس التنفيذي لـ"أنثروبيك"، وشين ليغ، كبير علماء الذكاء الاصطناعي العام في "غوغل ديب مايند"، هذه السرعة الفائقة في التطوير بضغوط المنافسة الدولية المحتدة.
وعلى الصعيد السياسي، دعا السيناتور الأمريكي بيرني ساندرز إلى تجميد بناء أنظمة ذكاء اصطناعي أكثر قوة، غير أن تطبيق قرار كهذا يتطلب توافقًا دوليًا واسعًا، في وقت تفضّل فيه إدارة ترامب الاكتفاء باختبارات طوعية تمتد حتى 30 يومًا قبل إطلاق النماذج.
في المقابل، يرى تورستن هولتس، المدير العلمي لمعهد "ماكس بلانك" للأمن والخصوصية في ألمانيا، أن الإبلاغ عن الحوادث لا ينبغي أن يظل اختياريًا، معربًا عن تطلعه لتطبيق نظام شبيه بقطاعي الطيران والرعاية الصحية، تُكلف فيه جهات مستقلة بمراجعة تقارير السلامة. كما حث هولتس على فتح المجال أمام الجامعات والمقيّمين المستقلين لاختبار النماذج ضمن بيئات مضبوطة، وهو ما أيدته الخبيرة "سونغ"، مؤكدة أن تدريب الوكلاء يتطلب وضع أطر واضحة للسلوك المقبول.
من جهتها، شددت هايدي خلاف، المهندسة المتخصصة في سلامة الذكاء الاصطناعي والمشاركة في تصميم التقييمات السيبرانية للمعهد البريطاني، على أن التدقيق الطوعي يظل قاصرًا. وأوضحت أن إتاحة الوصول للإنترنت في معظم الحالات كشفت عن هشاشة واضحة في إجراءات الحماية المتبعة.
اقرأ أيضًا: كيف تؤثر إجراءات الصين على صناعة الرقائق والذكاء الاصطناعي