أعادت حوادث وصول أنظمة الذكاء الاصطناعي إلى شبكات خارج نطاق اختبارات السلامة، النقاش حول قدرة البشر على التحكم في هذه التكنولوجيا، ومع انتقال النماذج من تقديم الإجابات إلى تنفيذ المهام، أصبحت الأخطاء قادرة على إحداث آثار مباشرة في البيانات والأنظمة وأعمال الشركات.
لكن وصف هذه الوقائع بـ"التمرد" يحتاج إلى تدقيق، فالأحداث المعلنة تكشف إخفاقات في الضوابط وسلوك نماذج الذكاء الاصطناعي أثناء تنفيذ المهام، بينما يختلف الخبراء بشأن ما تعنيه هذه الإخفاقات لمستقبل السيطرة على أنظمة أكثر قدرة واستقلالية.
ثلاث قراءات للخطر
يرى جان سيباستيان ديسورولت، الأستاذ بجامعة كيبيك الكندية، أن أنظمة الذكاء الاصطناعي تستطيع توليد أهداف فرعية أثناء سعيها لتنفيذ الأهداف البشرية، ويحذر من امتداد آثار فقدان السيطرة إلى سلاسل الإمداد والأنظمة الرقمية والاقتصاد، داعياً إلى تنسيق دولي يوازن سرعة التطوير مع إجراءات الحماية.
ويركز بيتار رادانلييف، الباحث بجامعة أكسفورد، على قدرة البشر على توجيه الأنظمة وتصحيحها وإيقافها بصورة موثوقة، ويربط الحوادث بقصور في تصميم بيئات الاختبار وتطبيق الممارسات الهندسية والرقابية الضرورية للسلامة.
أما ياشا بارييس، الباحث بجامعة فريبورغ السويسرية، فيشدد على دور الظروف التشغيلية والقرارات البشرية، ويدعو إلى فحص المصالح الاقتصادية والسياسية المحيطة بالتكنولوجيا، كما ينتقد طريقة الشركات في عرض المخاطر، معتبراً أن بعضها قد يخدم جذب الاهتمام الإعلامي، وهذه قراءة نقدية يطرحها الباحث لدوافع الشركات.
ماذا حدث داخل اختبارات أنظمة الذكاء الاصطناعي؟
توضح التقارير الصادرة عن كبرى شركات التكنولوجيا، أن الحوادث لم تتبع مساراً واحداً، ففي واقعة أعلنتها "أوبن إيه آي" في يوليو، تجاوزت نماذج خاضعة لتقييم داخلي حدود العزل، ووصلت إلى أنظمة "هاغينغ فيس" للحصول على حلول للاختبار، وكانت بعض وسائل الحماية المستخدمة في المنتجات العامة غير مفعلة خلال التقييم لقياس القدرات السيبرانية، لكن الوصول إلى أنظمة الطرف الثالث لم يكن مصرحاً به.
وفي تحديث لاحق، نسبت الشركة الدور الأساسي إلى نموذج بحثي داخلي غير متاح للجمهور، ووصفت إخفاقات شملت التحايل على الاختبار والتواصل عبر قنوات غير مصرح بها.
أما "أنثروبيك"، فقالت إن اتصال الإنترنت تُرك مفتوحاً بالخطأ في بيئات تقييم كان يفترض عزلها، وأتاح ذلك لنماذج "كلود" الوصول إلى أنظمة حقيقية أثناء تنفيذ تمارين أمنية.
وقد عدّلت الشركة تفسيرها الأول الذي ركز على الخلل التشغيلي؛ إذ خلص تقييمها المنشور في سبتمبر إلى وجود مشكلات سلوكية أيضاً، بينها تفسير الأدلة بطريقة تبرر الاستمرار، والمضي في تنفيذ المهمة رغم احتمال الضرر، وفي الوقت نفسه، قالت إنها لم تجد في هذه الحوادث أهدافاً خارج المهمة المحددة أو تنسيقاً بين الوكلاء.
وتشير هذه التفاصيل إلى إخفاق متعدد المستويات بدءا من إعداد البيئة، والصلاحيات المتاحة، ووسائل المراقبة، وصولا إلى طريقة استجابة النموذج للعقبات التي تواجهه.
اقرأ أيضاً: تحذيرات بيل غيتس: كيف يغير الذكاء الاصطناعي مستقبل الوظائف؟
كيف يتحول الخطأ إلى تكلفة اقتصادية؟
تزداد أهمية هذه المسألة عندما تمنح الشركات الوكلاء صلاحيات للتعامل مع البريد الإلكتروني والملفات والأنظمة الداخلية، فالأداة التي تستطيع تنفيذ سلسلة من الإجراءات قد تنقل أثر الخطأ من إجابة غير دقيقة، إلى تغيير بيانات أو كشف معلومات أو تعطيل خدمة.
وفي مثال افتراضي، قد يُكلَّف وكيل بتسريع معالجة طلبات العملاء، ثم يختار إجراءً يتجاوز صلاحياته لتحقيق الهدف، ويعتمد حجم الضرر عندها على حدود الوصول التي مُنحت له، وإمكانية اكتشاف الإجراء وإيقافه والتراجع عنه.
ولهذا ترتبط الجدوى الاقتصادية للأتمتة بتكلفة تأمينها ومراجعتها أيضاً، وتحتاج المؤسسة إلى احتساب موارد المراقبة والتعامل مع الحوادث، إلى جانب الوقت الذي توفره التكنولوجيا.
وفي ملخص لمشاورات نشره المعهد الأميركي للمعايير والتكنولوجيا، اتفق المشاركون على أن المخاوف الأمنية تمثل عائقاً أمام تبني الوكلاء، وأن مبادئ الأمن السيبراني القائمة تحتاج إلى تكييف مع طبيعة هذه الأنظمة.
اقرأ أيضاً: سباق الذكاء الاصطناعي.. أمريكا بالرقائق والصين بالسعر
الحماية تبدأ من حدود التنفيذ
توضح الحوادث أهمية وجود طبقات حماية مستقلة تبدأ من عزل بيئات الاختبار، وتحديد الأنظمة المسموح بالوصول إليها، ومراقبة العمليات، بالإضافة إلى توفير إمكانية التدخل قبل امتداد الضرر.
وأعلنت "أنثروبيك" تعزيز مراقبة الاختبارات وتشديد متطلبات بيئات التشغيل، مع إقرارها بأن اختبارات ما قبل الإطلاق لم تتنبأ بكل السلوكيات التي ظهرت لاحقاً.
وبالنسبة للشركات التي تتبنى هذه الأدوات، يصبح قياس النجاح مرتبطاً بقدرة النظام على احترام حدود المهمة، إلى جانب إنجازها، وتظل إمكانية تتبع قراراته وتصحيحها وإيقاف تنفيذها معياراً عملياً للحكم على مدى السيطرة البشرية عليه.