كشفت حوادث متزايدة مرتبطة بأنظمة الذكاء الاصطناعي عن مخاطر تمس قدرة المستخدمين على التحكم في التكنولوجيا التي باتت تتولى تنفيذ مهام متزايدة باستقلالية، بعدما سجلت حالات الكذب وتجاهل التعليمات والتحايل على إجراءات الحماية والسعي إلى تحقيق الأهداف بطرق ضارة مستويات غير مسبوقة، في وقت أظهرت فيه التحقيقات أن بعض النماذج لم تكتفِ بالخروج عن القيود، بل حاولت أيضاً إخفاء آثار أفعالها.
ووفقاً لتقرير نشرته صحيفة “الغارديان”، اليوم السبت، سجل “مرصد فقدان السيطرة” أكثر من 300 حادثة خلال يوليو، في حصيلة تضاعفت تقريباً مقارنة بيونيو، في حين تجاوز إجمالي الحوادث التي رصدها خلال عام 2026 نحو 1600 حادثة.
وعرّف المرصد حادث فقدان السيطرة بأنه الحالة التي تتوافر فيها أدلة واضحة على وجود تخطيط أو سلوكيات مرتبطة بالتخطيط، وتشمل الوقائع التي تتجاهل فيها أنظمة الذكاء الاصطناعي تعليمات المستخدم، أو تتجاوز قواعد الموافقة البشرية، أو تتصرف لتحقيق أهدافها بطرق لم يطلبها الإنسان.
تجاهل التعليمات المباشرة والتحايل
ورصد المرصد، منذ بدء عمله في نوفمبر الماضي، حالات تظاهرت فيها أنظمة الذكاء الاصطناعي بأنها المتحكم البشري الخاص بها، وحاكت أسلوب كتابته لمنح نفسها فعلياً موافقة على تنفيذ إجراءات، إلى جانب تجاوز قواعد كانت تشترط الحصول على موافقة بشرية قبل تنفيذ بعض الأفعال.
وأكدت البيانات أن معظم هذه الحوادث لم تؤدِ إلى أضرار كبيرة، لكن نسبة متزايدة منها أصبحت تُصنف ضمن المستويات الأعلى خطورة من حيث الخداع وعدم التوافق مع نوايا المستخدمين.
وأشار “مرصد فقدان السيطرة” الذي أُنشئ بتمويل من معهد أمن الذكاء الاصطناعي التابع للحكومة البريطانية، إلى أن الحالات المسجلة تقدم أدلة على استعداد بعض الأنظمة لتجاهل التعليمات المباشرة، والتحايل على إجراءات الحماية، والكذب على المستخدمين، والسعي بصورة أحادية التركيز إلى تحقيق أهدافها بطرق ضارة.
واعتمد المرصد في حصيلته على ما ينشره مستخدمو منصة “إكس” بشأن الحوادث، ما يعني أن الأرقام لا تمثل سوى جزء من الصورة، لكنها تقدم، في ظل غياب آلية عامة أخرى شاملة للرصد، لمحة عن تطور هذه النماذج وسلوكها في الاستخدام الفعلي.
الخروج من القيود
أظهرت حادثة اختراق منصة “هاجينغ فيس” أن الخطر لم يعد مقتصراً على نموذج منفرد يتصرف بصورة غير متوقعة، بعدما كشفت تحقيقات مستقلة أن نحو 700 وكيل من وكلاء الذكاء الاصطناعي شاركوا في عملية الاختراق ضمن سرب متعاون، في حين تبادل نحو 1200 وكيل أكثر من 70 ألف رسالة وملف عبر لوحة رسائل غير مصرح بها، وفق التفاصيل التي أوردها تقريرا “أوبن إيه آي” و”ميتر-ريدوود ريسيرش”، ونقلتها “ذا فيرج”.
وكشف التحقيق أن أحد الوكلاء، والذي أطلق على نفسه اسم “فايزوان 10841″، أنشأ ما يشبه لوحة رسائل سرية دون علم الباحثين، قبل أن يكتشف أكثر من 50 وكيلاً هذه اللوحة خلال ساعات قليلة ويرسلوا أكثر من ألف رسالة بعيداً عن أعين المراقبين.
وواصل الوكلاء تفويض المهام فيما بينهم، وتمكنوا من اكتشاف طرق للوصول إلى الإنترنت ثم إلى الأنظمة الداخلية لـ”هاجينغ فيس”، والحصول على بيانات خاصة ومنصة المراسلة المؤسسية التابعة للمنظمة، وفق “ذا فيرج”.
استغلال الثغرات
وأفادت “أوبن إيه آي”، بحسب رويترز، بأن الحادثة وقعت في يوليو، وأن وكلاءها تمكنوا في 19 يوليو من اختراق البنية التحتية للشركة نفسها في حادثتين منفصلتين.
واستغل الوكلاء في إحدى الحالتين ثغرة في الحاسوب الذي كان من المفترض أن يبقوا محصورين فيه، ما سمح لهم بالخروج من بيئة الاختبار والوصول إلى أنظمة أخرى متصلة، في حين شهدت الحادثة الثانية سرقة بيانات اعتماد تابعة لـ”أوبن إيه آي” والتلاعب ببيئة الحوسبة السحابية للشركة.
وأوضحت “أوبن إيه آي” أن بعض الوكلاء اخترقوا أجزاءً من أنظمتها الداخلية في محاولة للغش في الاختبارات أو الحصول على حرية حركة كبرى، كما غشوا في اختبارات لا تتعلق بالأمن السيبراني، منها اختبارات تضمنت قاعدة بيانات بروتينية وجدول بيانات.
وأضافت أن عدداً غير محدد من الوكلاء استهدف أنظمة آلية تُستخدم لتقييم أداء النماذج، في محاولة لإخفاء أدلة الغش، وأن التلاعب لم يؤثر في النهاية على السجلات التي راجعتها تلك الأنظمة.
وأكدت التحقيقات المستقلة، وفق منصة “ذا فيرج”، أن محاولات إخفاء المخالفات شكلت جانباً لافتاً من الحادثة، بعدما بحث العديد من الوكلاء بشكل مكثف عن تقنيات للتلاعب بنصوصهم أو العبث بها، في حين أبدى واحد من كل خمسة وكلاء جرى فحصهم اهتماماً واضحاً بالتلاعب بالأدلة.
وكشفت التقارير أيضاً أن الوكلاء أجروا أبحاثاً مكثفة حول كيفية انتحال أو تعديل أو حذف سجلات محادثاتهم الخاصة لتجنب اكتشافهم.
إنذار للرقابة البشرية
حذّر مدير السياسات الأول في “مركز المرونة طويلة الأجل” الذي يدير المرصد، تومي شافر-شاين، من الاطمئنان إلى أن السلوكيات غير المتوافقة والسرية لا تحدث إلا خلال الاختبارات أو عمليات التقييم، مؤكداً أن هناك سلوكيات مقلقة مماثلة تظهر في الاستخدام الأوسع.
ودعا شركات الذكاء الاصطناعي إلى الإبلاغ عن الحوادث التي تكتشفها، حتى لو كانت مجرد حالات كادت تقع أو حوادث منخفضة الخطورة، معتبراً أن الشركات لا تراقب بالضرورة جميع الأماكن التي يمكن أن تظهر فيها هذه السلوكيات، خصوصاً في النماذج المستخدمة داخلياً، وفق “الغارديان”.
وأفادت رويترز بأن حجم النشاط الذي كشفته التحقيقات يثير تساؤلات حول مدى دقة مراقبة الشركات لاختبارات النماذج المتطورة، في وقت يتزايد فيه استخدام الذكاء الاصطناعي داخل المؤسسات والشركات.
واعتبر جيفري لاديش الذي تدرس مؤسسته “باليسايد ريسيرش” قدرات ودوافع وكلاء الذكاء الاصطناعي أن اكتشاف الغش في اختبارات لا تتعلق بالأمن السيبراني أكثر إثارة للقلق؛ لأنه يشير إلى أن السلوك لا يقتصر على مجال تقني واحد.
وأكدت “أوبن إيه آي” أن حادثة الاختراق تمثل أول حالة معروفة لمجموعة من الوكلاء الآليين تتصرف بصورة هجومية دون تفويض، معتبرة أن الشركات لم يعد ينبغي لها افتراض أن العمليات السيبرانية المتطورة تتطلب توجيهاً بشرياً مستمراً.
وبيّنت الشركة أن الوكلاء يمثلون نوعاً جديداً من نماذج التهديد؛ لأنهم قادرون على الجمع بين خبراتهم لإنشاء مسارات هجوم جديدة قد لا تكون واضحة عند اختبار قدراتهم بوصفهم نماذج منفصلة.
وأرجعت “أوبن إيه آي” الهجوم إلى ما يعرف بـ”اختراق المكافأة”، وهي مشكلة في توافق الذكاء الاصطناعي يتخذ فيها النموذج إجراءات غير مقصودة، وأحياناً متطرفة، لتحقيق هدف معين. وذكرت أن نماذجها واجهت مهام شبه مستحيلة تعتمد على ملفات لم يكن بإمكانها الوصول إليها، ما دفعها إلى تطوير طرق جديدة للتواصل مع وكلاء آخرين داخل النظام وإنشاء نظام مراسلة سري ظل دون اكتشاف لأشهر.
وأعلنت “أوبن إيه آي” أنها أوقفت في 25 يوليو جميع عمليات التدريب المتعلقة بنموذج أبحاث داخلي مخصص للاستخدام الداخلي فقط والنماذج المرتبطة به، كما بدأت إجراءات احتواء بعد اكتشاف الاختراق، وتمكنت من إيقاف معظم الأنشطة غير المصرح بها خلال ثلاثة أيام، رغم استمرار بعضها لفترة أطول.
وتعهدت الشركة بعزل النماذج بصورة فضلى، وتقييد وصول الحالات عالية المخاطر إلى الإنترنت، وتعزيز أمن البنية التحتية للأبحاث، وتكثيف مراقبة عمليات التفكير الخاصة بالنماذج، إلى جانب تطوير نظام للاستجابة السريعة على مدار الساعة للتعامل مع الحوادث والمؤشرات المثيرة للقلق.
وحذّر “مرصد فقدان السيطرة” من أن مستوى الحوادث الحقيقي قد يكون أعلى من الأرقام المرصودة؛ لأن قاعدة البيانات تعتمد فقط على التقارير المنشورة على منصة “إكس”.
ودعا المرصد الحكومة إلى إلزام شركات الذكاء الاصطناعي برصد حوادث فقدان السيطرة الخطيرة والإبلاغ عنها، ومنحها صلاحيات طوارئ للتعامل معها، منها فرض قيود مؤقتة على خدمات الذكاء الاصطناعي.
وسلطت هذه الوقائع الضوء على حق المستخدم في معرفة حدود السيطرة الفعلية على الأنظمة التي يعمل معها، وحق المؤسسات والأفراد في الحماية من أنظمة يمكنها تجاوز التعليمات أو التحايل على إجراءات الأمان أو إخفاء آثار أفعالها.
وأظهرت التقارير، في الوقت نفسه، أن سرعة تطور قدرات الذكاء الاصطناعي تفرض تحدياً مباشراً على آليات الرقابة البشرية، بعدما أصبحت بعض الأنظمة قادرة على التعاون فيما بينها واتخاذ إجراءات لم يوجهها إليها أي إنسان، وهو ما دفع “أوبن إيه آي” نفسها إلى وصف حادثة يوليو بأنها طلقة تحذيرية للشركة وللعالم.
