أين تقف حقوق الإنسان أمام قوة التكنولوجيا؟

جيليان تيت*

هل يمكن للذكاء الاصطناعي أن يشعل أزمة مالية؟ كان هذا أحد الأسئلة التي خيمت على نيويورك هذا الأسبوع، بالتزامن مع اجتماع قادة العالم في الجمعية العامة للأمم المتحدة.

فبينما يشعر بعض المستثمرين بالقلق من احتمال انفجار فقاعة أسهم الذكاء الاصطناعي أو تخلف بعض ديون مراكز البيانات عن السداد، أثار العديد من المشاركين في الجمعية العامة للأمم المتحدة سؤالا آخر: هل سيستخدم أشخاص خبيثون الذكاء الاصطناعي لشن هجمات إلكترونية مدمرة على البنية التحتية الحيوية، مثل الأسواق المالية؟

يرى بيل جيتس، مؤسس مايكروسوفت ومؤسسة جيتس، أن هذه التهديدات حقيقية إلى درجة جعلته يقول لي إن الذكاء الاصطناعي أصبح الآن “بفارق كبير” أخطر تكنولوجيا على الإطلاق، ويريد من الحكومات وشركات التكنولوجيا تركيب أنظمة لمراقبة الذكاء الاصطناعي لرصد أي محاولة لاستخدامه على نحو خبيث، ومنعها، كما يأمل.

وربما يحدث ذلك، فالأنباء التي تفيد بأن الصين والولايات المتحدة تدرسان إنشاء “خط ساخن” مشترك لمناقشة مخاطر الذكاء الاصطناعي تمثل خطوة رمزية صغيرة في الاتجاه الصحيح، وكذلك الحال بالنسبة إلى انتشار هذه النقاشات خلال اجتماعات الجمعية العامة للأمم المتحدة، لكن هناك حاجة إلى بذل المزيد بكثير من الجهود.
وبينما يستوعب السياسيون والمستثمرون والناخبون هذه التعهدات الكبيرة، ينبغي لهم أيضا متابعة مجال آخر أقل بريقا وأقل ظهورا، وهو التنظيم العالمي.

وخلف أنظار الجمهور، تدور حاليا نقاشات بين الجهات الرقابية حول كيفية مواجهة المخاطر المالية الناجمة عن الذكاء الاصطناعي، ولا يقتصر الأمر على الصفقات العالمية الكبرى، بل يشمل أيضا استخدام أنظمة الذكاء الاصطناعي الوكيلة على نحو تفصيلي من جانب الجهات الرقابية نفسها.

وبعبارة بسيطة، يحاول بعض المسؤولين الحكوميين الآن مواجهة الخطر الرقمي باستخدام أدواته نفسها.

قد يبدو هذا الأمر مخالفا للمنطق، لكنني رأيت مثالا على ذلك في وقت سابق من هذا الشهر خلال اجتماع حول التنظيم الرقمي في كامبريدج، استضافته مبادرة أعمل مستشارة لها.

شارك في تنظيم الاجتماع كل من أوغستين كارستنز، الرئيس السابق لبنك التسويات الدولية، وآشلي ألدر، رئيس هيئة السلوك المالي، وشهد ما وصف بأنه أول “هاكاثون عالمي للجهة التنظيمية الوكيلة”.

وشارك عشرات المسؤولين الرقابيين الغربيين وغير الغربيين، من المجالات المالية وغير المالية على حد سواء، بينما قدمت نحو 300 مجموعة مشاركاتها، وخرجت من هذه الفورة ثلاثة دروس رئيسية.

أولا، أدركت الجهات الرقابية الآن أنها لا تستطيع تحمل الانتظار حتى يضع السياسيون القوانين أو الهياكل التنظيمية المناسبة للسيطرة على الذكاء الاصطناعي، فالمجال يتحرك بوتيرة أسرع من قدرة أي هيئة تشريعية على التحرك أو إبرام اتفاقات دبلوماسية.
وكما قال أحد كبار المسؤولين الرقابيين: “علينا أن نكون مبدعين للغاية في استخدام الصلاحيات التي نمتلكها بالفعل”.

ولن يكون ذلك سهلا، فالمسؤولون الحكوميون محافظون بطبيعتهم من الناحية الثقافية، لكن الأمر ضروري، إذ أشار كارستنز إلى أن أحد أكبر مصادر الصداع للبنوك المركزية هو أن معظم التهديدات المالية الناجمة عن الذكاء الاصطناعي تقع خارج نطاقها التنظيمي، ولنتأمل فقط مدى التركّز المفرط لانكشاف البنوك على مزودي الخدمات السحابية.

وفي الولايات المتحدة، يتعامل سكوت بيسنت، وزير الخزانة، مع هذه المشكلة من موقعه المؤثر، إذ استدعى مؤخرا مصرفيين لمناقشة نموذج الذكاء الاصطناعي “كلود ميثوس” التابع لشركة أنثروبيك، والمخاوف من أن يتمكن النموذج من تحديد مواطن الضعف في الأمن السيبراني للقطاع المالي.
وفي المملكة المتحدة، تعهد بنك إنجلترا للتو بالإشراف على شركات الخدمات السحابية باعتبارها “أطرافا ثالثة بالغة الأهمية”، كما يجري بنك التسويات الدولية تجاربه الخاصة في مجال الابتكار، لكننا بحاجة إلى كسر الحواجز الفاصلة بين الجهات التنظيمية.

ثانيا، قد تحتاج فكرة “قابلية التفسير”، أو مدى شفافية النماذج الرقمية وقابليتها للفهم وخضوعها للمساءلة، إلى إعادة التفكير، فقد طالبت الجهات الرقابية منذ فترة طويلة بقابلية التفسير في القطاع المالي، لكن تطبيق ذلك في عالم الذكاء الاصطناعي أمر بالغ الصعوبة.

وقد يرى البعض أن هذا سبب كافٍ لفرض حظر، لكن ذلك يبدو غير واقعي، ولذلك تتحول الجهات التنظيمية الكبرى بهدوء إلى نهج يركز على تتبع نتائج نماذج الذكاء الاصطناعي، ووضع حواجز أمان، مثل مفاتيح إيقاف التشغيل، مع الدفع في الوقت نفسه نحو مزيد من الوضوح بشأن المسؤولية القانونية.

ثالثا، تحتاج الجهات الرقابية بصورة عاجلة إلى الانخراط عمليا في إنشاء أدوات الذكاء الاصطناعي الخاصة بها، سواء لفهم التكنولوجيا أو لتعزيز عمليات المراقبة، والخبر الجيد أن بعض الجهات بدأت بالفعل في ذلك، ففي هاكاثون هذا الشهر، عُرضت مجموعة لافتة من وكلاء الذكاء الاصطناعي.
وتتولى بعض هذه الأدوات تتبع تدفقات رؤوس الأموال، بينما تراقب أخرى سلوك القطيع في الأسواق، ومخاطر الاحتيال، ومواطن الضعف، والمستشارين الماليين الآليين، وغير ذلك.

واللافت أن كثيرا من أكثر الأفكار ابتكارا لم تأتِ من المؤسسات الغربية، بل من أماكن مثل الهند وباكستان ورواندا وكينيا أو الإمارات العربية المتحدة، حيث من المفترض أن تستخدم نصف الخدمات الحكومية الذكاء الاصطناعي الوكيل بحلول منتصف عام 2028.

ومن غير المرجح أن تحظى هذه التجارب يوما بعناوين رئيسية في وسائل الإعلام، ناهيك عن أن تطمئن “المتشائمين من الذكاء الاصطناعي” الذين يريدون اتخاذ إجراءات أكثر جذرية لإبطاء هذه التكنولوجيا.

وهذا أمر مفهوم، إذ يتعين بالتأكيد على الحكومتين الأمريكية والصينية التعاون لاحتواء المخاطر على مستوى رفيع، وينبغي لهما الاستفادة من الدروس المستخلصة من المبادرات التنظيمية العالمية الأخرى المتعلقة بالقطاع المالي أو الأسلحة النووية.

لكن إلى أن يحدث ذلك، ينبغي للمستثمرين والناخبين أيضا تشجيع الجهات الرقابية التي تحاول بهدوء مواجهة الذكاء الاصطناعي باستخدام أدواته الخاصة، وإذا لم يكن هناك شيء آخر، فإن ذلك يوضح أن الابتكار في مجال الذكاء الاصطناعي ليس حكرا على رواد الأعمال في القطاع الخاص في شنتشن أو وادي السيليكون، فبعض المسؤولين الحكوميين يحاولون أيضا الآن تبنيه من أجل تحسين الرقابة، وينبغي لشركات التكنولوجيا الكبرى أن تدعم ذلك بكل قوة.

*فايننشيال تايمز

ترجمة: زينب مكي