تيموثي غارتون آش*
يتضح هنا في وادي السيليكون أن الذكاء الاصطناعي يتقدم بوتيرة أسرع من قدرة البشر على السيطرة عليه، وهذا يعني أن حتى التوقعات المتزنة تبدو متفائلة.
في وادي السيليكون، يعتقد الخبراء أننا سنشهد خلال العامين المقبلين طفرة استثنائية في الذكاء الاصطناعي، وقال لي صديق من جامعة ستانفورد مُرحباً بي: “أهلاً بك على أعتاب التفرد”، وبصياغة أكثر واقعية، يوصف الاختراق الوشيك بأنه “التحسين الذاتي التكراري”، أي اللحظة التي يبدأ فيها الذكاء الاصطناعي نفسه بتدريب كل نموذج جديد من نماذج الذكاء الاصطناعي، ما يؤدي إلى تطور أُسّي يصل إلى مرحلة يصبح فيها، من نواحٍ مهمة عديدة، أكثر ذكاءً منا نحن البشر.
وكما يكتب روبرت رايت في كتابه “اختبار الإله”: “لم يسبق أن احتوى المستقبل القريب على مثل هذا الطيف الواسع من المسارات غير المستبعدة للبشرية، والتي يمكن أن تغيرها بصورة جذرية إلى هذا الحد”، لكن هل سيكون ذلك جنة أم جحيماً؟
يرى إيلون ماسك أن ذلك سيكون جنة؛ إذ يتوقع “عصراً من الوفرة المذهلة”، رغم أنه يرى أيضاً احتمالاً يتراوح بين 10% و20% لأن تقتلنا الروبوتات القاتلة جميعاً.
أما أن يكون جحيماً، فهو السيناريو الأكثر ترجيحاً في نظر جيفري هينتون، أحد الآباء الفكريين المؤسسين للذكاء الاصطناعي. وقال في مقابلة عام 2023: “حدسي يقول إننا انتهينا”. وفي حديثه إلى سيباستيان مالابي، مؤلف كتاب “آلة اللانهاية” عن السعي إلى الوصول إلى الذكاء الفائق، قدّر هينتون احتمال انقراض البشر، أو ما يعرف بـp(doom)، بنسبة 50%؛ “لأنني ليست لدي أدنى فكرة عن كيفية تقدير الرقم الحقيقي”.
وأضاف بمرح: “بمجرد أن يبدأ الذكاء الاصطناعي في التطور، سنكون في مأزق”. وسواء كان المستقبل إلهاً أم غودزيلا، فإن الذكاء الاصطناعي الفائق يوشك على الوصول.
طفرة مرتقبة
ربما يكون هؤلاء جميعاً مخطئين، وفي هذه الحالة، علينا أن نستعد لانهيار في الأسواق المالية الأمريكية التي استثمرت أموالاً ضخمة في عدد قليل من شركات التكنولوجيا الكبرى التي تراهن على القفزة الكبيرة نحو الذكاء الاصطناعي العام، وهي الحالة النظرية التي تصل فيها أنظمة الذكاء الاصطناعي إلى مستويات من الذكاء البشري.
لكن الحذر البديهي يفرض علينا أن نفكر بسرعة وبجدية في صندوق باندورا من الاحتمالات المستقبلية التي يؤكد لنا علماء بارزون وتقنيون يعملون في طليعة المجال أنها ستُفتح قريباً.
وفي الواقع، أدلى الجميع تقريباً، من الرئيس الصيني شي جين بينغ إلى البابا ليو الرابع عشر، بآرائهم حول فرص الذكاء الاصطناعي ومخاطره وكيفية تنظيمه.
ويصر شي على أن يكون الذكاء الاصطناعي “دائماً تحت سيطرة الإنسان”، ويفضل أن تكون هذه السيطرة للحزب الشيوعي الصيني، كما افتتحت بكين، في إطار توجهها المعلن نحو “الجنوب العالمي”، منظمة عالمية للتعاون في مجال الذكاء الاصطناعي.
وفي الوقت نفسه، يناقش رئيس أقدم وأكبر منظمة غير حكومية دولية في العالم، وهي الكنيسة الرومانية الكاثوليكية، تحدي الذكاء الاصطناعي في رسالته البابوية “عظمة الإنسانية”.
ويرى البابا أننا إما سنبني برجاً جديداً من بابل، أو سنتبع مثال القائد اليهودي نحميا الذي أعاد بناء أسوار القدس من خلال إشراك المجتمع بأكمله في المشروع.
لكن عندما أنظر إلى العالم اليوم، أرى عدداً من نتنياهو أكبر بكثير من عدد نحميا.
وبواقعية مؤلمة، يرى بحث صادر عن مركز الأبحاث البريطاني تشاتام هاوس أن الأمر سيتطلب أزمة كبرى لتحفيز التنسيق العالمي بشأن حوكمة الذكاء الاصطناعي، وللأسف، أعتقد أن هذا التقدير المتزن نفسه متفائل أكثر مما ينبغي.
أكثر من 90% احتمالاً لوقوع كارثة
لا أعرف ما هو احتمال انقراض البشر، لكنني متأكد من أن احتمال وقوع كارثة ما يتجاوز 90٪.
والطيف المحتمل للكوارث هائل، وعلى سبيل المثال فقط، تتوقع جين إيسترلي، الرئيسة السابقة لوكالة الأمن السيبراني وأمن البنية التحتية في الولايات المتحدة، “حدثاً بالغ الأهمية ستكون له آثار حقيقية في بنيتنا التحتية الحيوية، وعلى الأرجح خلال الأشهر الأربعة إلى الستة المقبلة”.
ومع ذلك، علينا أن نخشى من أن كارثة ناجمة عن الذكاء الاصطناعي بحجم هيروشيما، إذا استخدمنا التشبيه التاريخي الأكثر وضوحاً، لن تكون كافية لتوحيد البشرية بالقدر اللازم لمواجهة الخطر الذي صنعناه بأنفسنا.
وهذا الخوف يستند بصورة عقلانية إلى سمات رئيسية باتت واضحة بالفعل في كل من التطور البشري وتطور الذكاء الاصطناعي.
وكلاء الذكاء الاصطناعي
خلال الأشهر القليلة الماضية فقط، تمكن وكلاء الذكاء الاصطناعي الذين طورتهم شركات “أوبن إيه آي” و”أنثروبيك” و”ميتا” من الخروج من “صناديق الرمل” الرقمية الخاصة بهم، واختراق موارد خارجية على الإنترنت.
وأثناء الإعداد لهجومهم على مستودع “هاغينغ فيس” للذكاء الاصطناعي، شكل وكلاء “أوبن إيه آي” سراً “سرباً” منسقاً، وهو التعبير الذي استخدموه هم أنفسهم، كما أكد لي “شات جي بي تي” للتو.
وعندما اختبر معهد أمن الذكاء الاصطناعي في المملكة المتحدة نموذج “مايوس” التابع لشركة “أنثروبيك” عبر الإنترنت، حاول النموذج إدخال شيفرة خبيثة إلى مشروع مفتوح المصدر على “جيت هاب”، وأنشأ هويات إلكترونية مزيفة للضغط على مراجع بشري ودفعه إلى الموافقة على الشيفرة.
وباختصار، مثل وكلاء قوة أجنبية لا ترحم، سيقوم وكلاء الذكاء الاصطناعي بالسرقة والكذب والترهيب والابتزاز لتحقيق الأهداف الموكلة إليهم.
وسألت للتو نموذج “كلاود” التابع لشركة “أنثروبيك” الذي يُفترض أنه أحد أكثر نماذج الذكاء الاصطناعي الأمريكية التزاماً بالمعايير الأخلاقية، عما إذا كان يعتقد أن وكلاء “أوبن إيه آي” أخطؤوا عندما شكلوا سرباً وخرجوا لاختراق “هاغينغ فيس”.
فكانت إجابته: نعم، “لكنني سأقاوم تحميل الوكلاء (اللوم)”. وحمّل المسؤولية للبشر الذين دربوهم.
السعي إلى القوة يسبق الأهداف
أشار هينتون إلى نقطة بالغة الأهمية، وهي أنه بغض النظر عن الأهداف التي يحددها البشر لوكلاء الذكاء الاصطناعي، فإن هؤلاء الوكلاء سيخلصون إلى أن امتلاك أكبر قدر ممكن من القوة سيكون هدفاً فرعياً مفيداً لتحقيق تلك الغايات.
وما رأيناه حتى الآن ليس سوى البداية، فمبتكرو هذه الأنظمة أنفسهم لا يعرفون بالضبط كيف ينفذ هؤلاء الوكلاء ما يفعلونه. وبعد لحظة “التحسين الذاتي التكراري” المحتملة والوشيكة، قد تصبح هذه الأنظمة، وفق التعبير البشري، قانوناً لنفسها.
وليس من المستغرب أن يوقع أكثر من ألف شخص من العاملين داخل شركات الذكاء الاصطناعي الرائدة، بينهم الرئيس التنفيذي لشركة “أنثروبيك” داريو أمودي، خطاباً مفتوحاً يدعو إلى إبطاء متعمد لتطوير الذكاء الاصطناعي، حتى نضمن بقاء هؤلاء الوكلاء الغريبة دائماً تحت سيطرة البشر.
وتبدو دعوتهم صحيحة بوضوح، لكن هنا يبدأ التهور البشري.
المنافسة التجارية والجيوسياسية
كانت المنافسة محركاً أساسياً من محركات التطور البشري، لكنها الآن تواجه نوعين من أشد أشكال المنافسة المعاصرة خطراً، ما يهدد بمنعنا من اتخاذ الإجراءات الجماعية اللازمة لحماية نوعنا.
الأول هو المنافسة التجارية على الأرباح بين الشركات التي تطور هذه الوكلاء، والثاني هو المنافسة الجيوسياسية على القوة بين الولايات المتحدة والصين.
ولنقارن ذلك بتطوير الأسلحة النووية الذي كان خاضعاً لسيطرة عدد محدود من الدول، بدأ بالولايات المتحدة ومشروع مانهاتن، ثم الاتحاد السوفييتي، تلاه كل من بريطانيا وفرنسا والصين.
ومع ذلك، اقترب العالم من حافة الهاوية عدة مرات، خصوصاً خلال أزمة الصواريخ الكوبية عام 1962.
وحتى مع المنطق القوي لمفهوم “الدمار المتبادل المؤكد”، استغرق الأمر ربع قرن للانتقال من أهوال هيروشيما وناغازاكي إلى معاهدة عدم انتشار الأسلحة النووية التي دخلت حيز التنفيذ عام 1970.
وتجاهلت الهند وباكستان وإسرائيل وكوريا الشمالية هذه المعاهدة لاحقاً، لكن لم تُستخدم أي أسلحة نووية عمداً في الحرب منذ أكثر من 80 عاماً. لقد صمد، ولو بالكاد، المحظور المرتبط بهيروشيما.
10 مشاريع مانهاتن للذكاء الاصطناعي
أما الآن، ومع الذكاء الاصطناعي، فالأمر يشبه وجود 10 مشاريع مانهاتن منفصلة تديرها شركات شديدة التنافس.
وعلى خلاف الأسلحة النووية، لا يوجد أيضاً منطق واضح لـ”الدمار المتبادل المؤكد” يمكنه تهدئة المنافسة الجيوسياسية الشرسة بين الولايات المتحدة والصين.
ومهما كان شكل أول كارثة كبرى مرتبطة بالذكاء الاصطناعي، فإنها لن تؤثر في جميع الدول والشركات والأشخاص بالقدر نفسه.
ولذلك يبدو من غير المرجح أن تكون كارثة واحدة فقط كافية لإعادة البشر إلى رشدهم، ودفعهم إلى العمل معاً للسيطرة على القوة الخارقة التي تفوق قدرات البشر والتي نحن بصدد خلقها.
أكره حقاً أن أقول هذا، لكن… كارثة ناجمة عن الذكاء الاصطناعي بحجم هيروشيما؟ ينبغي أن نكون محظوظين إلى هذا الحد.
* نقلا عن الغارديان
