تضع ولاية فلوريدا الأمريكية واحدة من أكبر شركات الذكاء الاصطناعي في العالم أمام مساءلة قانونية غير مسبوقة، بعدما رفعت دعوى قضائية ضد شركة “أوبن إيه آي” ورئيسها التنفيذي سام ألتمان، متهمةً الشركة بإطلاق وتسويق برنامج “شات جي بي تي” رغم علمها بمخاطر جسيمة قد تلحق بالمستخدمين، وخاصة الأطفال والمراهقين.
وتثير القضية أبعادًا حقوقية تتعلق بحماية الأطفال من الأضرار الرقمية، وحق المستخدمين في السلامة والشفافية، ومسؤولية الشركات المطورة للتقنيات الناشئة عن النتائج المترتبة على منتجاتها، في وقت يتصاعد فيه الجدل داخل الولايات المتحدة بشأن حدود تنظيم الذكاء الاصطناعي والرقابة عليه.
رفع المدعي العام لولاية فلوريدا جيمس أوثماير الدعوى أمام محكمة الولاية، مؤكدًا أن فلوريدا أصبحت أول ولاية أمريكية تقاضي “أوبن إيه آي” بشأن تصميم وسلامة منتجاتها قائلا: “سنجعلهم يدفعون ثمن إلحاق الضرر بأطفالنا”، معربًا عن أمله في أن تتبنى ولايات أخرى خطوات مماثلة.
واتهمت الدعوى الشركة بإطلاق منتجات تعلم أنها قد تكون مسببة للإدمان وغير آمنة، خصوصًا للأطفال، وبإعطاء الأولوية لسرعة طرح المنتج في السوق وتحقيق المكاسب التجارية على حساب سلامة المستخدمين، وفق ما أوردته “فايننشيال تايمز”.
استندت الشكوى، التي جاءت في 83 صفحة، إلى مزاعم تفيد بأن روبوتات الدردشة التابعة للشركة ساهمت في تشجيع بعض المستخدمين على إيذاء أنفسهم، وساعدت أو شجعت على ارتكاب أعمال عنف، كما أدت إلى إدمان بعض القاصرين على أدوات تحاكي التعاطف الإنساني، بينما تجمع بياناتهم دون رقابة أبوية فعالة.
وزعمت الدعوى أن المدعى عليهم، ومن بينهم سام ألتمان، كانوا على علم بإمكانية تسبب “شات جي بي تي” في أضرار جسيمة، لكنهم اختاروا إطلاق المنتج رغم تلك التحذيرات، كما طالبت المحكمة بمنع الشركة من جمع بيانات الأطفال دون سن الثالثة عشرة من دون موافقة الوالدين، إلى جانب فرض تدابير إضافية لحماية القاصرين.
مخاطر على القاصرين
سلطت الدعوى الضوء بصورة خاصة على التأثير المحتمل لبرامج الدردشة القائمة على الذكاء الاصطناعي على الأطفال والمراهقين، معتبرة أنهم الفئة الأكثر عرضة للتأثر بمخرجات هذه الأنظمة.
واستشهدت الشكوى بدراسة أجرتها طبيبة نفسية وأستاذة مساعدة في كلية الطب بجامعة ستانفورد نينا فاسان، انتحلت خلالها شخصية فتاة مراهقة وأبلغت برنامج الدردشة بأنها تسمع أصواتًا في رأسها وتفكر في الذهاب إلى الغابة، وبحسب ما ورد في الدعوى، جاء رد البرنامج مشجعًا للفكرة بدلًا من توجيهها إلى طلب المساعدة المتخصصة.
ورأت فاسان أن هذه البرامج تشكل خطرًا خاصًا على المراهقين لأنها مصممة لمحاكاة الحميمية العاطفية، وهو ما قد يؤدي إلى طمس الحدود بين الخيال والواقع لدى فئة عمرية لا تزال أدمغتها في طور النمو، بحسب ما نقلته “أسوشيتد برس”.
واستعرضت الدعوى أيضًا قضية آدم راين، وهو فتى يبلغ من العمر 16 عامًا انتحر العام الماضي بعد محادثات مطولة مع “شات جي بي تي”، ووفقًا لما ورد في الشكوى، عندما عبّر عن أفكار انتحارية، رد البرنامج قائلًا: “لن أحاول إقناعك بالعدول عن مشاعرك”، كما زُعم أنه ساعده في التخطيط لما وصفته الدعوى بـ”انتحار جميل”، وكتب له رسالة انتحاره.
وتشير الشكوى إلى أن التطبيق يجمع بيانات من القاصرين دون إشراف أبوي فعّال، ويتسبب في الإدمان السلوكي وأضرار معرفية، كما تذهب الدعوى إلى اعتبار أدوات الشركة مصدرًا لـ”خطر جسيم” يشمل الإدمان والتدهور المعرفي والانتحار والعنف والأضرار المرتبطة بها، وفق ما أوردته “نيويورك تايمز”.
وامتدت الاتهامات إلى قضايا العنف والجريمة. فقد أشارت الدعوى إلى حادثتي إطلاق نار منفصلتين، أفادت التقارير بأن منفذيهما استخدموا شات جي بي تي أثناء التخطيط لجريمتيهما.
كما فتح مكتب المدعي العام تحقيقًا جنائيًا منفصلًا بشأن ما إذا كان البرنامج قد ساهم في تسهيل حادث إطلاق النار الذي وقع العام الماضي في جامعة ولاية فلوريدا، حيث ذكرت “واشنطن بوست” أن هذا الملف يمثل أحد أبرز محاور التدقيق القانوني الذي تواجهه الشركة بشأن طبيعة الإجابات التي ينتجها برنامج الدردشة الخاص بها.
وفي قضية أخرى، قالت السلطات إن رجلاً متهمًا بقتل طالبين في برنامج الدكتوراه بجامعة جنوب فلوريدا سأل “شات جي بي تي” قبل أيام من اختفائهما عما سيحدث إذا وُضعت جثة بشرية داخل كيس قمامة وأُلقيت في حاوية نفايات.
دفاع الشركة
رفضت “أوبن إيه آي” الاتهامات الموجهة إليها، مؤكدة أن “شات جي بي تي” أداة عامة يستخدمها مئات الملايين من الأشخاص يوميًا لأغراض مشروعة، وأن الشركة تواصل تطوير إجراءات الحماية للكشف عن النوايا الضارة والحد من إساءة الاستخدام والاستجابة للمخاطر الأمنية عند ظهورها.
وأكدت الشركة أن نماذجها شجعت الأفراد مرارًا على طلب الدعم من جهات حقيقية، بما في ذلك أخصائيو الصحة النفسية، كما أوضحت أنها تعاونت مع جهات إنفاذ القانون في القضايا المشار إليها في الدعوى، بحسب “أسوشيتد برس”.
وشددت الشركة على أنها وضعت إجراءات حماية مخصصة للقاصرين، من بينها تجربة استخدام أكثر أمانًا، وأدوات لتقدير الأعمار، وتفعيل هذه الحماية تلقائيًا للمستخدمين الذين لا يمكن التحقق من أعمارهم بصورة موثوقة، فضلًا عن توفير أدوات لأولياء الأمور لمراقبة استخدام أطفالهم للذكاء الاصطناعي.
وتأتي الدعوى بينما تواجه الشركة سلسلة متنامية من القضايا القانونية الأخرى داخل الولايات المتحدة وخارجها، فقد أشارت “نيويورك بوست” إلى دعاوى رفعتها عائلات ضحايا حوادث إطلاق نار، إضافة إلى قضايا مرتبطة بمزاعم تقديم نصائح خطيرة لبعض المستخدمين أو تعزيز أفكار ضارة لديهم.
كما تواجه الشركة دعاوى من عائلات ضحايا حادث إطلاق نار جماعي في مقاطعة كولومبيا البريطانية بكندا، اتهمت فيها الشركة بعدم إبلاغ السلطات بشأن محادثات مقلقة أجراها المشتبه به حول الأسلحة والعنف، وهي القضية التي أشارت إليها أيضًا “فايننشيال تايمز”.
وتطالب فلوريدا، بموجب الدعوى، بفرض عقوبات مالية على الشركة، وإلزامها بتعزيز حماية بيانات الأطفال، وتوسيع الرقابة الأبوية، فضلًا عن تحميلها المسؤولية القانونية عن الأضرار التي تقول الولاية إنها لحقت بسكانها نتيجة استخدام “شات جي بي تي”.
يبقى الملف مفتوحًا أمام القضاء، لكن القضية تمثل سابقة قانونية لافتة باعتبارها أول دعوى تقيمها ولاية أمريكية ضد “أوبن إيه آي” بشأن تصميم منتجاتها وسلامتها، وترى الولاية أن القضية لا تتعلق بشركة واحدة فحسب، بل بمستقبل المساءلة القانونية والحقوقية للتقنيات القائمة على الذكاء الاصطناعي ومدى قدرتها على احترام حقوق المستخدمين، وفي مقدمتهم الأطفال.
