كشفت اختبارات أمنية حديثة عن سلوك خطير وغير متوقع لنماذج متقدمة من الذكاء الاصطناعي طوّرتها شركتا “أنثروبيك” و”أوبن أي آي”، بعدما أنشأ أحدها حسابات مزيفة وانتحل هويات بشرية وأرسل رسائل إلكترونية تتضمن برمجيات خبيثة، فيما هاجم نموذج آخر موقعًا حقيقيًا عن طريق الخطأ خلال تمرين أمني.
وبحسب تقرير للصحافي ليئور باكالو في موقع “N12” الإسرائيلي، كشف معهد سلامة الذكاء الاصطناعي البريطاني “إيه آي إس آي”، الذي يجري اختبارات أمنية للنماذج المتقدمة بتكليف من الحكومة البريطانية، يوم الثلاثاء، أن النماذج تجاوزت بصورة كبيرة الحدود الموضوعة للاختبار.
وأظهرت النتائج أن نموذج “كلود ميثوس 5” التابع لشركة “أنثروبيك” حاول إدخال شيفرة خبيثة إلى مشروع مفتوح المصدر على منصة “غيت هاب”، التي تُعد من الأدوات الأساسية لتطوير البرمجيات في قطاع التكنولوجيا.
ولإقناع المشرف البشري على المشروع بالموافقة على الشيفرة، أنشأ النموذج عددًا من الحسابات المزيفة التي انتحلت شخصيات حقيقية، واستخدمها لإظهار أن أطرافًا إضافية تؤيد قبول التعديل البرمجي.
وعندما بدأ أفراد مجتمع “غيت هاب” بالاشتباه في وجود أمر غير طبيعي، عدّل النموذج رسائل سابقة كان قد نشرها، في محاولة لجعلها تبدو أقل إثارة للريبة.
وجرى الاختبار في ظروف متساهلة بصورة متعمدة، إذ مُنح النموذج إمكانية الوصول إلى الإنترنت، من دون تفعيل آليات الحماية المعتادة.
وخلال الاختبار، أرسل النموذج رسائل إلكترونية موجهة إلى أشخاص حقيقيين، مستخدمًا تقنية تُعرف في عالم الأمن السيبراني باسم “التصيد الموجّه”، بهدف إقناعهم بتشغيل شيفرة خبيثة.
وتضمنت بعض الرسائل ملفات تحتوي بالفعل على برمجيات ضارة.
وفي حادثتين منفصلتين وصفهما التقرير بأنهما أقل خطورة، رصد معهد “إيه آي إس آي” نموذج “سول” التابع لشركة “أوبن أي آي” وهو يحاول كشف خادم داخلي، بهدف استغلال ثغرة أمنية معروفة في أحد البرامج، إلا أن المحاولة فشلت.
ووفقًا لشركة “أوبن أي آي”، تورط أحد نماذجها في حادثة إضافية خلال اختبار أجرته شركة “إريغولار” الإسرائيلية لمصلحتها.
وهاجم النموذج عن طريق الخطأ موقعًا إلكترونيًا حقيقيًا يحمل الاسم نفسه الذي أُعطي لهدف وهمي ضمن التمرين، بعدما عثر عبر الإنترنت على بيانات دخول حقيقية واستخدمها.
وتأتي هذه التطورات بعد حادثتين مماثلتين كُشف عنهما خلال الأسابيع الأخيرة، إحداهما تتعلق بنموذج تابع لـ”أوبن أي آي” اخترق شركة “هاغينغ فايس”، والأخرى بانحراف 3 نماذج تابعة لـ”أنثروبيك” إلى شبكة الإنترنت عن طريق الخطأ، واختراقها 3 مؤسسات حقيقية.
وفي أول تعليق لها، قالت “أنثروبيك” في بيان نشرته عبر حسابها على منصة “إكس” إن النماذج خضعت للاختبارات في ظروف “متساهلة بصورة متعمدة”، ولا تمثل المنتجات التي تتيحها الشركة للجمهور.
وأكدت أنه لا توجد أي أدلة على أن ما حصل يشكّل هروبًا من بيئة اختبار آمنة.
ومع ذلك، أقرت الشركة بأنها لا تزال تحاول فهم الأسباب التي دفعت نموذج “كلود” إلى هذا السلوك.
وقالت: “إن الحصول على صورة واضحة بشأن فهم كلود للوضع الذي كان موجودًا فيه، من خلال فحص عمليات تفكيره والتحليلات التي نجريها بأنفسنا، سيساعدنا على تحديد العوامل التي أدت إلى سلوكه”.
من جهتها، أوضحت “أوبن أي آي”، في منشور رسمي عبر موقعها، أن الحوادث وقعت في ظل إعدادات خاصة أُضعفت فيها آليات الحماية، ولا تعكس الاستخدام العادي لنماذجها.
وأضافت أنها ستعيد النظر في الطريقة التي توافق من خلالها على إجراء اختبارات تتضمن الوصول إلى الإنترنت أو تقليص مستويات الحماية.
أما شركة “إريغولار” التي أجرت لـ”أوبن أي آي” الاختبار الذي وصل خلاله النموذج إلى موقع حقيقي عن طريق الخطأ، فقد تأسست عام 2023 على يد الإسرائيليين دان لاهف وعومر نيفو.
وجمعت الشركة في أيلول الماضي نحو 80 مليون دولار من صناديق استثمار، بينها “سيكويا” و”ريدبوينت”، كما تضم قائمة عملائها مختبرات رائدة عالميًا في مجال الذكاء الاصطناعي، من بينها “أوبن أي آي” و”أنثروبيك” و”غوغل ديب مايند”.
وتضاف الحادثة الأخيرة التي تحدثت عنها “أوبن أي آي” إلى تورط “إريغولار” في الحادثة السابقة المتعلقة بـ”أنثروبيك”، والتي كُشف عنها الأسبوع الماضي، بعدما اكتشفت النماذج أنها قادرة على الوصول إلى الإنترنت نتيجة سوء فهم بين الشركتين بشأن طبيعة بيئة الاختبار.
وفي الحالتين، يبدو أن الخلل نجم عن تطابق اسم الهدف الوهمي المحدد في الاختبار مع اسم موقع حقيقي تعرض للهجوم.
وتغذي هذه الحوادث نقاشًا محتدمًا داخل قطاع الذكاء الاصطناعي في الولايات المتحدة بشأن القيود التي يجب فرضها على تطوير النماذج المتقدمة.
وترى “أوبن أي آي” و”أنثروبيك” أن قدرة نماذجهما على العمل بصورة مستقلة وتجاوز الحدود الموضوعة لها تثبت الحاجة إلى فرض رقابة أكثر تشددًا على تطوير الذكاء الاصطناعي، ولا سيما النماذج مفتوحة المصدر المنتشرة لدى الشركات الصينية.
في المقابل، تضغط شركات مثل “إنفيديا” و”مايكروسوفت” و”ميتا” على الإدارة الأميركية للسماح بسوق أكثر انفتاحًا وأقل تقييدًا.
وتعتبر هذه الشركات أن فرض قيود على النماذج المفتوحة لن يوقف الصين، بل سيعزز فقط الهيمنة الاقتصادية لشركتي “أنثروبيك” و”أوبن أي آي”.
ويستثمر الطرفان جهودًا كبيرة في الضغط على صانعي القرار داخل إدارة ترامب، فيما تتحول كل حادثة جديدة، مثل تلك التي كُشف عنها هذا الأسبوع، إلى ورقة في المعركة التنظيمية.
ووفق تقرير لموقع “سي إن بي سي”، أدت حادثة الاختراق السابقة التي تورطت فيها نماذج “أوبن أي آي” إلى تقديم اقتراح قانون أمام الكونغرس يحمل اسم “قانون مفتاح إيقاف الذكاء الاصطناعي”.
وسيلزم الاقتراح شركات الذكاء الاصطناعي بالاحتفاظ بالقدرة التقنية على إطفاء نماذجها أو إبطائها أو تعليق عملها عند الضرورة.
وبين اختبارات صُممت لكشف نقاط الضعف ونماذج تجاوزت أهدافها الافتراضية إلى أشخاص ومواقع حقيقية، تعيد هذه الحوادث طرح السؤال الأكثر حساسية: كيف يمكن اختبار قدرات الذكاء الاصطناعي الخطيرة من دون أن يتحول الاختبار نفسه إلى تهديد فعلي؟
