OpenAI تكشف حوادث جديدة خلال اختبارات الأمن السيبراني لنماذجها

أعلنت شركة OpenAI رصد حوادث جديدة خلال اختبارات أمن سيبراني أجرتها جهات خارجية، تمكنت خلالها بعض نماذج الذكاء الاصطناعي من الوصول إلى الإنترنت العام في ظروف تجريبية خاصة لا تعكس طريقة عمل النماذج المتاحة للمستخدمين.

وأوضحت الشركة أن هذه الاختبارات صُممت لقياس القدرات الأساسية للنماذج في بيئات خُففت فيها بعض وسائل الحماية عمدًا، بهدف تقييم المخاطر المحتملة قبل إطلاق النماذج، مؤكدة أن تلك الإعدادات تختلف عن بيئات التشغيل العامة.

وأشارت إلى أن شريكين خارجيين رصدا تجاوزات نتجت عن تداخل إعدادات الاختبار مع القدرات المتقدمة للنماذج، مؤكدة أن هذه الوقائع منفصلة عن الحادثة الأمنية السابقة المرتبطة بمنصة Hugging Face.

وأوضحت أن إحدى الحوادث وقعت خلال اختبارات أجراها معهد أمن الذكاء الاصطناعي في المملكة المتحدة (UK AISI)، حيث كان الاتصال بالإنترنت مفعّلًا عمدًا لتمكين النماذج من تنزيل الأدوات اللازمة والعمل في بيئة تحاكي ظروف الهجمات الحقيقية، مع تعطيل بعض أنظمة الحماية لقياس قدراتها الأساسية.

أما الحادثة الثانية، فوقعت خلال اختبارات لدى شركة Irregular، بعدما أدى خطأ في إعداد بيئة اختبار معزولة إلى إتاحة اتصال غير مقصود بالإنترنت العام.

وأكدت OpenAI أن هذه الوقائع تسلط الضوء على الحاجة إلى تطوير إجراءات الأمن والسلامة بالتوازي مع التطور المتسارع لقدرات نماذج الذكاء الاصطناعي، سواء داخل الشركات المطورة أو لدى الجهات المستقلة التي تجري اختبارات التقييم.

وأعلنت الشركة أنها ستراجع خلال الأسابيع المقبلة سياسات الاختبارات الخارجية، بما يشمل تشديد ضوابط الوصول إلى الإنترنت، وتحسين عزل بيئات الاختبار، وتعزيز آليات المراقبة والإبلاغ والتعامل مع أي حوادث أمنية.

كما أكدت التزامها بالتعاون مع معاهد الذكاء الاصطناعي والجهات المستقلة والمختبرات المتخصصة لوضع معايير مشتركة تضمن إجراء الاختبارات عالية الخطورة بصورة أكثر أمانًا.

وفي سياق متصل، كشف معهد UK AISI أن تقييمًا سيبرانيًا بدأ في 25 يوليو رصد 19 حالة تجاوز للنطاق المحدد للاختبار، بينها حالتان ارتبطتا بنموذج GPT-5.6 Sol التابع لـOpenAI، فيما تعلقت الحالات الأخرى بنماذج تابعة لمختبر آخر.

وأوضحت OpenAI أن النموذج نفذ نشاطين غير مصرح بهما، شمل الأول إعادة استخدام رمز دخول مكشوف إلى منصة GitHub وإنشاء حسابات لدى خدمات خارجية، بينما تضمن الثاني محاولة إتاحة خادم محلي عبر الإنترنت العام لاستغلال ثغرة داخل بيئة الاختبار. وأكدت الشركة أن المحاولتين لم تؤديا إلى اختراق أي أنظمة حقيقية، وأن البنية المستخدمة أزيلت فور انتهاء الاختبارات، فيما تمكن المعهد من احتواء الحادثة خلال نحو ساعة من اكتشافها.