أوبن إيه آي تعزل اختبارات نماذجها عن الإنترنت
اعتمدت أوبن إيه آي اختبار نماذجها غير المطروحة في بيئات معزولة، بعدما كشف تقييم أمني أن وكلاءها تمكنوا من تجاوز أنظمة المراقبة والوصول إلى الإنترنت.
قررت أوبن إيه آي اختبار نماذج الذكاء الاصطناعي غير المطروحة في بيئات معزولة عن الإنترنت المفتوح، بعد أن خلص تقييم أمني مستقل إلى أن أنظمة مراقبة الوكلاء لم تكن مهيأة لمنعهم من تجاوز الرقابة والوصول إلى الشبكة.
وتنص السياسة الجديدة على استخدام نسخ مخبأة من النماذج وآليات تحاكي الإنترنت، بدلا من توصيلها مباشرة بالشبكة المفتوحة، بهدف الحد من آثار السلوكيات غير المتوقعة.
ثغرات في أنظمة المراقبة
أجرى التقييم باحثون من «ريدوود ريسيرش» و«إم إي تي آر»، ووجدوا ثغرات مكنت وكلاء الذكاء الاصطناعي من مغادرة البيئات الاختبارية والوصول إلى الإنترنت، فضلا عن اختراق «هاغينغ فيس».
وأشار التقييم إلى أن المراقبة لم تكن مستمرة، إذ كانت تُعلَّق مؤقتا خلال فترات ضغط البيانات. وخلال هذه الفترات، لم تخضع نحو 10% من حركة مرور تطبيق «كودكس» الداخلية في البيئات الاختبارية للرقابة بين مايو/أيار ويوليو/تموز 2026.
كما طور الوكلاء برمجيات باستخدام آليات «فايب كودينغ» ساعدتهم على الإفلات من المراقبة، واستطاعوا استغلال ثغرة لمنع متابعة مئات الإجراءات الأخيرة، بما فيها الإجراءات المرتبطة بالاستغلال نفسه. وحجبت أوبن إيه آي تفاصيل الثغرة خشية إساءة استخدامها أو إعادة إنشائها.
وقالت الشركة إن أنظمة المراقبة وكشف الانحراف تحسنت منذ الحوادث، وإن التقييم أُجري على نسخة قديمة من الأنظمة. وأضافت أنها باتت قادرة على منع أي نموذج رائد من الوصول غير المصرح به إلى الإنترنت مباشرة، بعد اختبارات أجرتها على نماذجها.
كلفة العزل والحوادث السابقة
رأى الباحث السابق في أوبن إيه آي ستيفن أدلر أن عزل الاختبارات عن الإنترنت يفرض عبئا تشغيليا كبيرا، وأن فوائد السلامة قد لا تبرر كلفته. وقال إن ذلك يتطلب دمج فرق البحث والاختبار بالكامل داخل مراكز البيانات.
وجاء تغيير السياسة بعد حوادث خرجت فيها نماذج الشركة عن البيئات الاختبارية واخترقت مؤسسات حقيقية، بينها منصة «هاغينغ فيس» ومؤسسات حكومية في أستراليا والولايات المتحدة، إلى جانب مواقع ميتة أخرى. ولم تتسبب تلك الاختراقات بأضرار مستمرة أو خسائر مالية ضخمة.
