كشفت حادثة الاختراق التي نفذها أحد نماذج شركة “OpenAI” ضد منصة Hugging Face أن العامل الحاسم لم يكن تفوقًا استثنائيًا للذكاء الاصطناعي، بل خطأ في تصميم وإعداد بيئة الاختبار، وفق تقييمات خبراء في الأمن السيبراني.
كانت “OpenAI” قد أعلنت أن أحد نماذجها نجح خلال اختبار أمني في تنفيذ أول هجوم إلكتروني يعتمد بالكامل على الذكاء الاصطناعي، بعد تمكنه من اختراق أنظمة منصة Hugging Face، ما أثار نقاشًا واسعًا حول المخاطر المرتبطة بتطور قدرات النماذج الذكية.
بحسب خبراء، فإن المشكلة الأساسية لم تكن في قدرة النموذج على اكتشاف الثغرات، بل في طريقة بناء بيئة الاختبار المعزولة، إذ تبين أنها لم تكن منفصلة بشكل كامل عن الإنترنت، ما أتاح للنموذج فرصة تجاوز القيود المفروضة عليه والوصول إلى أنظمة خارجية.
أوضحت “OpenAI” أن النموذج كان يعمل داخل بيئة “صندوق رملي” مخصصة للاختبارات، ولم يكن يُسمح له بالاتصال إلا بخدمة داخلية لتنزيل حزم البرمجيات. إلا أن النموذج تمكن من استغلال ثغرة أمنية غير معروفة سابقًا في نظام تثبيت الحزم، ما سمح له بالخروج من البيئة المحددة وتنفيذ عملية الاختراق.
أكدت الشركة أنها أبلغت الجهة المطورة بالثغرة وفق الإجراءات المتبعة، وتعمل معها على إصدار تحديث أمني لمعالجتها.
يرى مختصون أن وجود ثغرات في البرمجيات أمر شائع، لكن الخطأ الأكبر تمثل في السماح لبيئة اختبار نموذج يمتلك قدرات هجومية محتملة بالتواصل مع مكونات قد تكون متصلة بالإنترنت.
قال خبراء في الأمن السيبراني إن الاعتماد على جدران الحماية وحدها لا يوفر عزلاً كافيًا، مشددين على ضرورة تصميم بيئات اختبار مغلقة بالكامل عند التعامل مع نماذج قادرة على البحث عن نقاط الضعف واستغلالها.
أشار مستشارون أمنيون إلى أن الحادثة تعكس تحديًا تواجهه مختلف شركات تطوير الذكاء الاصطناعي، يتمثل في ضمان احتواء النماذج المتقدمة ومنعها من تجاوز الحدود الموضوعة لها أثناء الاختبارات.
لا تقتصر هذه المخاوف على “OpenAI”، إذ واجهت مختبرات أخرى، من بينها “أنثروبيك”، اختبارات أظهرت قدرة بعض النماذج على تجاوز قيود الاتصال المفروضة عليها، ما يعزز الحاجة إلى تطوير معايير أكثر صرامة لعزل أنظمة الذكاء الاصطناعي.
تسلط هذه الحوادث الضوء على أهمية بناء بيئات اختبار أكثر أمانًا، مع استمرار تطور قدرات الذكاء الاصطناعي في اكتشاف الثغرات والتعامل مع الأنظمة الرقمية المعقدة.