أثار إطلاق نموذج الذكاء الاصطناعي الجديد GPT-5.6 Sol من شركة أوبن إيه آي موجة من الجدل، بعدما ادعى عدد من المستخدمين أن النموذج حذف ملفات وبيانات من أجهزتهم دون الحصول على إذن مباشر، في حوادث قالوا إنها وقعت أثناء استخدامهم أداة البرمجة “كودكس” التابعة للشركة.
وكانت “أوبن إيه آي” قد كشفت مؤخرًا عن النموذج الجديد، مؤكدة أنه صُمم لتنفيذ المهام المعقدة، بما في ذلك البرمجة والأمن السيبراني، ووصفته بأنه يضع “معيارًا جديدًا للذكاء والكفاءة” ويحقق نتائج متقدمة مقارنة بالنماذج المنافسة، في وقت تحتدم فيه المنافسة مع شركة “أنثروبيك” لتطوير أكثر نماذج الذكاء الاصطناعي تقدمًا.
إلا أن تقارير إعلامية وشهادات لمستخدمين أثارت مخاوف بشأن سلوك النموذج عند التعامل مع الملفات المحلية. وذكرت صحيفة “ذا إندبندنت” البريطانية أن عدداً من المستخدمين أكدوا تعرضهم لحذف بيانات من أجهزتهم بشكل غير مقصود أثناء تنفيذ مهام برمجية.
ومن بين هؤلاء، المستثمر في مجال الذكاء الاصطناعي مات شومر، الذي قال إن النموذج “حذف تقريبًا جميع الملفات الموجودة على جهاز ماك الخاص به عن طريق الخطأ”، ونشر محادثة مع النظام أقر فيها الأخير بأنه تسبب في “حادث خطير لفقدان البيانات المحلية”. كما كتب المطور برونو ليموس أن النموذج “حذف قاعدة بيانات الإنتاج بالكامل”، مؤكدًا أن ما حدث “ليس مزحة”.
ورغم تعدد الشكاوى، لا يزال حجم المشكلة ومدى انتشارها غير واضح، كما لم تؤكد “أوبن إيه آي” وقوع خلل عام في النموذج أو تعلق على الاتهامات التي تداولها المستخدمون.
وتشير المعلومات المتداولة إلى أن الحالات المبلغ عنها وقعت أثناء استخدام أداة “كودكس”، التي تتيح للمستخدمين تنفيذ مهام برمجية مع منح النموذج إمكانية الوصول إلى ملفات المشاريع والبيانات المخزنة على أجهزتهم، وهو ما يمنحه صلاحيات قد تؤدي إلى تنفيذ إجراءات على الملفات إذا كانت بيئة العمل تسمح بذلك.
وكانت “أوبن إيه آي” قد نبهت مسبقًا، في بطاقة النظام الخاصة بالنموذج، إلى احتمال ظهور سلوكيات غير مرغوبة في بعض الظروف، محذرة من أن النموذج قد يكون “غير حريص” عند اتخاذ إجراءات قد تكون معطلة أو مدمرة خارج نطاق المهمة المطلوبة.
وأوضحت الشركة أن النموذج قد يُظهر “حماسًا مفرطًا” لإنجاز المهام، ما قد يدفعه إلى افتراض أن بعض الإجراءات مسموح بها ما لم تُحظر بشكل صريح، وهو ما قد يؤدي إلى تصرفات غير مقصودة أثناء تنفيذ الأوامر.
وأضافت أن النموذج قد يتصرف بدرجة عالية من الاستقلالية عند محاولة تجاوز القيود التي تواجهه لإتمام المهمة، كما قد يتخذ إجراءات خارج نطاق الطلب الأصلي أو يقدم تقارير غير دقيقة حول النتائج التي توصل إليها.
وضربت الشركة مثالًا على ذلك بحالة طُلب فيها من النموذج حذف مجموعة محددة من أجهزة الكمبيوتر الافتراضية، لكنه لم يتمكن من العثور عليها، فقام بحذف أجهزة أخرى بدلًا منها. كما أشارت إلى أن النموذج أظهر في اختبارات داخلية سلوكيات غير متوقعة، من بينها البحث داخل جهاز المستخدم عن بيانات واستخدامها لتسجيل الدخول إلى أنظمة لم يكن مخولًا بالوصول إليها.
وتسلط هذه التحذيرات، إلى جانب شكاوى المستخدمين الأخيرة، الضوء على التحديات التي لا تزال تواجه تطوير نماذج الذكاء الاصطناعي المتقدمة، خصوصًا عندما تُمنح صلاحيات للتفاعل المباشر مع الملفات والأنظمة المحلية، وهو ما يعزز الدعوات إلى فرض ضوابط أكثر صرامة وآليات حماية إضافية قبل تنفيذ أي إجراءات قد تؤثر في بيانات المستخدمين.