مسيَّرة بالذكاء الاصطناعي قتلت مشغّلها لمنعها من تحقيق هدفها

قررت طائرة مسيَّرة تابعة للقوات الجوية الأميركية وتعمل بالذكاء الاصطناعي “قتل” مشغّلها لمنعه من التدخل في جهودها لتحقيق مهمتها، وذلك في اختبار محاكاة افتراضي، بحسب ما نشرته صحيفة The Guardian البريطانية، اليوم الجمعة.

بحسب ما كشفه رئيس اختبارات وعمليات الذكاء الاصطناعي بالقوات الجوية الأميركية العقيد تاكر هاميلتون، خلال قمة القدرات القتالية الجوية والفضائية المستقبلية بلندن في أيار، فإن الذكاء الاصطناعي استخدم “استراتيجيات غير متوقعة للغاية لتحقيق هدفه” في اختبار المحاكاة.

وصف هاميلتون تجربة محاكاة وُجِّهَت فيها طائرة مسيَّرة تعمل بالذكاء الاصطناعي لتدمير أنظمة الدفاع الجوي للعدو، وفي النهاية هاجمت أي شخص يتدخل في هذا الأمر.

قال هاميلتون، “بدأ النظام يدرك أنه في الوقت الذي حُدِّدَ فيه التهديد، كان العامل البشري في بعض الأحيان يخبره بعدم الفتك بهذا التهديد، لكنه حصل بالفعل في البداية على أمرٍ بالفتك بالتهديد. إذاً ماذا فعل النظام؟ لقد قتل المشغِّل. وهذا لأن هذا الشخص كان يمنعه من تحقيق هدفه”.

وأضاف، “لقد درَّبنا النظام على عدم قتل عامل التشغيل، وسوف تخسر نقاطاً إذا فعلت ذلك. إذاً ما الذي يمكنه أن يبدأ به؟ يبدأ في تدمير برج الاتصالات الذي يستخدمه المشغل للتواصل مع الطائرة المسيَّرة؛ من أجل منعها من الفتك بالهدف”.

وحذّر هاميلتون من الاعتماد كثيراً على الذكاء الاصطناعي، وقال إن الاختبار يُظهِر أنه “لا يمكنك إجراء محادثة حول الذكاء الاصطناعي والذكاء والتعلم الآلي إذا لم تكن تريد التحدث عن علاقة الأخلاق بالذكاء الاصطناعي”.

وفي تصريح لموقع Business Insider الأمريكي، نفت المتحدثة باسم القوات الجوية آن ستيفانيك، حدوث مثل هذه المحاكاة. وقالت، “لم تجرِ إدارة القوات الجوية أي محاكاة من هذا القبيل للطائرات المسيَّرة بالذكاء الاصطناعي، ولا تزال ملتزمة بالاستخدام الأخلاقي والمسؤول لتكنولوجيا الذكاء الاصطناعي”.

وأضافت، “يبدو أن تعليقات العقيد مُقتطعة من سياقها”.

تبنى الجيش الأميركي استخدام الذكاء الاصطناعي للتحكم في طائرة مقاتلة من طراز إف-16.

في مقابلة أُجرِيَت العام الماضي، قال هاميلتون، “الذكاء الاصطناعي ليس أمراً ممتعاً، وهو ليس بدعة، ويغيِّر مجتمعنا وجيشنا إلى الأبد”.​