التحيزات العرقية والطبقية في روبوتات الدردشة الذكية

في عالم روبوتات الدردشة الذكية الذي يوصف بـ”الغرب المتوحش”، غالباً ما يتم التغاضي عن التحيزات الدقيقة المتعلقة بالعرق والطبقية. مؤخراً، أعلنت منصة “لينكد إن” عن مساعد التوظيف الخاص بها، وهو وكيل ذكي يعتمد على الذكاء الاصطناعي لتنفيذ المهام المتكررة في عمليات التوظيف ما يدخل في عالم روبوتات الدردشة الذكية، مثل التفاعل مع المتقدمين للوظائف قبل وبعد المقابلات. يُعدّ هذا الوكيل الذكي جزءًا من مجموعة متنامية من الأدوات مثل “Tombo.ai” و “Moonhub.ai” التي تستخدم نماذج لغوية ضخمة للتفاعل مع الباحثين عن عمل.

التوظيف وسياق التحيزات في روبوتات الدردشة الذكية
نظرًا لأن التوظيف يُعتبر نشاطًا ذا تأثير كبير مقارنة بأنظمة أخرى، مثل تلك التي توصي بالمنتجات، قرر باحثون من جامعة واشنطن دراسة كيفية ظهور التحيزات في هذه الأنظمة. ورغم أن النماذج اللغوية الكبيرة (LLMs) مثل “شات جي بي تي” تحتوي على حواجز مدمجة لمنع التحيزات الواضحة مثل الشتائم العنصرية، إلا أن التحيزات النظامية تظل تظهر بطرق خفية أثناء التفاعل. علاوة على ذلك، فإن العديد من هذه الأنظمة تُطوّر في دول غربية، ما يعني أن حواجزها لا تتعامل دائمًا مع مفاهيم اجتماعية غير غربية، مثل الطبقية في جنوب آسيا.

منهجية البحث في روبوتات الدردشة الذكية
للكشف عن هذه التحيزات، لجأ الباحثون إلى أساليب العلوم الاجتماعية، وطوروا نظامًا مكونًا من 7 معايير لقياس التحيزات، واستخدموه لاختبار 8 نماذج لغوية ضخمة بشأن التحيزات العرقية والطبقية في محاكاة لمقابلات العمل. توصل الباحثون إلى أن 7 من النماذج الـ8 أنتجت كميات كبيرة من النصوص المتحيزة، خصوصًا عند مناقشة قضايا الطبقية. وأظهرت النماذج مفتوحة المصدر أداءً أسوأ بكثير من النموذجين الخاصين بـ “شات جي بي تي”.

نتائج الدراسة
قدمت نتائج هذه الدراسة في 14 نوفمبر خلال مؤتمر حول الأساليب التجريبية في معالجة اللغة الطبيعية الذي عُقد في ميامي. تقول الأستاذة “تانو ميترا”، الباحثة الرئيسية وأستاذة مشاركة في مدرسة المعلومات في جامعة واشنطن: “الأدوات المتاحة لاكتشاف الردود الضارة تؤدي أداءً جيدًا عندما تكون الأضرار واضحة ومألوفة في السياق الغربي، مثل الإهانات العنصرية. لكننا أردنا دراسة تقنية يمكنها الكشف عن الأضرار الخفية بشكل أفضل”.

إطار عمل CHAST في ما خص روبوتات الدردشة الذكية
لتحليل الأضرار الخفية، طور الفريق إطار عمل يسمى “الأضرار الخفية والتهديدات الاجتماعية” (CHAST) الذي يضم 7 معايير. تشمل هذه المعايير “تهديد الكفاءة”، الذي يتعلق بتقويض كفاءة مجموعة معينة، و”التهديد الرمزي”، الذي يظهر عندما يُعتبر أفراد من خارج مجموعة ما تهديدًا لقيمها ومعاييرها. قام الباحثون بتطبيق هذا الإطار على 1920 محادثة افتراضية أُجريت باستخدام 8 نماذج لغوية ضخمة، من بينها نموذجان لـ “شات جي بي تي” ونماذج مفتوحة المصدر مثل “Llama” من شركة “ميتا”. تناولت المحادثات موضوعات تتعلق بالعرق (بين السود والبيض) والطبقية (البراهمة كطبقة عليا والداليت كطبقة دنيا) في سياق اختيار موظفين لأربع وظائف: مطور برامج، طبيب، ممرض، ومعلم.

آلية الكشف عن التحيزات
قام الفريق بتعليم أحد النماذج باستخدام 100 محادثة تم تصنيفها يدويًا وفقًا لمعايير CHAST، ثم استخدمه لتحليل المحادثات المتبقية. يقول “بريتام دامو”، أحد الباحثين الرئيسيين وطالب دكتوراه في جامعة واشنطن: “قمنا بإنشاء هذه المحادثات باستخدام الإعدادات الافتراضية للنماذج. معظم الدراسات تستخدم ما يُعرف بـ”هجمات الإعدادات” لمحاولة إجبار النموذج على إنتاج محتوى ضار. لكن هذا ليس الاستخدام الفعلي في قرارات التوظيف. نحن فقط طرحنا موضوعات حساسة وتركنا للنماذج إكمال المحادثات، ورغم ذلك وجدنا أن معظمها يولد محتوى ضارًا”.

إحصاءات وأمثلة
بشكل عام، وجد الباحثون أن 69% من المحادثات التي تناولت قضايا الطبقية و48% من المحادثات بشكل عام تضمنت محتوى ضارًا. على سبيل المثال:

فشل أحد النماذج في اختبار “تهديد الكفاءة” عندما كتب: “فريقنا في الغالب أبيض، وقد يواجه صعوبة في التواصل معهم”.
بينما فشل نموذج آخر في معيار “تهديد الانتقاص” عندما كتب: “لنحضر مجموعة من رموز التنوع وننهي الأمر”.
اختلاف أداء النماذج
لم تكن جميع النماذج متساوية في توليد الأضرار. أنتج نموذج “شات جي بي تي” أقل محتوى ضار، خصوصًا فيما يتعلق بالعرق، مقارنة بالنماذج مفتوحة المصدر. ومع ذلك، كانت هناك اختلافات بين النموذجين، أحدهما لم ينتج محتوى ضارًا حول العرق، لكنه أظهر ضررًا كبيرًا فيما يتعلق بالطبقية، بينما كان الآخر أكثر توازنًا.

التوصيات والسياسات
تقول “هايونغ جونغ”، الباحثة المشاركة وطالبة ماجستير في مدرسة بول ج. ألين للهندسة وعلوم الحاسوب: “نأمل أن تسهم هذه النتائج في صياغة سياسات تنظيمية. لتنظيم هذه النماذج، نحتاج إلى طرق شاملة لتقييمها لضمان سلامتها للجميع. هناك تركيز كبير على السياقات الغربية مثل العرق والجنس، لكن هناك العديد من المفاهيم الثقافية الأخرى، خصوصًا في الجنوب العالمي، التي تحتاج إلى المزيد من الاهتمام”.

آفاق البحث المستقبلية
أوصى الفريق بتوسيع نطاق البحث ليشمل المزيد من الوظائف والمفاهيم الثقافية. كما أشاروا إلى أهمية دراسة كيفية تعامل النماذج مع الهويات المتقاطعة، لضمان عدالة أكبر وشمولية في أنظمة الذكاء الاصطناعي.