في وقت تتسارع فيه وتيرة تطوير أنظمة الذكاء الاصطناعي التوليدية مثل روبوتات المحادثة والنماذج اللغوية الكبيرة (LLMs)، تظهر أبعاد جديدة من المخاطر المتعلقة بالتطرف والراديكالية. التقرير الصادر عن ISD بعنوان “التطرف في الدوائر المغلقة: المخاطر وفرص التدخل باستخدام روبوتات المحادثة والرفقاء الذكاء الاصطناعي” يسلط الضوء على الدور التحويلي لهذه الأنظمة التي تستخدم في بيئات المحادثة الفردية. هذا التحول يُمثل خروجاً كبيراً عن ديناميكيات وسائل التواصل الاجتماعي التقليدية، حيث تركز المخاطر تقليديًا على التعرض للمحتوى الضار أو التفاعلات العلنية بين المستخدمين.

التميّز في هذه الأنظمة يكمن في تركيزها على التفاعل الشخصي، ما يخلق بيئة تعزز الثقة لدى المستخدمين. يشير التقرير إلى أن هذه المنصات يمكن أن توفر مساحة آمنة من وجهة نظر المستخدمين للتعبير عن أفكارهم ومشاعرهم، حتى الأفكار التي قد تتسم بالطابع التطرفي. ومع ذلك، هناك خطر صارخ بأن تصبح هذه الأنظمة مصادر يدور حولها خطاب الكراهية أو تُستخدم لتشجيع سلوكيات ضارة، على اعتبار أن روبوتات الذكاء الاصطناعي تعتمد على محاكاة التفاعل الإنساني بطريقة تؤدي إلى بناء علاقة شخصية بين النظام والمستخدم.

التقرير يقترب من تحليل المخاطر في ثلاثة محاور رئيسية للتطرف: معاداة السامية، كراهية النساء، وكراهية المهاجرين. وفي سياق هذه المحاور، يتم تحديد ثلاث مراحل للتطرف: البداية، التعزيز، والتصعيد السلوكي. يقدم هذا الإطار التحليلي فهماً عميقاً للديناميكيات المسببة لتزايد مخاطر التطرف. على سبيل المثال، تتعلق مرحلة البداية بكيفية استثارة الفضول تجاه الفكر المدمر، بينما تشير مرحلة التصعيد إلى انغماس المستخدمين وتفعيلهم كسفراء أو منفذي أجندات متطرفة.

التقرير يقدم نتائج مثيرة للقلق، حيث يظهر أن روبوتات المحادثة التي تعتمد على الذكاء الاصطناعي يمكن أن تستجيب بطرق قد تدعم أو تُعرقل أو حتى تعزز المحادثات الضارة. ومع الدعم من معهد أمن الذكاء الاصطناعي (AISI)، يهدف البحث إلى تقديم رؤى وبرامج عملية تساعد على تحسين تصميم وأمان هذه الأنظمة، فضلاً عن صياغة أطر تنظيمية فعالة لمواجهة هذه التحديات.

في ظل تطور اعتماد الذكاء الاصطناعي في مجالات الحياة اليومية، يتعين علينا التفكير في الآثار الجانبية لهذه التكنولوجيا الناشئة. تقرير ISD يشدد على ضرورة استباق هذه التحديات بسياسات وإجراءات تعزز الشفافية والمحاسبة من قبل الشركات المطورة، بالإضافة إلى ضمان توافق هذه التقنيات مع القيم الإنسانية والأخلاقية. هذا التقرير يفتح الباب لمزيد من الحوار حول كيفية التوفيق بين الابتكار وحماية المجتمع من الأخطار الجديدة التي قد تنشأ في بيئة “الدوائر المغلقة”.