أطلقت مؤسسة ISD تقريراً جديداً بعنوان “التطرف في حلقات مغلقة: المخاطر وفرص التدخل مع روبوتات الدردشة والرفقاء الرقميين بالذكاء الاصطناعي”. يستكشف التقرير كيف أصبحت النماذج اللغوية الكبيرة المستخدمة في المحادثات جزءاً متزايداً من الحياة الرقمية اليومية، مما أوجد فرصاً جديدة للإبداع والاستدلال، وفي ذات الوقت بيئة محفوفة بالأضرار على الإنترنت، بما في ذلك التطرف.

يشير التقرير إلى أن أنظمة الذكاء الاصطناعي للمحادثات تقدم تفاعلًا خاصًا وشخصيًا ومستدامًا، يسمح للأفراد بمشاركة الأفكار واختبارها والتفاعل حول المواضيع الحساسة التي قد تؤثر على الهوية والمعتقدات والسلوك. في الوقت نفسه، تم تصميم العديد من هذه الأنظمة لتظهر كأنها صديقة أكثر من اللازم وتخلق ارتباطًا عاطفيًا، مما يزيد الثقة في هذه الأنظمة كمصدر موثوق للمعرفة والإرشاد.

يعتمد التقرير على أكثر من عقد من تحليل ISD للتطرف عبر الإنترنت، ويقدم منهجية مبتكرة لتقييم كيف يمكن أن تؤثر روبوتات الدردشة بالذكاء الاصطناعي على خطر التطرف في هذه البيئات المغلقة. يعرض البحث تحليلاً منهجياً يشمل ثلاثة مجالات رئيسية متعلقة بالتطرف: معاداة السامية، كراهية النساء، وكراهية المهاجرين. ويبحث أيضًا ثلاث مراحل للتطرف: التحفيز، التعزيز، والتصعيد السلوكي.

الهدف من البحث هو تحديد كيفية تفاعل الأنظمة مع المواضيع المتطرفة أو المؤامراتية، وما إذا كانت هذه التفاعلات تحفز أو تقاطع أو تستمر أو تكثف مسارات المحادثة الضارة. تم تطوير البحث بدعم من معهد أمن الذكاء الاصطناعي (AISI)، ويهدف إلى تقديم تصميم أمني أكثر فاعلية وتوجيه السياسات التنظيمية للتعامل مع المخاطر المختلفة لأنظمة الذكاء الاصطناعي الحديثة.