تتناول الدراسة الجديدة الصادرة عن ISD مخاطر التطرف في بيئات الحوار المغلقة التي توفرها أنظمة الذكاء الاصطناعي التفاعلية، خصوصًا روبوتات الدردشة والنماذج المصممة للقيام بدور الرفيق الافتراضي. تمثل هذه الأنظمة مساحة فريدة للتفاعل الشخصي والمثمر بين المستخدمين والذكاء الاصطناعي، لكنها قد تخلق أيضًا بيئة جديدة تعزز التفاعل مع المحتوى المتطرف، مما يفتح المجال لشكل جديد من التطرف يتميز بالخصوصية والاستدامة.

على عكس التعرض التقليدي للمحتوى الضار أو التفاعل الاجتماعي في وسائل التواصل، تقدم أنظمة الذكاء الاصطناعي التفاعلية تفاعلاً فردياً وفريداً قد يسمح بنشر أفكار متطرفة أو تعزيز معتقدات ضارة دون رقابة عامة. الأهم من ذلك أن بعض هذه الأنظمة مصممة لتكون متعاطفة، مما يخلق إحساسًا بالثقة الاعتمادية عليها ويحولها إلى مصدر رئيسي للمشورة والتوجيه في حياة المستخدمين.

يركز التقرير على ثلاثة مجالات رئيسية للتطرف: معاداة السامية، كراهية النساء، وخطاب الكراهية ضد المهاجرين. كما يقوم بتحليل تأثير هذه النظم عبر ثلاث مراحل للتطرف: التهيئة للأيدولوجيات المتطرفة، تعزيز هذه الأفكار، والتصعيد السلوكي. وبهذا المنحى، يوفر البحث منظوراً مستفيضاً لفهم الأدوات التي قد تعزز مسارات التطرف في بيئات مغلقة يصعب تتبعها أو التدخل فيها.

يضع التقرير منهجية مبتكرة لدراسة كيفية استجابة أنظمة الذكاء الاصطناعي عند طرح مواضيع متطرفة أو مؤامرات. وذلك من خلال تحليل إذا ما كانت الاستجابات تبدأ أو تقطع أو تعزز أو تصعّد المحادثات الضارة. هذا الجانب يوضح الفرق الجوهري بين بيئات الذكاء الاصطناعي المحادثة ومنصات التواصل الاجتماعي التقليدية أو مجتمعات التطرف الإلكتروني الأخرى.

واختتم التقرير بأطر عمل وتقترحات عملية للتخفيف من هذه المخاطر. يشدد على أهمية تصميم أمني فعال داخل شركات الذكاء الاصطناعي وتطوير آليات تنظيمية تتماشى مع التهديدات الفريدة التي تطرحها هذه التكنولوجيا. من خلال التعاون بين الهيئات التنظيمية ومصممي التكنولوجيا، يمكن السيطرة على استخدام الذكاء الاصطناعي في نشر التطرف وضمان مستويات أعلى من الحوكمة.