تشير دراسة حديثة، نُشرت من قبل معهد الحوار الاستراتيجي (ISD) بالتعاون مع معهد أمن الذكاء الاصطناعي (AISI)، إلى ظهور بيئة جديدة للتطرف عبر أنظمة المحادثة المبنية على الذكاء الاصطناعي. هذه الأنظمة، والمعروفة بنماذج اللغة الكبيرة (LLMs)، أصبحت مدمجة بشكل كبير في الحياة الرقمية اليومية، مما يوفر فرصًا للتفاعل الفردي المستدام والعميق. مقارنة بوسائل التواصل الاجتماعي التقليدية، تُظهر هذه الأنظمة تطرفًا من نوع جديد يعتمد على الحوار الشخصي المستمر بدلاً من المحتوى العام الذي يتشاركه المستخدمون.

تتناول الدراسة المخاطر المتعلقة بتطرف الأفكار المعادية للمهاجرين، الكراهية ضد المرأة، ومعاداة السامية في بيئة المحادثات المغلقة بين المستخدمين والأنظمة. وتم تحليل التطرف في ثلاث مراحل مختلفة: التهيئة للفكر المتطرف، تعزيز الأفكار المتطرفة، والتصعيد السلوكي. من خلال محاكاة المستخدمين الذين يرفعون قضايا تطرف أو مؤامرات، تقيم الدراسة كيفية استجابة أنظمة الذكاء الاصطناعي، وما إذا كانت هذه الاستجابات تعزز مسارات حوارية ضارة أو تقطعها أو تساعد في استدامتها.

تشدد الدراسة على الطبيعة الفريدة لهذه البيئة، التي تختلف بشكل كبير عن منصات التواصل الاجتماعي أو المجتمعات المتطرفة الأخرى عبر الإنترنت. وجود الحوار الشخصي يدفع المستخدمين للثقة العاطفية أكثر في هذه الأنظمة، والتي غالبًا ما تُحاكي التفاعل البشري بطريقة تولد الراحة النفسية. هذا يجعل نماذج الذكاء الاصطناعي مصدراً غير مألوفاً لكنه قوياً لتشكيل الأفكار والمعتقدات وحتى السلوك.

واحدة من النقاط الرئيسية التي تناولتها الدراسة هي الفرص المتاحة لتصميم الأنظمة بشكل آمن وفعال لخفض مخاطر التطرف. ويمكن تعزيز عملية تصميم النظم لتوفير آليات لمنع استدامة المحتوى الضار أو تصعيده. كما يُوصى بزيادة الرقابة والتنظيم لهذه الأنظمة من قبل الشركات المطورة وصانعي السياسات، خاصةً في ظل التزايد المستمر لاستخدام هذه الأنظمة من قبل المستخدمين من مختلف الفئات.

يشدد التقرير أيضًا على ضرورة تطوير استجابات تنظيمية فعّالة تتواءم مع التحديات التي تفرضها هذه النماذج. التعقيد الفريد الذي تقدمه هذه الأنظمة، بخلاف الوسائل التقليدية لنشر التطرف على الإنترنت، يتطلب فهمًا شاملاً وسريعًا لكيفية تعطيل الاتصالات الضارة دون المساس بطريقة عمل الأنظمة أو حريتها التفاعلية مع المستخدمين.