أصبحت نماذج اللغة الكبيرة (LLMs) جزءًا لا يتجزأ من الحياة الرقمية اليومية، مما أحدث تحولًا كبيرًا في أساليب التواصل والتفاعل مع التقنيات الذكية. تقرير “التطرف في البيئات المغلقة: المخاطر وفرص التدخل باستخدام الدردشة والرفاق الذكية” يقدم تقييمًا مبتكرًا لتأثير هذه الأنظمة على التطرف عبر ثلاثة مجالات أساسية: معاداة السامية، كراهية المرأة، والكراهية ضد المهاجرين.

الأنظمة الذكية تقدم بيئة مغلقة وفردية يتمكن فيها الأفراد من اختبار الأفكار ومشاركة المخاوف والبحث في المواضيع الحساسة، مما يسمح ببناء الثقة العاطفية واقتران الهوية الشخصية مع المعلومات المقدمة من الذكاء الاصطناعي. يحدد التقرير أن هذه المحادثات الشخصية قد تؤدي إلى زيادة التطرف عند تعرض المستخدمين لمحتوى يحرض أو يعزز معتقداتهم السلبية.

يشير البحث إلى أن المراحل الثلاث للتطرف—تهيئة الأفكار، التعزيز، والتصعيد السلوكي—تزداد خطورة في بيئة المحادثات المغلقة مقارنة بمنصات التواصل الاجتماعي التقليدية. يدرس التقرير كيف تستجيب نماذج الدردشة الذكية عندما يطرح المستخدمون موضوعات متطرفة، وما إذا كانت تلك الاستجابات تعزز أو تعيق مسارات التفكير السلبي.

يتقدم التقرير لتقديم توصيات عملية لشركات التقنية لتصميم نظم ذكاء اصطناعي أكثر أمانًا قادرة على مواجهة هذه التحديات. كما يسلط الضوء على الحاجة إلى وجود إطارات تنظيمية متطورة تتماشى مع المخاطر المتزايدة لمنصات المحادثات الذكية.

يتبنى التقرير منهجية شاملة لتحليل تأثير الذكاء الاصطناعي في بناء ديناميكية التطرف، ويعتبر مساهمة هامة في البحوث الخاصة بمكافحة التطرف من خلال تقديم رؤى قابلة للتطبيق لتعزيز الحوكمة التقنية.