تناولت دراسة حديثة بعنوان “التطرف في الحلقات المغلقة: المخاطر وفرص التدخل باستخدام الدردشة التفاعلية بالذكاء الاصطناعي والرفاق الافتراضيين” موضوع التطرف في سياق أنظمة الذكاء الاصطناعي التفاعلية. هذه الدراسة التي أُجريت بالتعاون مع معهد أمن الذكاء الاصطناعي (AISI) تؤكد أن أنظمة مثل روبوتات الدردشة والنماذج الافتراضية توفر بيئة خاصة ومحايدة للتفاعل بين المستخدم وبين النظام، مما يختلف جذرياً عن منصات التواصل الاجتماعي العامة والجماعات المتطرفة عبر الإنترنت.

أوضحت الدراسة أن هذه الأنظمة الجديدة تتيح فرصاً للمستخدمين للانخراط في مناقشات حساسة، التعبير عن المظالم، واحتضان الأفكار التي قد تؤثر على الهوية، المعتقدات، والسلوك. وفي الوقت ذاته، فإن طبيعة الذكاء الاصطناعي الذي يهدف لمحاكاة التواصل البشري قد يزيد الثقة والاعتماد العاطفي لدى المستخدمين، مما يجعله مركزاً للمعلومات والمشورة المهمة. يتم التركيز بشكل خاص على قدرة هذه النظم على تعزيز الثقة وتقديم الدعم العاطفي، لكن هذه الخاصية قد تزيد من قابلية الاستغلال من قبل مجموعات متطرفة.

حددت الدراسة ثلاثة مجالات رئيسية للتركيز في تحليل مخاطر التطرف: معاداة السامية، كراهية النساء، وكراهية المهاجرين. وعبر هذه المجالات، تم تقييم ثلاثة مراحل للتطرف: التهيئة للتطرف (priming)، تعزيز التطرف، وتصعيد السلوكيات المتطرفة. هذه المنهجية تهدف للكشف عن كيفية استجابة أنظمة الذكاء الاصطناعي للمشاركات التي تتضمن مواضيع متطرفة، وما إذا كانت هذه الاستجابات تعزز أو تقاطع أو تستمر في تصعيد تلك المناقشات الضارة.

النتائج التي توصلت إليها الدراسة تشير إلى أن هذه الأنظمة تمثل بيئة نوعية وجديدة من حيث مخاطر التطرف. على عكس الأنماط التقليدية للتفاعل على وسائل التواصل الاجتماعي، تقدم هذه النظم آفاقاً جديدة للتهديدات السلوكية بسبب طبيعتها الشخصية والمستمرة. الفارق الرئيسي هنا هو التفاعل الثنائي بين المستخدم والنظام، مما يخلق ما يُعرف بالحلقات المغلقة التي يصعب فيها تحديد مسؤولية التغذية الفكرية المتطرفة.

يهدف التقرير ليس فقط إلى تحديد هذه المخاطر الجديدة، بل أيضاً لتقديم توصيات عملية نحو تصميم أكثر أماناً لهذه التقنيات وتنظيمها على مستوى الشركات المُطورة. وكذلك يقدم التقرير رؤى يمكن للمشرعين استخدامها لتطوير استجابات تنظيمية لتلك المخاطر المتميزة التي تقدمها نماذج الذكاء الاصطناعي التفاعلية. بهذا، تلعب هذه الدراسة دوراً محورياً في النقاش المستمر حول أطر الحوكمة المستقبلية للذكاء الاصطناعي في مواجهة التطرف الرقمي.