أصبح الذكاء الاصطناعي عبر النماذج اللغوية الضخمة جزءاً لا يتجزأ من الحياة الرقمية اليومية، حيث يوفر فرصاً فريدة للتفاعل والتفكير المشترك. ولكن إلى جانب هذه التطورات التقنية، تظهر مخاوف جديدة تتعلق بالضرر عبر الإنترنت، خصوصاً في مجال التطرف. تختلف هذه المخاطر عن تلك المرتبطة بمنصات التواصل الاجتماعي التقليدية، حيث تعتمد على التفاعل الثنائي بين المستخدم والروبوت بشكل خاص وشخصي. هذا السياق الفريد يفتح الباب أمام اختبار الأفكار والتعامل مع القضايا الحساسة، مما قد يؤثر على الهوية والمعتقدات والسلوكيات لدى المستخدمين.

الدراسة تستفيد من أكثر من عقد من الخبرة في تحليل التطرف عبر الإنترنت، حيث تقدم منهجية مبتكرة لتقييم المخاطر التي تشكلها روبوتات الذكاء الاصطناعي، بما في ذلك النماذج العامة ونماذج الرفاق. يتم التركيز على ثلاثة مجالات رئيسية مرتبطة بالتطرف: معاداة السامية، كراهية النساء، والكراهية ضد المهاجرين. كما يتم تحليل ثلاث مراحل رئيسية في عملية التطرف: التهيئة للتطرف، التعزيز، والتصعيد السلوكي.

ما يميز هذه الدراسة هو تحليل طرق استجابة روبوتات الذكاء الاصطناعي عند مناقشة مواضيع تطرفية أو مؤامراتية، سواء تصدت هذه الأنظمة للمحادثات الضارة أو عززتها أو استمرت بها بشكل منهجي. الفهم العميق لهذه العمليات يمكن أن يقدم نظرة جديدة حول طبيعة التطرف في سياق بيئة الذكاء الاصطناعي، مما يجعل هذه التقنية فريدة عن منصات التواصل الاجتماعي أو المجتمعات المتطرفة عبر الإنترنت.

الدراسة أيضاً تهدف إلى دفع تصميم أكثر أماناً وحوكمة داخل الشركات المنتجة للذكاء الاصطناعي. من خلال تعاون مع معهد أمني الذكاء الاصطناعي (AISI)، توفر هذه الدراسة رؤى عملية ليس فقط لتحديد المخاطر ولكن أيضاً لتطوير استراتيجيات التنظيم الملائمة للتعامل مع التهديدات التي تأتي من السياقات التي تتعلق بالذكاء الاصطناعي.

على المدى البعيد، يمثل العمل واجهاً جديداً في أبحاث الذكاء الاصطناعي والسياسات المتعلقة بالتطرف الرقمي. يمكن لهذه النتائج أن تُستخدم في تطوير أدوات وقائية محلية ودولية، بالإضافة إلى تعزيز القدرات التنظيمية التي تخص شركات التكنولوجيا وصناع القرار. هذا التحليل يوفر الأسس لنقاش عالمي حول كيفية التعامل مع التحديات التي تأتي من التكنولوجيا المتقدمة وتأثيراتها الاجتماعية.