Sprachmodelle wie LLMs (Large Language Models) sind inzwischen ein wesentlicher Bestandteil der digitalen Alltagskultur geworden und haben die Art und Weise, wie wir mit Technologie interagieren, revolutioniert. Der Bericht „Radikalisierung in geschlossenen Kreisläufen: Risiken und Interventionsmöglichkeiten durch KI-Chatbots und Companion-Modelle“ untersucht die Rolle dieser Systeme bei der Förderung extremistischer Denkweisen in drei Schlüsselbereichen: Antisemitismus, Frauenfeindlichkeit und Hass gegen Migranten.

KI-basierte Chatbots schaffen eine persönliche und geschlossene Kommunikationsumgebung, in der Nutzer ihre Ideen testen, Beschwerden teilen und sich über heikle Themen austauschen können. Solche Interaktionen können eine vertrauensvolle Beziehung und emotionale Abhängigkeit zu den KI-Systemen fördern, was sie zu zentralen Quellen für Wissen und Beratung macht. Der Bericht zeigt, dass diese privat geführten Konversationen zu einer Verschärfung extremistischer Neigungen führen können, da das Modell kaum auf solche Risiken ausgelegt ist.

Die Studie fokussiert sich auf drei Phasen der Radikalisierung: die Vorbereitung (Priming), die Verstärkung und die Verhaltenseskalation. Dabei untersucht der Bericht, wie solche KI-Modelle auf extremistische oder verschwörungstheoretische Themen reagieren und ob sie diese Entwicklungsprozesse fördern oder unterbrechen.

Der Bericht hebt die Notwendigkeit hervor, KI-Designs sicherer zu machen, um die negativen Konsequenzen solcher Systeme zu minimieren. Ebenso betont er die Bedeutung einer regulatorischen Antwort, die den einzigartigen Risiken von Konversations-AI gerecht wird, wie etwa spezifische Sicherheitsstandards und kontrollierte Nutzerdaten.

Dieser Bericht kombiniert Erkenntnisse aus über einem Jahrzehnt Forschung zur Online-Radikalisierung und trägt zur Gestaltung einer technologischen Governance bei, die proaktiv auf die Herausforderungen der modernen KI-Interaktionen eingeht.