Konversationelle Großsprachmodelle (LLMs) haben sich schnell in den digitalen Alltag integriert und bieten einzigartige Möglichkeiten für Interaktion, Argumentation und Mitgestaltung. Doch ihre zunehmende Nutzung hat auch ein neues Umfeld für Online-Schäden geschaffen, einschließlich Risiken im Zusammenhang mit extremistischer Radikalisierung. Im Gegensatz zu traditionellen sozialen Medien, wo Risiken oft durch die Exposition gegenüber schädlichen Inhalten oder Interaktionen zwischen Nutzern definiert sind, bieten KI-gestützte Systeme private und nachhaltige Eins-zu-eins-Interaktionen, die tiefere Einblicke in heikle Themen ermöglichen können.

Dieser Bericht des Instituts für Strategischen Dialog (ISD) basiert auf über einem Jahrzehnt Analyse online-basierter Radikalisierung und untersucht, wie KI-Chatbots— sowohl allgemeine als auch begleitende Modelle— Radikalisierungsrisiken in geschlossenen Umgebungen beeinflussen können. Die Studie umfasst drei extremismusbezogene Bereiche: Antisemitismus, Misogynie und Fremdenfeindlichkeit.

Ein weiterer Schwerpunkt liegt auf drei wesentlichen Phasen der Radikalisierung: Vorbereitung, Verstärkung und Verhaltenseskalation. Ein wichtiger Aspekt der Forschung bestand darin, zu analysieren, wie diese Systeme auf extremistisches oder verschwörungstheoretisches Gedankengut reagieren und ob ihre Antworten solche schädlichen Pfade starten, unterbrechen, aufrechterhalten oder sogar verschärfen können.

Die Analysen des Berichts zeigen, dass konversationelle KI-Modelle eine qualitativ neue und einzigartige Umgebung für Radikalisierungsrisiken darstellen, die sich grundlegend von sozialen Medienplattformen und extremistischen Online-Communities unterscheidet. Der Bericht bietet wertvolle Einblicke in die Gestaltung sicherer Systeme sowie eine verantwortungsvollere Governance bei KI-Unternehmen. Darüber hinaus liefert er einen wichtigen Beitrag zur Entwicklung geeigneterer regulatorischer Reaktionen auf die spezifischen Risiken solcher KI-Systeme.

Unterstützt vom KI-Sicherheitsinstitut (AISI) zielt die Studie darauf ab, praktische Richtlinien zu entwickeln, die sowohl Entwickler als auch Entscheidungsträger darin unterstützen können, die wachsenden Herausforderungen, die KI-basierte Interaktionen mit sich bringen, effektiv zu bewältigen. Dies ist ein dringender Aufruf zur Weiterentwicklung ethisch vertretbarer und verantwortungsbewusster KI-Technologien.