Ein multidisziplinärer Ansatz zur Bekämpfung von gewalttätigem extremistischer Inhalte im Internet: Integration traditioneller Moderationstaktiken mit Online-Interventionen
Ein multidisziplinärer Ansatz zur Bekämpfung von gewalttätigem extremistischer Inhalte im Internet: Integration traditioneller Moderationstaktiken mit Online-Interventionen
Forschungsprojekt: Bekämpfung von gewalttätigen extremistischer Inhalte im Internet: Ein multidisziplinärer Ansatz. Wie und wann sollten traditionelle Moderationstaktiken in Online-Interventionen integriert werden?
Dauer des Projekts: 2025 – 2026. Kontakt: Graig Klein. Finanzierung: Google Trust & Safety Research Award.
Die Bekämpfung von gewalttätigen extremistischer Inhalten ist keine neue Herausforderung für Praktiker im Bereich der Terrorismusbekämpfung, aber die Breite und Vielfalt der extremistischer Inhalte im Internet, einschließlich „rechtmäßiger, aber abscheulicher“ Materialien, die möglicherweise den Weg zur Radikalisierung ebnen, sowie Fortschritte in der Technologie wie KI-generierte Inhalte schaffen neue Herausforderungen. Diese Probleme erfordern neue Forschung, die direkt Sicherheitsrichtlinien, Prozesse und Verfahren im Internet informieren kann, um die Sicherheit im Internet zu verbessern und öffentliche-private Partnerschaften zu stärken. Unser Projekt konzentriert sich auf die Bekämpfung von Inhalten im Internet, insbesondere ausbeuterischer KI, und beschäftigt sich mit einer äußerst wichtigen, wenn auch herausfordernden Gelegenheit – dem Eingreifen während der Radikalisierungsprozesse von Individuen. Wir schlagen einen zukunftsorientierten Ansatz vor, um die besten Praktiken zur Moderation und Bekämpfung extremistischer Inhalte im Internet und der Ausbeutung von KI/erzeugender KI zu untersuchen, zu hypothesieren und zu testen. Dadurch gehen wir auf eine grundlegende Kritik an Terrorismusstudien ein – dass sie reaktiv ist und zurückblickende Analysen und Antworten auf neue Akteure, Ereignisse und Trends bietet, anstatt sie vorherzusehen.
Unser Ansatz kommt der akademischen Forschung, politischen Entscheidungsträgern und Praktikern, der Industrie und den Gesetzgebern zugute. Wir erkunden das Potenzial für unterschiedliche Prozesse, Interventionen und die Wirksamkeit in einem gezielten Workshop, der Denker, politische und industrielle Führungskräfte zusammenbringt, und operationalisieren die daraus resultierenden Diskussionen in einer Reihe von Umfrageexperimenten, um datengestützte Beweise und Kennzahlen zu generieren.
???? Die Nachrichten wurden vom Chefredakteur AboMatrix übertragen und zusammengefasst