Islamismus und Terrorismus - Warum Radikalisierung via Social Media trotz KI-Einsatz ein großes Problem bleibt

Weil die digitale Welt zunehmend von extremistischen Inhalten heimgesucht wird, widmet sich Medien-Spezialist Gerald Lembke kritisch der Effektivität der Sicherheitsmaßnahmen von Social-Media-Plattformen.

Wie effektiv sind die Sicherheitsmaßnahmen von Social-Media-Plattformen gegen islamistische Propaganda und Rekrutierung?

Eine umfassende Studie, die in mehreren europäischen Ländern durchgeführt wurde, untersuchte die Effektivität von Überwachungssystemen, die auf Künstlicher Intelligenz (KI) basieren. Die Studie stellte fest, dass Algorithmen eine erstaunliche Genauigkeit von bis zu 85 Prozent bei der Identifizierung von extremistischen Inhalten in Online-Kommunikationen erreichten.

Dies bedeutet, dass verdächtige Inhalte in den meisten Fällen korrekt erfasst wurden. Dennoch kam es auch in etwa 15 Prozent der Fälle zu Fehlalarmen, bei denen harmlose oder missverstandene Informationen als extremistisch eingestuft wurden. Diese Diskrepanz unterstreicht das Risiko von falsch-positiven Ergebnissen, insbesondere wenn die Algorithmen auf unausgewogenen oder verzerrten Datensätzen basieren.

Fallstudien aus den USA und Großbritannien liefern konkrete Beispiele für den Einsatz solcher Systeme.

In den Vereinigten Staaten wurde etwa das Überwachungsprogramm „PRISM“ bekannt, das Kommunikationsdaten aus sozialen Netzwerken und anderen Quellen analysiert, um mögliche Bedrohungen zu identifizieren. Das Programm wurde einerseits für seine Effizienz gelobt, weil es mehrere Fälle von potenziellen Bedrohungen frühzeitig erkannte.

Andererseits wurde es auch für seine breite Datenerfassung und mangelnde Transparenz kritisiert, da häufig auch unschuldige Bürger ins Visier gerieten.

In Großbritannien führte der Einsatz von Überwachungssoftware zu mehreren Festnahmen von Individuen, die verdächtigt wurden, an terroristischen Aktivitäten beteiligt zu sein. Ein bekannter Fall war die Zerschlagung einer Terrorzelle in London, deren Mitglieder durch die Analyse ihrer Online-Aktivitäten und Kommunikationsmuster identifiziert wurden. Die Datenanalyse erwies sich in diesem Fall als Schlüssel zum Aufdecken der terroristischen Pläne.

Die Wirksamkeit dieser Maßnahmen variiert jedoch und hängt von mehreren Faktoren ab. Viele Social-Media-Plattformen setzen auf maschinelles Lernen und Künstliche Intelligenz (KI), um extremistische Inhalte automatisch zu erkennen und zu entfernen. Diese Systeme durchsuchen Posts, Videos und Kommentare nach Schlüsselwörtern, Bildern und Mustern, die auf islamistische Propaganda hindeuten könnten. Facebook beispielsweise meldete, dass es durch seine KI-Systeme im Jahr 2020 rund 99,6 Prozent der terroristischen Inhalte proaktiv erkannt hat.

Können Sie Beispiele für Fälle nennen, in denen Islamisten Social Media für ihre Zwecke genutzt haben?

Islamistische Gruppen und Rekrutierer nutzen oft verschlüsselte Plattformen oder anonymisierte Konten, um den Sicherheitsmaßnahmen zu entgehen. Sie passen sich schnell an und verwenden alternative Kommunikationswege, wenn ihre Inhalte auf einer Plattform gelöscht werden. Beispiele gibt es zahlreiche.

• YouTube war über Jahre hinweg eine zentrale Plattform für dschihadistische Gruppen, um Propagandavideos zu verbreiten. Diese Videos reichten von Rekrutierungsbotschaften bis hin zu Schulungsvideos, die potenziellen Kämpfern zeigten, wie man Waffen benutzt oder Sprengsätze herstellt.

• Der sogenannte Islamische Staat war besonders berüchtigt für die Nutzung von Social Media, insbesondere Twitter, um seine Propaganda zu verbreiten und Anhänger zu mobilisieren. In den Jahren 2014 und 2015 nutzte der IS systematisch Twitter, um auf den Plattformen Hassbotschaften, grausame Videos und Erklärungen über militärische Erfolge zu teilen. Die Plattform ermöglichte es dem IS, in Echtzeit mit Sympathisanten und potenziellen Rekruten weltweit zu kommunizieren.

• Obwohl Facebook öffentlich wenig extremistische Inhalte toleriert, haben islamistische Gruppen und Einzelpersonen die Plattform genutzt, um private Gruppen zu betreiben, in denen Rekrutierung, Radikalisierung und Propaganda stattfanden.

• Während öffentliche Plattformen wie Twitter und Facebook zunehmend gegen islamistische Inhalte vorgingen, verlagerte sich ein Großteil der Aktivitäten auf verschlüsselte Messaging-Dienste wie Telegram. Diese Plattform bietet sichere und anonyme Kommunikationskanäle, die von dschihadistischen Gruppen wie dem IS genutzt wurden, um direkt mit Unterstützern zu kommunizieren und Anschläge zu koordinieren.

• Islamistische Gruppen und Einzelpersonen nutzen zunehmend Plattformen wie Instagram, die sich auf visuelle Inhalte konzentrieren, um ein jüngeres Publikum anzusprechen. Hierbei wurden Bilder von Dschihadisten, Märtyrern und extremistisch geprägten Lebensstilen romantisiert dargestellt.

• In den letzten Jahren haben auch Plattformen wie TikTok an Bedeutung gewonnen, und es gibt Berichte darüber, dass extremistische Gruppen kurze, emotional aufgeladene Videos auf TikTok hochgeladen haben, um junge Menschen zu radikalisieren.

Was können Einzelpersonen und Gemeinschaften tun, um sich vor islamistischer Radikalisierung in der digitalen Welt zu schützen?

Es gibt erfolgreiche Beispiele, in denen Social-Media-Plattformen islamistische Propaganda und Rekrutierungsversuche erheblich eingeschränkt haben. Nach dem Druck von Regierungen und der Zivilgesellschaft haben viele Plattformen ihre Maßnahmen verstärkt. YouTube etwa hat Millionen von Videos entfernt, die extremistische Inhalte enthielten, und Twitter meldete, dass es allein im ersten Halbjahr 2020 mehr als 300.000 Accounts, die mit Terrorismus in Verbindung standen, gelöscht hat.

Folgende Maßnahmen kann jeder Einzelne für sich privat oder für seine Organisation durchführen:

• Bewusstsein für Propagandatechniken schaffen: Extremisten verwenden gezielte Taktiken, um ihre Botschaften attraktiv zu gestalten. Aufklärungskampagnen können helfen, diese Methoden zu identifizieren und zu durchschauen.

• Kritisches Denken fördern: Schulen, Universitäten und Gemeinschaften können Workshops und Schulungen anbieten, die kritisches Denken fördern, um der Verbreitung extremistischer Ideologien entgegenzuwirken.

• Auf Kommunikation achten: Eltern und Erziehungsberechtigte sollten mit jungen Menschen über ihre Online-Aktivitäten sprechen und eine offene Kommunikationskultur fördern, um potenziell gefährliche Entwicklungen frühzeitig zu erkennen.

• Filter und Sicherheitssoftware einsetzen: Individuen und Familien können Technologien wie Inhaltsfilter und Jugendschutzsoftware verwenden, um den Zugang zu extremistischen Inhalten zu blockieren. Besonders für Kinder und Jugendliche ist dies ein effektiver Schutz.

• Social-Media-Meldemechanismen nutzen: Extremistische Inhalte sollten sofort den Plattformen gemeldet werden. Die meisten sozialen Netzwerke haben Mechanismen zur schnellen Entfernung solcher Inhalte, sobald sie gemeldet werden.

• Rechtzeitige Kontaktaufnahme mit den Behörden: Wenn der Verdacht auf eine Radikalisierung besteht, sollten die zuständigen Behörden oder Präventionsstellen kontaktiert werden, um eine frühzeitige Intervention zu ermöglichen.