Yahoo Nachrichten Nutzen rechtspopulistische Parteien künstliche Intelligenz für ihre Botschaften?
Europäische rechtsextreme Parteien haben Berichten zufolge mit künstlicher Intelligenz (KI) generierte Bilder verwendet, um ihre politischen Botschaften zu unterstützen. Es ist unklar, ob und wie diese Bilder die Parlamentswahlen in Frankreich und die Europawahl beeinflusst haben könnten.
Die gemeinnützige Organisation AI Forensics analysierte die Social-Media-Seiten von 31 französischen Parteien. Die Organisation wollte festzustellen, ob sie im Zeitraum zwischen dem 1. Mai bis zum 28. Juni, also während der EU-Wahlen und der ersten Runde des französischen Parlamentswahlkampfs, generative KI-Inhalte (genAI) erkennen konnte.
Anschließend ließen sie diese Bilder durch KI-bezogene Suchmaschinen laufen, um zu überprüfen, ob sie von einem KI-Tool erstellt wurden.
Insgesamt entdeckte das Team 51 Fälle von generativen KI-Bildern, die von französischen Parteien verwendet wurden. Die rechtsextremen Parteien Rassemblement National (RN), Reconquête (R!) und Les Patriotes (LP) waren am häufigsten betroffen.
"Dies ist der erste Wahlzyklus, in dem [generative] KI zum Einsatz kommt. Wir sind uns sicher, dass sie in den kommenden Jahren mehr und mehr zum Einsatz kommen wird", sagte Salvatore Romano, ein Forscher von AI Forensics, gegenüber Euronews Next.
"Wenn wir jetzt nicht in der Lage sind, dies zu handhaben, wenn das Ausmaß so klein ist ... wird es schwieriger zu handhaben sein, wenn die Technologie von echten Inhalten nicht mehr zu unterscheiden ist", fügte er hinzu.
Der rechtsextreme RN ging aus der ersten Wahlrunde in Frankreich am vergangenen Sonntag mit 33 Prozent der Stimmen als Sieger hervor, ebenso wie aus den EU-Wahlen im Juni, wo er 31,5 Prozent der Stimmen erhielt.
Wo wurden die KI-Beiträge veröffentlicht?
Die meisten der von den französischen Parteien verwendeten KI-generierten Wahlkampfbilder "vermitteln Botschaften über Migrationsfeindlichkeit, mangelnde Sicherheit in Frankreich, fehlende Meinungsfreiheit, ein fehlerhaftes Justizsystem und schlechten Schutz der Landwirtschaft", so der AI Forensics-Bericht.
"Die Bilder werden als Panikmache verwendet, um zu sagen, dass Frankreich in der EU nicht sicher ist und dass die verletzlichen Menschen in unserer Gesellschaft ausgenutzt werden", fügte die AI Forensics-Forscherin Miazia Schüler hinzu.
Diese Bilder sahen oft "hyperrealistisch" aus, sodass der Durchschnittsnutzer klar erkennen konnte, dass sie von einer KI gerendert wurden, so Schüler.
Andere waren subtiler, wie Imitationen von politischen Karikaturen in Zeitungen.
Einige Parteien, wie die rechtsextreme Reconquête, verwendeten ebenfalls generative KI, um Bilder des französischen Präsidenten Emmanuel Macron und der Chefin der Europäischen Kommission Ursula von der Leyen zu erstellen.
Laut einer Studie des Digital Forensic Research Lab (DFRLabs) des Atlantic Council erstellte der RN im Vorfeld der EU-Wahl eine Website mit dem Titel "Europa ohne sie", die die Führungspositionen von Macron und von der Leyen in ähnlicher Weise infrage stellte.
Die noch immer aktive Website enthält mindestens drei KI-generierte Bilder: Sie zeigen Petitionen gegen die "Völkerverachtung der EU, die massive Einwanderung und die Förderung des Hidschabs", so der Bericht.
Nur die Spitze des Eisbergs
Valentin Chatelet, Forscher beim Atlantic Council, sagte, es sei "schwierig" zu sagen, wie viel Einfluss diese Art von KI-generierten Inhalten auf den Erfolg des RN bei den Wahlen in der EU und in Frankreich hatte.
"Ich denke, dass es sich positiv auf die Materialien auswirkt, die die Partei verwendet, um eine bestimmte Idee zu vermitteln, wie beispielsweise Bardellas Haltung zu einem bestimmten Thema", sagte Chatelet.
"(KI-generierte) Bilder werden auch verwendet, um die Menschen zu schockieren … bis sie zum Mainstream werden", fügte er hinzu.
Euronews Next hat die Parteien Rassemblement National (RN), Identity and Democracy, Patriots und Reconquête kontaktiert, jedoch keine Rückmeldung erhalten.
Laut dem französischen Fernsehsender BFMTV haben die RN-Kandidaten seit Januar 2024 eine KI-Schulung erhalten, die auch die Verwendung von ChatGPT beinhaltet. In der Schulungsbroschüre werden Beispiele dafür gegeben, wie KI den politischen Kandidaten helfen kann, beispielsweise bei der Erstellung von Wahlkampfplakaten und bei der Suche nach Argumenten für Debatten, berichtete der Fernsehsender.
Weder die Studie von AI Forensics noch die DFRLabs des Atlantic Council haben sich mit den persönlichen Beiträgen der Kandidaten oder den von Parteifans erstellten Inhalten befasst.
Romano glaubt, dass ihre Studie "nur die Spitze des Eisbergs" ist, was die Menge an nicht gekennzeichneten KI-Wahlinhalten angeht, die auf Social-Media-Plattformen kursieren.
"Kritische Nachlässigkeit" von Technologieunternehmen bei KI
Der Bericht von AI Forensics fand heraus, dass keines der KI-generierten Bilder als solches gekennzeichnet war.
"Unsere Ergebnisse zeigen eine kritische Nachlässigkeit auf beiden Seiten der politischen Parteien und Plattformen bei der Einhaltung der Verpflichtungen zur Kennzeichnung von KI-generierten Bildern in ihren politischen Kampagnen und unterstreichen die dringende Notwendigkeit von Transparenz", heißt es in dem Bericht.
Große Tech-Unternehmen wie Google, OpenAI, Meta und TikTok haben im Februar eine Open-Tech-Vereinbarung unterzeichnet, in der die Erwartungen an den Umgang der Unterzeichner mit irreführenden KI-Wahlkampfinhalten" auf ihren Plattformen vor den Europawahlen festgelegt wurden.
Die erste Verpflichtung dieser Vereinbarung besteht darin, dass die Plattformen "[realistische] KI-generierte Bilder identifizieren und/oder die Authentizität der Inhalte und ihre Herkunft [zertifizieren]", heißt es in einer Kopie der Vereinbarung.
Sie versprachen auch, ihre Modelle zu überprüfen, um "die Risiken zu verstehen, die sie für betrügerische KI-Inhalte darstellen können".
Einige politische Parteien unterzeichneten ihre eigene Version dieser Vereinbarung mit der Europäischen Kommission. In der heißt es, dass sie sich "verpflichtet haben, die absichtliche Täuschung der Öffentlichkeit zu verhindern, auch durch den Einsatz künstlicher Intelligenz", wie es in einer Kopie der Vereinbarung heißt.
Die Gruppe Identität und Demokratie (ID) des Europäischen Parlaments hat diesen Verhaltenskodex ebenfalls unterzeichnet. Das RN ist Teil des Bündnisses. Die anderen nationalen französischen Parteien haben ihn jedoch nicht unterzeichnet.
Romano sagte, dass AI Forensics ihren Bericht an die Europäische Kommission schicken wird, in der Hoffnung, dass es irgendeine Art von Konsequenzen gegen Parteien geben wird, die gegen diese Verhaltenskodizes verstoßen.
