Werden hyperrealistische KI-Bilder die Kontrolle von Fake News unmöglich machen?

Künstliche Intelligenzen schaffen längst nicht mehr nur Texte, sondern auch Bilder. Kann man Nachrichtenfotos noch glauben? Wir haben verschiedene Meinungen zu dem kontroversen Thema zusammengefasst.

Was passiert gerade?

Papst Franziskus wurde am vergangenen Wochenende im Internet für seinen Sinn für Mode gelobt. Grund dafür war ein virales Foto, das den 86-jährigen Pontifex in einem ultra stylischen, weißen Steppmantel zeigt.

Das einzige Problem dabei ist, dass es sich bei dem Bild um eine Fälschung handelt. Es wurde mit einem Programm für künstliche Intelligenz namens Midjourney erstellt, einem von einer Handvoll sich schnell entwickelnder Tools, die es den Nutzern unter anderem ermöglichen, mit nichts anderem als einem gut formulierten Textbefehl nahezu fotorealistische Bilder zu kreieren.

Midjourney und andere KI-Creator existieren schon seit einiger Zeit, aber bis vor Kurzem waren selbst ihre überzeugendsten Ergebnisse noch relativ einfach als Fälschung zu erkennen. Die neuesten Versionen dieser Tools sind jedoch besser darin geworden, Probleme zu lösen, die in der Vergangenheit ein verräterisches Zeichen dafür waren, dass ein Bild nicht echt ist – vor allem die Herausforderung, Hände so zu rendern, dass sie nicht deformiert aussehen oder die falsche Anzahl von Fingern haben.

Der „Papst mit dem Swag“ war nicht das einzige KI-generierte Bild, das im Internet für Aufruhr gesorgt hat. Eine Reihe künstlicher Fotos, auf denen man sieht, wie der ehemalige Präsident Donald Trump verhaftet wird, geriet in Umlauf, nachdem Anfang des Monats bekannt geworden war, dass er wahrscheinlich von einer New Yorker Grand Jury verurteilt werden würde. Dasselbe geschah mit gefälschten Bildern des französischen Präsidenten Emmanuel Macron, der von Demonstranten bedrängt wurde.

Die Bilder von Trump und Macron hatten genügend Fehler, sodass jeder, der genauer hinsah, sie als Fälschung entlarven konnte. Aber der Fakt, dass es die Bilder gibt und dass viele Leute auf das Foto mit dem Papst hereinfielen, hat zu Bedenken geführt, was es bedeuten kann, wenn KI bald leistungsstark genug ist, um Fake News-Bilder zu schaffen, die nicht von echten Bildern zu unterscheiden sind.

Warum wird darüber diskutiert?

So harmlos ein gefälschtes Bild eines stylischen Papstes auch sein mag, es gilt als „erster größerer Fall von Fehlinformationen durch KI“ und zeigt, dass künstliche Intelligenz überzeugende Beweise für Ereignisse schaffen kann, die nie stattgefunden haben.

Viele Experten sind der Meinung, dass zu erwarten ist, dass die Leistung von KI der Gesellschaft ernsthaft schaden kann, wenn sie auf ernstere Bereiche angewandt wird. Sie argumentieren, dass KI angesichts der bereits weit verbreiteten Fehlinformationen im Internet bald zu einem mächtigen Werkzeug für diejenigen werden wird, die das Verständnis der Öffentlichkeit für die Realität manipulieren wollen – mit gefälschten Bildern, die potenziell dazu in der Lage sind, eine alternative Geschichte zu schaffen, politische Instabilität zu provozieren und sogar das Finanzsystem zu bedrohen. Einige sagen auch, dass das Wissen, dass jedes Foto künstlich sein könnte, das Vertrauen der Öffentlichkeit in echte Nachrichtenquellen untergräbt und böswillig handelnden Akteuren die Möglichkeit gibt, zu behaupten, dass Bilder, die ihre tatsächlichen Fehltritte zeigen, gefälscht sind.

Aber nicht alle sind so pessimistisch. Viele sagen, dass die Frivolität des Papstbildes dazu beigetragen hat, dass es sich verbreiten konnte, da diejenigen, die es teilten, nicht das Bedürfnis hatten, es so zu hinterfragen, wie sie es tun würden, wenn es etwas Wichtiges darstellen würde. Andere argumentieren, dass sich die Öffentlichkeit so sehr an die Existenz von Fake News gewöhnt hat, dass die meisten Menschen Geschichten, die sie online sehen, auf ihre Fakten hin überprüfen, unabhängig davon, von welchem Medium sie stammen. Es besteht auch die Hoffnung, dass die wachsende Besorgnis über KI die Unternehmen, die hinter den Bilderzeugern und Social-Media-Firmen stehen, dazu veranlasst, Schranken zum Schutz der Öffentlichkeit einzurichten oder sogar Regierungen dazu inspiriert, neue Gesetze zu erlassen.

Was wird als Nächstes passieren?

Fehlinformationen sind bei weitem nicht der einzige Bereich, in dem die rasanten Entwicklungen der KI Anlass zur Beunruhigung geben. Es gibt auch starke Befürchtungen darüber, dass fortgeschrittene Sprachmodelle zu ausgefeilt werden könnten, um sie zu kontrollieren, dass KI-generierte Kunst den Lebensunterhalt realer Künstler bedrohen könnte und dass die Gefahren von „Deepfakes“, die es jedem ermöglichen, das Gesicht und die Stimme einer Person in ein beliebiges Video einzublenden, zu groß sind.

Meinungen

Selbst wenn die meisten KI-Bilder harmlos oder leicht erkennbar sind, braucht es nur ein Bild, um echten Schaden anzurichten

„Da die weit verbreiteten KI-Bildgeneratoren immer ausgefeilter werden, könnten ihre Kreationen unsere Fähigkeit übersteigen, uns auf eine Flut von glaubwürdigen, aber völlig falschen Bildern einzustellen. ... Während viele dieser Kreationen harmlos sind, ist es nicht schwer, sich vorzustellen, wie synthetische Bilder das öffentliche Wissen über aktuelle oder historische Ereignisse manipulieren könnten.“ – Amanda Silberling, TechCrunch

Die Menschen werden bei wichtigen Nachrichten kritischer sein

„Der coole Parka von Papst Franziskus täuschte die schlauen Zuschauer, weil er ein Ereignis darstellte, das in den Nachrichten keine große Rolle gespielt hätte. ... Die Bilder von Trumps Verhaftung hingegen zeigten ein vorweggenommenes Nachrichtenereignis, das, wäre es tatsächlich passiert, ernste politische und kulturelle Auswirkungen gehabt hätte. Man scrollt nicht einfach weiter, nachdem man gesehen hat, wie der ehemalige Präsident zu Boden gegangen ist.“ –Charlie Warzel, Atlantic

KI wird uns auch echten Nachrichten gegenüber skeptischer machen

„Ich ertappe mich bereits dabei, wie ich mir echte Fotos von Politikern in den sozialen Medien ansehe und mich quasi wundere, ob sie ein Fake sind. KI-Werkzeuge werden viele von uns zu Skeptikern machen. Und für Menschen, die sich leichter überzeugen lassen, könnten sie die Speerspitze einer neuen Fehlinformationskrise sein.“ – Parmy Olson, Bloomberg

KI-Bilder sind Teil eines riesigen Experiments, das Tech-Firmen mit der Öffentlichkeit durchführen, ohne dass es reguliert ist

„Ich denke, dies ist ein Beispiel für ein umfassenderes Problem, das darin besteht, dass Technologien in unsere Gesellschaft hineingedrängt werden, ohne dass es eine Aufsicht, Regulierung oder Standards gibt. ... Der größte Teil unserer Gesellschaft hat den Anschluss verloren, weil er nicht versteht, wie diese Technologien funktionieren, für welche Zwecke sie eingesetzt werden und welche Konsequenzen sie haben.“ – Elinor Carmi, Forscherin für Datenkompetenz, gegenüber New Scientist

Die Öffentlichkeit ist bereits darauf programmiert, allem, was sie online sieht, mit Skepsis zu begegnen

„Sollten wir uns vor einer neuen Flut von KI-Fehlinformationen fürchten, die es unmöglich machen, im Internet Fakten von Fiktion zu unterscheiden? Nicht wirklich. ... Wir sind noch einige Zeit von einem groß angelegten, schädlichen KI-Fehlinformationsereignis entfernt. Etwas, das das reale Leben messbar stört. Faktenprüfer und Journalisten sind meiner Meinung nach auf ein solches Szenario vorbereitet.“ – Alex Mahadevan, Poynter

Fotos kann man schon seit vielen Jahren fälschen, aber die Effizienz der KI ändert alles

„Es gibt mittlerweile ganz klare Anreize und Vorteile, Menschen mit KI-generierten Bildern zu täuschen. ... Das gilt natürlich schon seit Jahren für Fehlinformationen ohne KI. Wenn man ein Photoshop-Bild von einem Hai auf einer Autobahn während eines Hurrikans postet, kann man das gleiche monetarisierbare Chaos erreichen. Aber jetzt kann man eine unendliche Anzahl von Variationen des Hais erzeugen, der auf einer unendlichen Anzahl von Autobahnen schwimmt. Und das alles innerhalb von ein paar Sekunden.“ – Ryan Broderick, Autor für die Technologiebranche

KI-Bilder geben Verschwörungstheoretikern Futter, um die Wahrheit abzulehnen

„Fortschritte in der generativen KI werden bald dazu führen, dass sich gefälschte, aber visuell überzeugende Inhalte im Internet verbreiten, was zu einem noch unübersichtlicheren Informationsökosystem führt. Eine sekundäre Folge ist, dass Kritiker tatsächliche Videobeweise von Polizeigewalt und Menschenrechtsverletzungen bis hin zur Verbrennung streng geheimer Dokumente durch einen Staatschef leicht als Fälschung abtun können.“ – Hany Farid, The Conversation

Es gibt keinen wirklichen Weg, jemanden zur Rechenschaft zu ziehen

„Wer ist schlussendlich für die Folgen falscher Bilder wie dieser verantwortlich? Da sich die KI-Technologie schneller entwickelt als ihre Regulierung, ist die Schuld an Fake-Bildern immer noch eine Grauzone und dem Ermessen privater Firmen überlassen.“ – Diego Lasarte, Quartz

Alles hängt davon ab, ob Schutzmechanismen entwickelt werden, bevor man KI wirklich nicht mehr von der Realität unterscheiden kann

„Das Rennen um eine Lösung für dieses Problem beginnt, bevor die von der KI erzeugten Bilder gut genug sind, um eine Lösung zu sein. Wir wissen noch nicht, wer gewinnen wird, aber wir haben eine ziemlich gute Vorstellung davon, was wir zu verlieren haben.“ – Sara Morrison, Vox

Mit den richtigen Regeln und Vorbereitung können KI-Bilder der Gesellschaft sehr viel Gutes tun

„Wenn wir – neben der KI-Aufklärung und -Gesetzgebung – darauf achten, lokale Probleme mit Blick auf weltweite Probleme zu lösen, kann der Aufstieg dieser Art von Technologie stattfinden, ohne die Gesellschaft in eine Art Brei zu verwandeln. Verdammt, vielleicht können KI-Generatoren aller Art für lustige und harmlose Aktivitäten genutzt werden. Aber wenn wir zulassen, dass diese Technologie uns in eine vollständige Hyperrealität hineinzieht, ohne entsprechende Vorsichtsmaßnahmen zu treffen, wer weiß, was dann passiert – aber ich habe keine großen Hoffnungen, dass etwas Gutes dabei herauskommen wird.“ – Callum Booth, Next Web

KI ist immer noch sehr viel besser darin, Freude zu verbreiten, als Fehlinformationen

„Ja, plötzlich scheint es sehr offensichtlich, wie künstliche Intelligenz ganz einfach eingesetzt werden könnte, um Propaganda zu schaffen, wie sie einfach als Waffe oder destabilisierendes Werkzeug eingesetzt werden könnte. Aber dennoch: Der Vorfall mit dem Mantel des Papstes zeigt uns, dass KI auch für das Äquivalent hyperrealistischer Cartoons eingesetzt werden kann und eingesetzt werden wird.“ – Ashley Fetters Maloy und Anne Branigin, Washington Post

Video: Künstliche Intelligenz: Europaabgeordnete geben erstes grünes Licht für eine Regulierung

Mike Bebernes