"Fake Accounts beeinflussen die Demokratie absolut": Brisante ARD-Recherchen über Facebook und Co.
Frances Haugen wurde 2018 von Facebook eingestellt und arbeitete als leitende Produktmanagerin im Team für "Civic Misinformation". Ihr und das Insiderwissen anderer Mitarbeiter großer Plattformen verrät Erschreckendes darüber, wie "Social Media" die Demokratie gefährdet. Das Ergebnis umfangreicher ARD-Recherchen war am Dienstag im Ersten zu sehen.
Laut US-Journalistin Sheera Frenkel, die das kritische Buch "Inside Facebook" geschrieben hat, geschah der Sündenfall von Social Media während des Präsidentschafts-Wahlkampfes 2015. Damals forderte Donald Trump auf Facebook, Muslimen die Einreise in die USA zu verbieten. Mit der Begründung: "Die glauben nur an den Djihad", also den "heiligen Krieg". "Wenn eine normale Person das sagen würde", heißt es in der am Dienstagabend ausgestrahlten Doku "ARD Story: Die Machtmaschine", wäre dies gegen die Facebook-Regeln, und die Person würde gesperrt. Damals entschied man beim Technologiekonzern jedoch, das Video mit Trumps "hate speech" dürfe bleiben. Die Folgen waren global, sagen Social Media-Insider im Film, weil viele andere Politiker - gerade Populisten - sich diese Entscheidung zum Vorbild nahmen.
Haben also Facebook und sein Konzern Meta, der auch WhatsApp und Instagram betreibt, Populisten den Weg bereitet? Die modernen Technologie-Unternehmen im Silicon Valley, heißt es in dem Film, der nun auch in der Mediathek abrufbar ist, hatten lange einen Freifahrschein, ausgestellt von der US-Regierung, denn sie machten gewaltige Umsätze.
Facebook hat heute drei Milliarden Nutzer. Der Mutterkonzern Meta erwirtschaftet einen Jahresumsatz von 116 Milliarden US-Dollar. Um Erfolg zu haben, muss der Konzern möglichst viele Daten sammeln. Das Meta-Geschäftsmodell wird in der Doku von Svea Eckert, Stella Peters, Petra Nagel, Petra Blum und Tobias Dammers (WDR, NDR und SZ) so erklärt: Der Konzern sammelt detailliert Informationen über Menschen, fast schon wie ein Stalker, und liefert im Gegenzug passgenaue Werbung.
"Das Geschäftsmodell selbst ist das Problem"
Frances Haugen, heute wohl die bekannteste Social Media-Whistleblowerin der Welt, arbeitete gerade mal sechs Monate bei Facebook, als sie erkennt: Das Geschäftsmodell selbst ist das Problem. Je mehr Menschen viel Zeit auf der Plattform verbringen, desto mehr Daten kann Facebook für sein passgenaues Anzeigengeschäft sammeln. Aber wie bindet man Menschen an die Plattform? Extreme Posts wie der von Donald Trump helfen dabei. Dazu kommt: Der Algorithmus steuert, was die Menschen auf Facebook sehen. Weil Menschen stärker auf extreme Posts reagieren, ist Extremes dort auch so erfolgreich. Der eigentliche Skandal ist jedoch, dass Facebook dies laut der Film-Recherche auch weiß und wenig dagegen tut.
Frances Haugen entdeckt während ihrer Zeit bei Facebook zahlreiche interne Studien, die belegen, dass man um die Förderung von Hass aufgrund des eigenen Algorithmus weiß. "Die Algorithmen fördern extreme Ideen. Weil die Leute darauf extrem reagieren, wird es immer weiterverbreitet", so Haugen.
Auch Johannes Hillje, ein deutscher Politikberater, bestätigt dies in der ARD-Doku: "Es gibt Studien, die belegen, dass sachliche Inhalte zehnmal weniger Reichweite erzeugen auf Facebook erzeugen als emotionale Inhalte. Lügen sind in der Regel emotionaler als Fakten und haben eben eine bessere Chance auf Aufmerksamkeit."
Offiziell bestreitet Meta, den Profit über das Wohl der Nutzer zu stellen. Klaus Gorny, Meta-Pressesprecher im deutschsprachigen Raum, drückt es im Film so aus: "Algorithmus ist ein wichtiges Funktionsmerkmal auf den Plattformen Facebook und Instagram. Wir wissen aber, dass ein Großteil der Menschen unsere Dienste für Inhalte von Freunden und Familie nutzt, um sich auszutauschen und um ein gutes Erlebnis zu haben. Denn sonst würden die Menschen auch nicht wiederkommen."
"Trump ginge es auch darum, politisch bisher desinteressierte Gruppen zu finden"
Im US-Wahlkampf 2016 zeigten sich laut Film-Recherche erstmals groß angelegte Polit-Manipulationen über Facebook. Trumps Wahlkampfteam lanciert massenhaft negative "Informationen" über Hillary Clinton, und sein damaliger Social Media Manager Brad Parscale äußert sich im Film wie folgt: "Wir haben erkannt, dass wir die Anzeigen den richtigen Leuten zeigen müssen. Hier kommt die personalisierte Werbung ins Spiel. Da kann man Zielgruppen hochladen mit der Prämisse: Ich möchte jeden in diesem Teil von Ohio finden, der glaubt, dass die Mauer (an der Grenze zu Mexiko, Anm. d. Red) gebaut werden muss. Oder jemanden, der eine Handelsreform will. Dann hat man einen Button, auf dem diese Zielgruppe steht, und man kann die anwählen...". Beim Social Media-Wahlkampf des Donald Trump ginge es auch darum, politisch bisher desinteressierte Gruppen zu finden, heißt es im Film, die man radikalisieren kann.
Kurze Zeit später entdeckt - laut Filmrecherche - jemand bei Facebook selbst: Auch die russische Regierung versucht, die US-Wahl zu manipulieren. Staatliche Hacker verbreiten "Informationen" aus Clintons Wahlkampfteam und nähren damit Verschwörungen. Zum Beispiel, dass Clinton jemanden aus ihrem Team habe umbringen lassen oder dass sie selbst tot sei und ein Double mache für sie weiter. Derlei Verschwörungstheorien verbreiteten sich - ob ihrer Krassheit und der Facebook-Algorithmen - besonders schnell.
Auch in Europa benutzen rechte Parteien laut Film die Trump-Methoden, einige hätten mit Harris Media zusammengearbeitet, einer Agentur aus den USA, die digitale Kampagnen für Kunden wie die französische Front National, eine europafeindliche britische Partei oder Benjamin Netanjahu in Israel fuhr. Gemeinsames Erfolgs-Prinzip der Kampagnen laut ARD-Doku: Sie spielen Teile der Bevölkerung gegeneinander aus.
"Täglich 200 Kommentare schreiben für 480 Euro im Monat"
Als Trump bereits Präsident ist, entdeckt man bei Facebook laut Film-Recherche unzählige Pseudo-Accounts aus Russland. Eine russische Trollfabrik, die so genannte Internet Research Agency, hätte eine weitere Schwachstelle bei Facebook ausgenutzt: Fake Accounts. Damit konnten sich die Trolle als US-Bürger ausgeben, tausende Anzeigen gezielt schalten und so mehr als 100 Milionen US-Bürger erreichen.
Der Sicherheits-Chef von Facebook warnte laut ARD-Doku, das Unternehmen hätte den Kongress warnen müssen. Die Accounts wären gelöscht worden, aber sonst passiert nichts. Auch Frances Haugen hatte laut eigener Aussage während ihrer Zeit bei Facebook ein viel zu kleines Team. Nur ein Drittel der Probleme hätte bearbeitet werden können, die Fake-Acounts blieben ein Problem.
Interessant ist auch jener Part im Film, in dem eine russische Journalistin und Whistleblowerin von Manipulations-Methoden im Rahmen des Angriffskrieges Russlands auf die Ukraine berichtet. Sie bewirbt sich "undercover" bei einer Firma namens Cyber Front Z und erfährt beim Bewerbungsgespräch, sie solle pro Tag 200 Kommentare schreiben für damals 480 Euro im Monat. Sie sagte zu. An ihrem ersten Arbeitstag trifft sie 50 bis 60 junge Leute, die berufsmäßig mit Kommentaren Telegram, YouTube und Instagram "beliefern". Die beliebtesten "Posts" mussten zuerst im Sinne der staatlichen Gesinnung kommentiert werden, Teamleiter suchten die Links aus.
2022 verabschiedet die EU den - eingeschränkten - "Digital Services Act"
Die Journalistin bringt die Trollfabrik mit Jewgeni Prigoschin in Verbindung, einem der Gründer der Söldnertruppe Wagner, der auch 2016 den US-Wahlkampf beeinflusste, wie er inzwischen offen zugibt. "Russland hat den Plan, die Offenheit und Meinungsfreiheit der demokratischen Länder für seine Zwecke auszunutzen", sagt Autorin Sheera Frenkel, Journalistin bei der "New York Times". Meta hat Cyber Front Z erst 2022 gesperrt, heißt es im Film. Sophie Zang, früher Facebook-Mitarbeiterin und heute ebenfalls Whistleblowerin, fasst es im Film anschaulich zusammen: "In der Online-Welt kann sich eine Person leicht als 100 Personen ausgeben. Oder 100 als 100.000." Internet-Unternehmer Aaron Greenspan, der mit Mark Zuckerberg studierte, drückt es hingegen so aus: "Fake Accounts beeinflussen die Demokratie absolut. Man kann die Lautstärke der eigenen Botschaft nach oben schrauben oder die Lautstärke der gegnerischen Botschaft zurückdrehen. Indem man Leute schikaniert und runtermacht, bis sie schweigen."
Zum Ende des durchaus umfassenden Beitrags berichtet die Recherche über eine Gesetzesinitiative des EU-Parlamentes. Hier stimmte man 2020 dafür, personalisierte Werbung schrittweise zu verbieten - was das "Facebook-Problem" sozusagen an der Wurzel packen würde. Und auch zur US-Wahl 2020 stellte Facebook einen "netteren Newsfeed" mit der Bevorzugung von Qualitätsmedien ein. Die Folge war: Nutzerzahlen gingen zurück. Es gab weniger Interaktion auf der Plattform. Das Facebook Management stellte als Folge davon nach der Wahl auf den "emotionalen" Newsfeed zurück. Zwei Monate später erfolgte der "Stop the Steal"-Sturm aufs Kapitol. Erst nach diesem Tag wird Trump bei Facebook gesperrt.
2022 verabschiedet die EU den "Digital Services Act", sozusagen ein Grundgesetz für den digitalen Raum. Die Unternehmen müssen von nun an illegale Inhalte löschen. Und die Plattformen müssen sich jetzt "selbst analysieren". Ausgerechnet das Verbot von personalisierter Werbung kam jedoch nicht. Es gab keine Mehrheit für das Verbot, sagen verantwortliche Politiker im Film. Der Verdacht liegt laut Doku nahe, das Lobbyisten der Internet-Konzerne eine entsprechende Abmilderung des Gesetzes erreichten.
Ein Jahr mit den Whistleblowern
Konzerne wie Facebook stellten ihren Profit über das Wohl der Nutzer, hatte die Whistleblowerin Frances Haugen lange zuvor gewarnt. Versprechungen zur Abhilfe liefen offensichtlich in Washington und Brüssel ins Leere. In vielen Ländern wurden unter Mithilfe der Plattformen weiterhin Minderheiten verfolgt oder Oppositionelle unterdrückt. "Immer mehr Populisten und Autokraten nutzen soziale Plattformen, um auch in westlichen Demokratien Wahlen zu beeinflussen und Menschen zu manipulieren", so das Rechercheteam der Story im Ersten.
Es stellt sich die Frage: "Waren der Mut, der Einsatz und die persönlichen Kosten der Whistleblowerin Frances Haugen umsonst?" - Das Reportageteam von WDR, NDR und SZ begleitete Frances Haugen, aber auch andere Whistleblower und Insider über ein Jahr. Sichtbar wurden dabei mangelnde Kontrolle und Fehlentscheidungen in den Konzernen, aber auch die trickreichen Machenschaften derjenigen, die Demokratien unterwandern.
Im Video: Facebook und Instagram führen Abo ein - Das müssen Verbraucher wissen