Nach dem Zürich-"Tatort": Gibt es einen Schutz vor KI-gestützter Gesichtserkennung?

Dreifacher Mord beschäftigte Isabelle Grandjean (Anna Pieri Zuercher) und Tessa Ott (Carol Schuler) im sechsten Zürich-"Tatort". Die Toten hatten eine Software entwickelt, die vor unerlaubter Gesichtserkennung schützt. Gibt es vergleichbares Apps wirklich? Wie steht es um Bestimmungen zur KI in der Schweiz?

Eine drohnengesteuerte Mordwaffe war nicht die einzige Idee im Zürich-"Tatort: Blinder Fleck", die klang, als sei sie geradewegs einem Science-Fiction-Roman entsprungen: Auch wenn das eigentliche Mordmotiv im längst vergangenen Bosnienkrieg verortet lag, so führte der Dreifachmord an einem IT-Unternehmerpaar und seinem Kreditberater die Ermittlerinnen Isabelle Grandjean (Anna Pieri Zuercher) und Tessa Ott (Carol Schuler) doch recht bald zu einem Problem, das die Menschheit in Zukunft zunehmend beschäftigen wird.

Die Rede ist von automatisierter Gesichtserkennung basierend auf Künstlicher Intelligenz (KI): Unter welchen Bedingungen ist diese Methode schon heute in der Schweiz und in Deutschland erlaubt? Und viel wichtiger: Gibt es wirklich eine effektive Schutzsoftware für den individuellen Gebrauch, die wie im Film von Tobias Ineichen (Regie), Karin Heberlein und Claudia Pütz (beide Buch) vor unerlaubter Überwachung schützt?

Worum ging es?

Das Unternehmerpaar Marco Tomic (Patric Gehrig) und Julie Perrier (Samia von Arx) wurde bei einem Treffen mit dem Kreditberater Jakob Bachmann (Uwe Schwarzwälder) im Zürcher Oberland erschossen. Auch Bachmann wurde Opfer des Überfalls, die sechsjährige Ella Perrier (Maura Landert) überlebte traumatisiert.

Bei ihren Ermittlungen erfahren Isabelle und Tessa von einem Streit zwischen dem toten Ehepaar und Joel Müller (Ralph Gassmann), dem Mitinhaber ihres Start-ups: Müller wollte die Software "Blind Spot", die vor unerlaubter KI-gestützter Gesichtserkennung schützt, an das US-Unternehmen "Security Rumpf" verkaufen. Doch Tomic hielt dagegen, aus Angst, Ken Rumpf (Jarreth J. Merz), der sein Geld mit drohnengesteuerten Überwachungssystemen verdiente, könne die Schutzsoftware nach dem Erwerb deaktivieren.

Auch wenn es zunächst so aussah, als hätten Müller oder Rumpf die Uneinsichtigen auf dem Gewissen, schlug der Film später eine andere Richtung ein: Tomic und Bachmann waren Anhänger der paramilitärischen Gruppe HVO im Bosnienkrieg. Der Sohn (Nicola Perot), eines ihrer Opfer, übte durch den dreifachen Mord Rache, in dem er die Tat zusätzlich einem dritten Söldner (Marcus Signer) in die Schuhe schob.

Worum ging es wirklich?

So schockierend die Erzählungen aus dem Bosnienkrieg der frühen 1990-er auch sind, weitaus mehr beschäftigt das Publikum des vom SRF produzierten Krimis wohl der zweite Handlungsstrang, die Frage nach den technischen Möglichkeiten und rechtlichen Grenzen KI-gestützter Gesichtserkennung im staatlichen wie auch privaten Gebrauch: "Ich glaube nicht, dass so etwas bei uns genutzt werden wird", sagt Ott, als Rumpf ihr seine Drohne vorstellt, die Zivilpersonen überwachen und Daten über deren Aufenthaltsort sammeln kann. Ganz unwahrscheinlich erscheint eine solche Weiterentwicklung in Zukunft allerdings nicht.

Welchen Stellenwert hat KI-gestützte Gesichtserkennung derzeit?

Die Bedeutung Künstlicher Intelligenz zur Überwachung wächst seit Jahren: Mindestens 75 von 176 untersuchten Ländern nutzten 2019 KI zur Überwachung, die deutliche Mehrheit davon auch Gesichtserkennungstechnologie. So geht es aus einer Studie der Carnegie Stiftung für internationalen Frieden (CEIP) hervor. Die Bertelsmann Stiftung verzeichnet zudem eine zunehmende Akzeptanz automatischer Gesichtserkennung im öffentlichen Raum: Sprachen sich 2018 noch 36 Prozent der Bevölkerung dafür aus, so waren es 2022 schon 51 Prozent.

Es gibt jedoch nationale Unterschiede: Die Metropolitan Police in London sorgte für Schlagzeilen, als sie 2020 den Einsatz der sogenannten Live-Gesichtserkennung ankündigte. Sie ist dazu in der Lage, unter Beobachtung stehende Personen in großen Menschenmengen zu identifizieren. Im Gegensatz dazu untersagte San Francisco im Mai 2019 als weltweit erste Stadt ihren Behörden und der Stadtpolizei den Einsatz von Gesichtserkennungstechnologie.

Wo wird KI-gestützte Gesichtserkennung in Deutschland eingesetzt?

In Deutschland plante der damalige Bundesinnenminister Horst Seehofer (CSU) den Einsatz von Software zur Gesichtserkennung für sicherheitsrelevante Bereiche. Einem ersten Entwurf des Bundespolizeigesetzes nach sollte diese an 135 deutschen Bahnhöfen und 14 Verkehrsflughäfen eingeführt werden. Der Passus, dass die gewonnenen Aufnahmen automatisch mit biometrischen Daten abgeglichen werden können, wurde vor der Abstimmung durch andere Ressorts der Bundesregierung allerdings gestrichen. So berichtete unter anderem "Spiegel Online" im Januar 2020.

Inzwischen kommt Gesichtserkennungstechnologie vor allem dann zum Einsatz, wenn es darum geht, Aufnahmen bekannter Personen aus großen Datenmengen zu filtern, beispielsweise nach einer Hausdurchsuchung im Zusammenhang mit Kinderpornografie. Seit 2008 nutzen Landeskriminalämter, die Polizei und das Bundeskriminalamt ein Gesichtserkennungssystem (GES) zur Identifizierung unbekannter Tatverdächtiger. Dafür greifen sie auf einen Pool von fast sechs Millionen Bildern zurück, die meist aus erkennungsdienstlichen Maßnahmen und internationalen Fahndungen stammen. Peer Zabel, Sprecher des Bundeskriminalamtes, betont allerdings auch: "Das BKA nutzt keine Gesichtserkennungssoftware für eine Echtzeit- oder Live-Überwachung von Bürgerinnen und Bürgern."

In Hamburg und Mannheim testet die Polizei derzeit eine sogenannte Verhaltenserkennung: Sie identifiziert aggressive oder defensive Körperhaltung, aber auch Anzeichen von Trunkenheit wie etwa Taumeln, Liegen oder Fallen. Derartige Aufnahmen müssen allerdings pausenlos von der Polizei überwacht werden. Zudem muss die zuständige Leitstelle auch in der Lage sein, im Ernstfall sofort einzugreifen. Sensible Bereiche wie etwa private Hauseingänge müssen auf den Aufnahmen unkenntlich gemacht werden. In der EU ist die Echtzeitnutzung biometrischer Daten seit Juni 2023 temporär verboten, Ausnahmen wären wichtige Gründe der öffentlichen Sicherheit.

Wie geht die Schweiz mit KI-gestützter Gesichtserkennung um?

Wie in vielen Ländern nimmt auch die Zahl der Überwachungsmaßnahmen in der Schweiz seit Jahren zu: Die Kantonspolizei St. Gallen zum Beispiel verwendet seit 2021 die Software einer schwedischen Firma, um Bild- und Videodaten in kurzer Zeit auszuwerten. Ein präventiver Einsatz, etwa bei Demonstrationen, erlaubt das Polizeigesetz derzeit aber noch nicht. Eine Aufweichung rechtlicher Grenzen sieht Lukas Hafner von Amnesty International Schweiz (AI) kritisch, wie er 2022 gegenüber der "Neuen Zürcher Zeitung" betont, könnten Menschen so doch davon abgehalten werden, Demonstrationen zu besuchen, was die Meinungsfreiheit einschränkt.

Echtzeitanalysen sind in der Schweiz bislang verboten. Der Plan der Schweizerischen Bundesbahn (SBB), die Bewegung Reisender an Bahnhöfen zu erfassen und daraus auch Rückschlüsse auf ihr Einkaufverhalten vor Ort zu schließen, wurde Anfang 2023 nach massiver Kritik aus Medien und Politik verworfen. Auch dürfen weder soziale Netzwerke noch die nationale Fahndungs-Datenbank angezapft werden, eine Praktik, die in China schon lange gang und gäbe ist. Gefahr geht zudem von bestimmten Apps aus: Die russische App FindFace etwa benötigt nur ein Foto von einer Person, um sie im Internet, zum Beispiel in den sozialen Netzwerken ausfindig zu machen. Einen ähnlichen Ansatz verfolgt auch die polnische Software PimEye.

Wie kann man sich vor unerlaubter Gesichtserkennung schützen?

Theorien zum angeblichen Schutz vor KI-gestützter Gesichtserkennung geistern seit langem durch das World Wide Web: Ins Gesicht geschminkte geometrische Formen, stark reflektierende Kleidung oder bunte Brillen sollen angeblich helfen. Expertinnen und Experten bezweifeln aber den flächendeckenden Nutzen.

Deutschlandfunk berichtete 2019 von einer Software, ähnlich derjenigen, die im "Tatort: Blinder Fleck" vorgestellt wurde: Die Entwicklung der israelischen Firma D-ID schafft es, das Foto eines Gesichts durch Algorithmen nahezu deckungsgleich zu kopieren. Die minimalen Abweichungen zwischen den beiden Versionen sind für das menschliche Auge kaum erkennbar, KI-gestützte Erkennungssoftware können die abgebildete Person allerdings nicht mehr identifizieren.

Massentauglich für den privaten Gebrauch wurde der Ansatz bislang allerdings noch nicht: "Wir sind zu klein, um einen solchen Markt zu bedienen", sagte Mickey Cohen, Direktor für Vorschriften, Datenschutz und Produkte bei D-ID: "Außerdem haben viele schon hunderte Fotos von sich in den sozialen Medien. Jetzt noch die Identität auf dem ein oder anderen Foto zu verbergen, würde ihren Datenschutz kaum verbessern."

Wie geht es mit dem Zürich-"Tatort" weiter?

"Tatort: Blinder Fleck" war der sechste Fall für die Kommissarinnen Grandjean und Ott. Zwei weitere Filme unter Regie des "Tatort"-erfahrenen Filmemachers Michael Schaerer ("Tatort: Zwischen zwei Welten", 2014) wurden im Februar 2023 abgeschlossen. Folge sieben erzählt von zwei verfeindeten Schwestern vor der Kulisse des Züricher Zoos. Fall acht wiederum widmet sich einem Serientäter zur Weihnachtszeit. Die Drehbücher stammen von Stefan Brunner und Lorenz Langenegger, die die Figuren des Zürcher "Tatort" entwickelten sowie die ersten beiden Fälle schrieben.

Video: Neue Karriere? Bill und Tom Kaulitz wollen zum "Tatort"