ARD Reportage: Wann kommt der große Umbruch durch Künstliche Intelligenz?

Ranga Yogeshwar ist auf der Suche nach dem Impact der Künstlichen Intelligenz auf unsere Gesellschaft. Dafür bestellt er sich zunächst einen Kaffee, der vollständig von Robotern zubereitet wurde. Foto: Screenshot / ARD

Die Digitalisierung eilt und bahnbrechende Entwicklungen auf dem Gebiet der Künstlichen Intelligenz (KI) eröffnen neue Möglichkeiten: Algorithmen erkennen Parkinson, Krebs oder Depressionen besser als ein Arzt. Wissenschaftsjournalist Ranga Yogeshwar reist zu den Hotspots der KI-Forschung in Europa, den USA und China und zeigt wichtige Entwicklungen. Was kommt auf uns zu? Der Film von Tilman Wolff und Ranga Yogeshwar spürt der Frage nach, wie künstliche Intelligenz unser Leben verändert.

Mit Künstlicher Intelligenz werden große Hoffnungen verknüpft: In der Mobilität etwa oder im Bereich der diagnostischen Medizin – Algorithmen können schon heute Erkrankungen früher erkennen als Menschen. Dem gegenüber stehen Dystopien, die vor Totalüberwachung durch KI warnen und dem absoluten Verlust der Privatsphäre. Wo stehen wir zurzeit?

Der Anfang der ARD-Reportage ist im Vergleich zu diesen beiden Extremen geradezu spielerisch: Im Silicon Valley besucht Ranga Yogeshwar eine Amazon Go-Filiale. Das ist ein vollautomatisierter Supermarkt, für den man nur noch eine App benötigt, um einzukaufen. Denn Sensoren und Kameras zeichnen auf, was man in seinen Einkaufswagen legt. Abgebucht wird automatisch von der Kreditkarte beim Verlassen der Filiale. Keine Schlange, keine Kasse. Bequemlichkeit im Preis für Totalüberwachung. Denn Sensoren zeichnen alles auf, welche Produkte man wie lang anschaut, wo man zögert, Amazons Smart-Home-Assistenzsystem „Alexa“ hilft dazu gern mit passenden Rezepten. Amazon plant bereits 50 weitere Filialen.

Ein Durchbruch in der Parkinson-Früherkennung?

Weiter geht die Bestimmung des Status Quo der KI-Forschung an der Universität Stanford, dort entwickeln Wissenschaftler eine KI, die Diagnosen anhand von Röntgenaufnahmen stellt. 100.000 Aufnahmen des nationalen Gesundheitssystems haben die Wissenschaftler ihrem Algorithmus gefüttert, mittlerweile ist er so gut wie die hauseigenen Radiologen.

Auf Röntgenaufnahmen Krankheiten erkennen zählt fraglos zu den komplexeren Aufgaben auf dem Gebiet der Mustererkennung – denn nichts anderes macht die KI, sie erkennt auf den Röntgenaufnahmen Muster wieder, die sie sich vorher antrainiert hat. Bei einfacheren Aufgaben übertrumpfen Mustererkennungs-Algorithmen mittlerweile sogar den Menschen. Zum Beispiel erkennen Algorithmen Verkehrsschilder besser als Menschen.

Einfach per App die Röntgenaufnahme scannen, dann begutachtet eine KI das Krankheitsbild und gibt eine Diagnose in Wahrscheinlichkeiten an. Foto: Screenshot / ARD

Doch nicht nur optische Signale, sondern sämtliche Sensordaten, können ausgelesen und interpretiert werden. Max Little, ein Wissenschaftler aus Birmingham untersucht, ob sich mithilfe der Beschleunigungssensoren, die in jedem handelsüblichen Smartphone verbaut sind, eine Früherkennung für Parkinson kreieren lassen. Er sagt, Parkinson-Patienten im Frühstadium gingen anders – jedes Smartphone könne genau die dazu passenden Informationen dazu liefern. Und das, obwohl ein Mediziner noch lange nichts von der Erkrankung wissen könne, geschweige denn der Patient selbst. Es wäre die erste Früherkennung für Parkinson weltweit – ein Durchbruch.

Sollten wenige Menschen die Macht über viele Menschen haben?

Einmal um die Welt, bitte, ab nach China: zur Supermacht der Künstlichen Intelligenz. Milliardenschwere Förderprogramme der Regierung haben das Land uneinholbar vorauseilen lassen im internationalen Wettbewerb des technologischen Wettrüstens. Die Designforscherin Gesche Joost sagt: „Sie arbeiten hier neun-neun-sechs. Von neun morgens bis neun abends, sechs Tage die Woche. Es gibt kein Halten und Bremsen, weil sie etwas verändern wollen.“ Das erzählt sie, während sie in einem vollautomatisierten Restaurant sitzt, von den Kühlketten, über die Köche und Kellner – alles sind Algorithmen-gesteuerte Roboter und Programme.

Der rasante Fortschritt funktioniert aber nicht nur, weil die Arbeitszeiten länger sind, sondern auch, weil niemand mahnend bremst. Es gibt keinen Kampf zwischen Sicherheit und Privatsphäre, wie wir ihn führen. „Das ist für uns schwer begreifbar, weil bei uns Privatsphäre und die Rechte des Einzelnen so wichtig sind. Aber in China gibt es eine andere Tradition dazu“, sagt Joost.

Die Überwachungszentrale in Shenzen. Zwar sitzen hier auch Menschen, die meiste Arbeit wird aber von einer KI übernommen, die Informationen filtert und aufbereitet. Foto: Screenshot / ARD

China baut eine totale Überwachung auf. Überall gibt es Überwachungskameras, dazu gibt es den „Social Score“, ein Punktesystem, der einen für gutes Verhalten belohnt. Nur, was ist gut und was nicht? Das legt allein die Regierung fest. Sollten einige wenige so große Macht über so viele haben?

Google ist ein gefährliches Monopol

Yogeshwar besucht das Kontrollzentrum der Stadt Shenzen. Hier laufen alle Informationen zusammen, von der Auslastung der Betten in den Krankenhäusern, bis zu den Stromausfällen, dem Verkehrsfluss, der Wasserversorgung, Livebilder von den Straßen, gedreht mit Bodycams der Stadt-Mitarbeiter, Livebilder aus der Luft auf die Dächer und in die Gärten hinein: Es ist eine totale Transparenz und damit eine totale Überwachung der gesamten Stadt. Wer bei Rot über die Ampel geht, wird bestraft. Mit einem Bußgeld und mit Punkteabzug im „Social Score“. Vertreter der Stadt sagen, die Kriminalität sei dadurch zurückgegangen. Aber all das im Dienst einer effizienteren Gesellschaft? Alles messen, kontrollieren und bewerten – nur weil es technisch möglich ist? Eine Antwort darauf gibt es nicht.

Weiter geht die Reise nach Deutschland – zur Google-Vertretung. Jens Redmer von Google Deutschland steht Rede und Antwort. Oder sowas in der Art: Dass Google über sechs Millionen Euro für Lobbyarbeit in Brüssel ausgibt und mit 200 Politiker-Treffen der aktivste Lobbyist ist? Nicht wichtig. Ob der Smart-Speaker Google-Home immer lauschen würde? Nein, natürlich nicht, nur wenn man „Ok Google“ sagt, schaltet sich der Lautsprecher an. Was hat es dann mit dem angemeldeten Patent aus dem Jahr 2016 von Google auf sich, hinter dem eine Technologie steckt, die Alltagsgeräusche erkennt und interpretiert, wie etwa Zähneputzen, Streit oder ob ein Hausbewohner krank ist? Dazu kann er nichts sagen, die meisten Patente seien aber für „fiktive und imaginäre Dienste“.


Barry C. Lynn leitet das Openmarket Institute, er sagt, dass Google eine sehr gefährliche Monopol-Stellung erreicht hat: „Google will die Welt beherrschen, unsere Gedanken, unsere Kommunikation und unsere Geschäfte steuern. Sie wollen alles steuern, was sie können. Sie wollen wissen, was mit unseren Thermostaten ist, was wir gerade auf dem Fernseher schauen. Sie haben einen Grad an Überheblichkeit erreicht, den sich nicht einmal Stalinisten hätten vorstellen können.“

Was sind Moral-Dilemmata?

Im Gespräch mit der Bundesjustizministerin Katarina Barley fragt Yogeshwar daraufhin nach der Macht der Daten und der Verantwortung der Justiz. Barley sagt, man hätte damals schon das Kartellamt einschalten müssen, als Facebook WhatsApp übernahm. Doch Daten seien keine Kenngröße für ein Monopol, nur Nutzer, Nutzungszeiten, Erlöse. Das müsse dringend geändert werden: „Vielleicht muss Google irgendwann zerschlagen werden. Wo riesige Datenmenden vorhanden sind, kann man beispielsweise auch sagen, dass sie das öffnen müssen, dass sie die Daten anderen kleineren Unternehmen zur Verfügung stellen müssen.“ Damit wieder mehr Wettbewerb entstehe.

Zum Schluss der Sendung setzt sich Yogeshwar noch in diverse selbstfahrende Autos. Unter anderem am Massachusetts Institute of Technology. Das ist ernüchternd, denn es zeigt vor allem eins: Wir sind noch ganz weit weg vom autonomen Fahren. Die Technologie ist heillos überfordert. Ein Wissenschaftler spricht von gut und gern 20 bis 30 Jahren, bis die Fahrzeuge sicher seien.

Nicht nur die Technik, auch die ethische Fragestellung nach der Verantwortung der Maschinen ist noch lange nicht beantwortet. Iyad Rahwan vom MIT erklärt das Problem anhand der Unfallvermeidung von Mensch und Maschine: „Man kann von Menschen nicht verlangen, in dem Moment richtig zu reagieren. Dafür geht alles viel zu schnell. Man kann niemand verantwortlich machen für einen Unfall, es sei denn, er hat etwa Alkohol getrunken. Für Maschinen läuft die Zeit aber langsamer ab. Das Umfeld wird millionenfach per Sekunde erfasst. Maschinen können den Ablauf auswerten und sich für eine Strategie entscheiden.“


Doch das müsse programmiert werden und sei bis heute ungelöst. Beispielhaft untersucht Rahwans Abteilung anhand der „Moral Machine“ die moralischen Unterschiede weltweit. Die Moral Machine präsentiert Menschen auf der ganzen Welt Dilemma-Situationen von Unfällen, also Situationen ohne eindeutige Lösungen. Die Ergebnisse sind von Kultur zu Kultur unterschiedlich. Es lohnt sich absolut, das selbst auszuprobieren.

So endet der erste Teil einer zackigen Reportage-Reise mit Ranga Yogeshwar und Tilmann Wolff etwas unbefriedigend. Das Thema ist komplex, die Zeit kurz. Das spürt man leider die ganze Sendezeit über. Hier hat die ARD eine Chance vertan, denn die meisten Themenfelder wurden nur oberflächlich angekratzt. Aber: es kommen noch weitere Folgen, vielleicht tauchen die tiefer in die bereits angesprochenen Themenfelder.

Fazit: gut gedacht

Wahrscheinlicher ist aber, dass sie neue Dimensionen beleuchten, denn KI beeinflusst jeden Bereich des Lebens. So bleiben viele Fragen zum ersten Teil, etwa: Die Verantwortung von Google und die fragwürdige Lobbyarbeit im Kontext der EU-Entscheidung zur Urheberrechtsreform? Kaum ein Thema ist aktueller, aber: kein Wort. Genau wie die Frage nach den Konsequenzen des „Social Systems“ in China, denn wer schlecht abschneidet, bekommt keinen Schulplatz für seine Kinder oder verliert den Job oder die Beförderung. Über diese schon heute realen Konsequenzen? Kein Wort. Wo liegt eigentlich die Verantwortung, wenn ein autonomes Fahrzeug einen Unfall baut? Beim Hersteller? Dem Verkäufer? Dem Eigentümer? Dem Fahrgast? Dem Software-Hersteller? Dem Netz-Betreiber? Auch hier: Kein Wort.

Das sind nur drei kurze Fragen, die wirklich spannend gewesen wären, genauer zu betrachten. Leider verlässt die Sendung zu selten bekanntes Terrain. Für ein Zukunftsthema nicht das beste Fazit.