Werbung

"Bruder Tech": Der KI-Ethik-Experte des Vatikans berät auch die UN und das Silicon Valley

"Bruder Tech": Der KI-Ethik-Experte des Vatikans berät auch die UN und das Silicon Valley

Bruder Paolo Benanti trägt das schlichte braune Gewand seines mittelalterlichen Franziskanerordens, während er sich mit einem der drängendsten Themen unserer Zeit befasst: Wie man künstliche Intelligenz (KI) so steuern kann, dass sie das Leben der Menschen bereichert - und nicht ausbeutet -.

Benanti ist der Ansprechpartner des Vatikans für diese Technologie. Er hat das Ohr von Papst Franziskus sowie einiger der besten Ingenieure und Führungskräfte des Silicon Valley.

Der 50-jährige italienische Priester hat einen Hintergrund in Ingenieurwesen, einen Doktortitel in Moraltheologie und eine Leidenschaft für das, was er als "Ethik der Technologie" bezeichnet. Seine Mission teilt er mit Papst Franziskus, der in seiner jährlichen Friedensbotschaft für 2024 auf einen internationalen Vertrag drängte, um die ethische Nutzung der KI-Technologie sicherzustellen.

"Was ist der Unterschied zwischen einem Menschen, der existiert, und einer Maschine, die funktioniert", sagte Benanti in einem Interview mit The Associated Press während einer Pause an der Päpstlichen Universität Gregoriana, wo er Kurse wie Moraltheologie und Bioethik für Studenten unterrichtet, die sich auf das Priesteramt vorbereiten.

"Dies ist vielleicht die größte Frage dieser Zeit. Wir sind Zeugen einer Herausforderung, die jeden Tag größer wird, mit einer Maschine, die immer menschlicher wird."

Berater für KI

Benanti ist Mitglied des Beratungsgremiums der Vereinten Nationen für künstliche Intelligenz und Leiter einer italienischen Regierungskommission, die Empfehlungen zum Schutz des Journalismus vor Fake News und anderen Desinformationen erarbeiten soll.

Seit 2021 ist er auch Mitglied der Päpstlichen Akademie für das Leben.

Nicht der Einsatz von KI ist das Problem, sondern der Umgang damit. Und hier kommt die Ethik ins Spiel - es geht darum, das richtige Maß für den Einsatz in einem gesellschaftlichen Kontext zu finden.

Benanti sagt, er helfe dem Heiligen Vater bei ihren Begegnungen, "die eher technischen Begriffe besser zu erklären".

Sein Wissen war bei einem Treffen zwischen Franziskus und Microsoft-Vizepräsident Brad Smith 2023 im Vatikan nützlich, bei dem es darum ging, wie KI der Menschheit helfen oder schaden könnte.

Nach Angaben des Vatikans hatten Franziskus und Smith bei einem Treffen einige Jahre zuvor auch über künstliche Intelligenz "im Dienste des Gemeinwohls" gesprochen.

Mit einem Papsttum, das sehr auf diejenigen achtet, die am Rande der Gesellschaft leben, hat Franziskus seine Sorge deutlich gemacht, dass die KI-Technologie die Menschenrechte einschränken könnte, indem sie beispielsweise den Hypothekenantrag eines Hauskäufers, das Asylgesuch eines Migranten oder die Bewertung der Wahrscheinlichkeit eines Straftäters, ein Verbrechen zu wiederholen, negativ beeinflusst.

"Wenn wir Daten auswählen, die nicht ausreichend inklusiv sind, werden wir Entscheidungen treffen, die nicht inklusiv sind", sagte Benanti, dessen Orden im frühen 13. Jahrhundert vom Heiligen Franz von Assisi gegründet wurde, der auf irdischen Reichtum verzichtete und wohltätige Werke förderte.

Im Jahr 2023 nahm Smith einen Podcast mit Benanti in Rom auf und beschrieb den Ordensbruder als "eine der faszinierendsten Persönlichkeiten der Welt" in Bezug auf seinen Hintergrund in den Bereichen Ingenieurwesen, Ethik und Technologie in der KI-Debatte.

Den richtigen Einsatz von KI finden

Benanti, der ein Jahr vor seinem Ingenieursdiplom an der römischen Universität Sapienza stand, als er das Studium - und auch seine Freundin - aufgab, um mit Anfang 20 den Franziskanern beizutreten, beschrieb, wie KI ein "wirklich mächtiges Werkzeug" sein könnte, um die Kosten der Medizin zu senken und Ärzten die Möglichkeit zu geben, mehr Menschen zu helfen.

Er beschrieb aber auch die ethischen Implikationen einer Technologie, die die gleichen Fähigkeiten wie ein Mensch haben könnte - oder vielleicht sogar mehr.

"Nicht der Einsatz der KI ist ein Problem, sondern der Umgang damit", sagte der Ordensbruder, "und hier kommt die Ethik ins Spiel - es geht darum, das richtige Maß des Einsatzes in einem sozialen Kontext zu finden."

Benanti wies darauf hin, dass ein Großteil der Daten, die in die KI einfließen, von Niedriglohnarbeitern stammen, von denen viele in Entwicklungsländern leben, die in einer Geschichte des Kolonialismus und der Ausbeutung von Arbeitskräften verwurzelt sind.

"Ich möchte nicht, dass das als die Zeit in Erinnerung bleibt, in der wir dem globalen Süden kognitive Ressourcen entziehen", sagte er.

Wenn man sich "die besten Werkzeuge, die wir in der KI produzieren" im Westen anschaue, sehe man, dass die KI "mit unterbezahlten Arbeitern aus englischsprachigen ehemaligen Kolonien trainiert wird."

Die Frage, wie KI zu regeln ist, ist ein Problem, das Länder auf der ganzen Welt zu lösen versuchen. Die Europäische Union wurde Ende vergangenen Jahres zum Vorreiter, als die Verhandlungsführer eine Einigung erzielten, die den Weg für eine rechtliche Überwachung der KI-Technologie ebnete.

In Italien wird Ministerpräsidentin Giorgia Meloni, die befürchtet, dass KI zum Verlust von Arbeitsplätzen führen könnte, die Technologie zu einem Schwerpunkt des diesjährigen G-7-Gipfels machen, der von Italien ausgerichtet wird.

Im Rahmen dieser Bemühungen traf Meloni in Rom mit dem Microsoft-Gründer Bill Gates zusammen. Auch Benanti nahm an diesem Treffen teil.

Der Ordensbruder erklärte gegenüber AP, dass die Regulierung der künstlichen Intelligenz nicht bedeuten sollte, ihre Entwicklung einzuschränken.

"Es bedeutet, sie mit dem fragilen System der Demokratie kompatibel zu halten, das heute das beste System zu sein scheint", sagte Benanti.