Kolumbien: Richter benutzt neue ChatGPT zur Urteilsfindung

Die neue KI ChatGPT macht weltweit Schlagzeilen. Ein kolumbianischer Richter nutzte sie nun auf eine ganz besondere Art und Weise.

Juan Manuel Padilla arbeitet als Richter in der historischen Karibikstadt Cartagena. Doch mit seiner Urteilsbegründung ist der kolumbianische Richter nicht nur in der Moderne, sondern direkt in der Zukunft angekommen. Padilla bediente sich nämlich in seinem jüngsten Verfahren der vielbeachteten KI-App ChatGPT.

In dem Gerichtsverfahren ging um die Klage einer Familie gegen eine Krankenkasse. Diese hatte verweigert, die Gesamtkosten für die Behandlung des autistischen Sohnes zu tragen. Die Familie konnte sich aber die Kosten für Medikamente und Transporte nicht von ihrem Einkommen leisten. Darum landete der Fall auf dem Tisch von Richter Padilla. Dessen Entscheidung war eindeutig: Die Krankenkasse muss die Kosten übernehmen. Kurios war nur, wie der Richter zu der Entscheidung kam.

Antwort von ChatGPT fällt eindeutig aus

Denn Padilla bediente sich bei der Urteilsfindung der neuen Microsoft-KI ChatGPT. Die Dokumente des Gerichtsverfahrens belegen laut dem britischen "Guardian", dass Padilla ChatGPT folgende Frage stellte: "Ist ein autistischer Minderjähriger davon befreit, Kosten der Therapie selbst zu tragen?" Die Künstliche Intelligenz kam zu einer eindeutigen Antwort: "Ja, dies ist korrekt. Nach der kolumbianischen Gesetzgebung sind Minderjährige mit der Diagnose Autismus von der Zahlung von Therapie-Kosten befreit."

Das rechtskräftige Urteil wurde also von der KI bestätigt. Und löst nun eine Debatte um die Rolle von ChatGPT oder ähnlichen KI-Programmen in der Justiz aus. Denn immer wieder kommt es vor, dass die KI auf die gleiche Frage verschiedene Antworten gibt - oder sogar außer den vorhandenen Online-Quellen eigene (oft falsche) Informationen erstellt. Deshalb gab es auch im Fall dieses Urteils heftige Kritik von den eigenen Kolleg*innen.

Kritik von Richter-Kollegen

So rief ein Richter dazu auf, Justizbeamte sollten dringend digital geschult werden. Octavio Tejeiro, Richter am obersten Gerichtshof, glaubt, die Verwendung von KI löse eine "moralische Panik" in der Bevölkerung aus, weil die Menschen Angst hätten, die Technologie könne Richter*innen ersetzen. "Das Werkzeug darf nicht wichtiger werden, als die Person," sagte Tejeiro gegenüber dem "Guardian". Er glaube aber auch, dass die KI bald allgegenwärtig und weitreichend akzeptiert sein werde.

Padilla sah in seiner Art der Nutzung ohnehin kein Problem. Er verteidigte sich laut "Guardian" gegen die Vorwürfe und glaubt, dass der Einsatz von KI das aufgeblähte kolumbianische Justiz-System schneller und effektiver machen könnte. Ein Gesetz in Kolumbien aus dem vergangenen Jahr hält Anwälte bereits dazu an, wenn möglich neue Technologien zu verwenden, um ihre Arbeit effizienter zu gestalten.

Im Video: thecube: ChatGPT erobert die Tech-Welt

Allerdings hatte sich Richter Padilla neben der KI auch noch selbst an vorherigen Urteilen orientiert, bevor er seine Entscheidung fällte. In einer Radiosendung des Senders "Blu Radio" sagte Padilla, die KI könne zwar beim Erstellen von Texten helfen, "aber nicht mit dem Ziel, Richter zu ersetzen". "Indem wir der App Fragen stellen hören wir ja nicht auf, Richter zu sein, denkende Lebewesen", so Padilla.

Schon in Bezug auf Schule und Wissenschaft gab es in den vergangenen Wochen heftige Debatten auf der ganzen Welt, wie sehr der Gebrauch von ChatGPT Bildung und Information verändern könnte und wie man zukünftig falsche von korrekten Fakten unterscheiden kann.