Neues Machtinstrument? China entwickelt Software, die automatisch Kriminelle anklagt

China hat eine Software entwickelt, die bei der Strafverfolgung helfen soll. Das künstlich intelligente Programm soll kriminelles Verhalten erkennen und die vermeintlichen Verbrecher selbstständig anklagen können.

China baut seinen Apparat zur Überwachung und Bekämpfung von Systemkritikern weiter aus. So jedenfalls interpretieren Kritiker*innen die neueste technologisch Errungenschaft der Volksrepublik: eine Software, die den Gerichten bei der Strafverfolgung helfen soll.

Entwickelt wurde das so genannte "System 206" von der Staatsanwaltschaft Shanghai, wie die britische Zeitung "Daily Mail" unter Berufung auf die "South China Morning Post" (SCMP) berichtet. Dort soll sich das Programm seit 2019 im Einsatz befinden.

"System 206" soll Gerichte entlasten

Das System könne mit Hilfe eines Algorithmus Straftaten erkennen und selbstständig vermeintliche Verbrecher anklagen, heißt es weiter. Dadurch würden die menschlichen Strafverfolger in ihrer Arbeit entlastet, da sie sich auf komplexere Fälle konzentrieren könnten.

"System 206" soll Anklagen auf Grundlage von 1.000 Verhaltensmerkmalen erheben können, die wiederum auf von Menschen erstellten Fallbeschreibungen basierten. "Trainiert" worden sei die Software anhand von mehr als 17.000 Fällen in den Jahren 2015 bis 2020.

Angeblich kann der KI-Anwalt mit einer Treffergenauigkeit von 97 Prozent die acht am meisten verbreiteten Straftaten in Shanghai erkennen, darunter Kreditkartenbetrug, Glücksspiel, vorsätzliche Körperverletzung und ein Verhalten, das in den Berichten mit "Ärger provozieren" umschrieben wird.

Ist die Software ein Werkzeug der Macht?

Letztgenannte "Straftat" ist besonders heikel. Kritiker*innen befürchten, dass die Kommunistische Partei Chinas die Software politisch instrumentalisieren könnte. Bekämpft werden könnte damit auch das "provozierende und störende Verhalten", wie es im chinesischen Strafgesetzbuch heißt, von Regimekritikern und Oppositionellen.

Andere stellen die Technologie als solche in Frage. "Die Genauigkeit von 97 Prozent mag aus technischer Sicht hoch sein", zitiert SCMP einen namentlich nicht genannten Anwalt aus Guangzhou, "aber es wird immer die Möglichkeit eines Fehlers geben."

Dieses Problem hätte weitere Probleme zur Folge. Wer zum Beispiel müsste zur Rechenschaft gezogen werden, nachdem "System 206" einen Fehler gemacht hat", fragt der Strafverfolger. "Der Anwalt, die Maschine oder der Entwickler des Algorithmus?"

Im Video: Projekt Botto - Künstliche Intelligenz schafft Kunst