Wie "Puls in Echtzeit": KI-Assistent "Ion" berät Rumäniens Ministerpräsidenten
Rumäniens Ministerpräsident hat einen neuen ehrenamtlichen Assistenten vorgestellt, der vollständig mit künstlicher Intelligenz (KI) arbeitet. Der Computerbildschirm, den Sie hier sehen, heißt Ion. Diese KI wurde von Forscher:innen entwickelt, um schnell die Ansichten rumänischer Bürger:innen zu analysieren. Auf der Projekt-Website können die Menschen mit Ion chatten.
Die KI wird auch soziale Medien durchforsten, um herauszufinden, über welche Themen die Menschen diskutieren, und eine Stimmungsanalyse durchführen - das heißt, sie wird auswerten, ob es zum Beispiel positive oder negative Reaktionen auf ein bestimmtes Ereignis gibt.
Doch wie genau wird dieser KI-Assistent der rumänischen Regierung helfen?
Wir haben darüber mit Nicu Sebe, dem Koordinator des Forschungsteams an der Universität von Trient gesprochen:
"Ich erwarte nicht, dass der Ministerpräsident immer das tun wird, was Ion sagt. Es ist eher ein Vorschlag, so als ob man den Puls in Echtzeit fühlen würde. Und ein weiterer wichtiger Aspekt ist, dass wir mit dieser Art von System hoffen, einen großen Teil der rumänischen Bevölkerung zu erreichen."
Die Technologie ist weltweit die erste ihrer Art, hat aber auch einige Nachteile, wie Kris Shrishak, Technologie-Fellow beim Irish Council for Civil Liberties, berichtet:
"Sie haben den Begriff "öffentlicher Raum" verwendet, und es schien, als würden sie soziale Medien mit dem öffentlichen Raum gleichsetzen, was natürlich an sich problematisch ist, weil nicht jeder dort vertreten ist. Bestimmte Stimmen würden verstärkt, besonders wenn man regelmäßig postet. Deshalb habe ich gesagt, dass die Öffentlichkeit auf jeden Fall wissen muss, wie die KI entscheiden wird, welche Stimmen ausgewählt werden und welche die Politik stark beeinflussen werden.
In der Tat sind einige Experten besorgt, dass beispielsweise Bots anfangen könnten, soziale Medien zu überschwemmen, um den Anschein zu erwecken, dass ein Thema aktuell ist, obwohl die Wirklichkeit anders aussieht.
In Polen hatten gefälschte Social-Media-Konten verstärkt Anti-Ukraine-Hashtags auf Twitter gepostet und ließen es so aussehen, als gäbe es massiven Widerstand gegen ukrainische Flüchtlinge. Für Expert:innen ist es jedoch wichtig, dass dieses Instrument nicht für die Entscheidung über künftige politische Maßnahmen verwendet werden sollte.
"Es sollte idealerweise nicht als Input für die zukünftige Politik verwendet werden. Politische Maßnahmen werden noch entwickelt. Vielmehr könnte es möglicherweise so eingesetzt werden, dass man ein Feedback zu bereits umgesetzten Maßnahmen erhält", führt Shrishak aus.
Die Forscher, die an Ion arbeiten, erklärten gegenüber #TheCube, dass sie das Modell genau im Auge behalten werden und gegebenenfalls Änderungen vornehmen würden.