Umstrittenes Feature: Alexa kann Stimmen toter Menschen zum Leben erwecken

Stellen Sie sich vor, Oma liest Ihrem Kind eine Geschichte vor. Doch Oma ist schon lange tot. Mit einem neuen Feature soll es Amazons Sprachassistent Alexa bald möglich sein, Stimmen von Verstorbenen zu imitieren. Ist das gruselig oder einfach schrecklich rührend? Es gibt kritische Stimmen.

“Alexa, kann Oma mir den Zauberer von Oz zu Ende vorlesen?”, fragt ein Kind in einem Amazon-Video, das auf der Remars-Konferenz in Las Vegas präsentiert wurde. Erst bestätigt das Alexa mit ihrer roboterhaften Stimme kurz – dann beginnt sie mit der Stimme einer älteren Frau vorzulesen. Diese Frau weilt aber längst nicht mehr unter den Lebenden. Kein Wunder, dass die neue Funktion der digitalen Sprachassistenz für mächtig Wirbel sorgt.

Wie Amazons Senior Vice President und Head Scientist für Alexa, Rohit Prasad, erklärte, soll Alexa jetzt die Stimmen von Verstorbenen imitieren können. Oma kehrt – zumindest digital – aus dem Reich der Toten zurück und liest ihren Enkelkindern Märchen vor. Wie das möglich ist? Mit einer neuen Technologie, die in der Lage ist, aus kurzen Audioclips längere Sequenzen zu generieren.

KI macht es möglich, mit Toten zu reden

Eine Minute Audiomaterial, also nur eine kurze Aufnahme der angeblichen Großmutter, habe dem Alexa-Team ausgereicht, um ihre Stimme zu synthetisieren und authentisch klingen zu lassen, erklärte Prasad. Viele Details zur neuen Technologie gibt es derzeit noch nicht, auch nicht, wann die Funktion auf dem Markt kommen soll. Klar ist lediglich, dass sie sich derzeit in der Entwicklungsphase befindet.

iggy statt Alexa: Wie können Nutzer den Namen der Assistentin ändern?

KI für Gespräche oder als Ersatz für einen Gefährten zu programmieren, sei zu einem Schwerpunkt geworden, meinte Prasad, vor allem nachdem so viele während der Corona-Pandemie jemanden verloren haben, den sie lieben. "Künstliche Intelligenz kann den Schmerz des Verlusts nicht aus der Welt schaffen, aber sie kann definitiv die Erinnerungen an diese Menschen bewahren“, erklärte er.

Betrugsgefahr durch neue Alexa-Software

Kritiker sehen in der Software jedoch nicht nur einen Fortschritt, sondern auch ein Problem: Mal abgesehen von der Tatsache, dass es schon ein wenig gruselig ist, Stimmen von Toten wieder zum Leben zu erwecken, warnen Expert*innen davor, dass die neue Technologie zur Verbreitung von Desinformationen in den sozialen Medien führen oder auch für Betrugsversuche am Telefon missbraucht werden könnte.

Next Generation: Amazon stellt neue Tablets Fire 7 und Fire 7 Kids vor

Wie "Engadget" berichtet, soll es Betrügern schon vor zwei Jahren gelungen sein, einen Bankmanager aus den Vereinigten Arabischen Emiraten mithilfe einer gefälschten Stimme davon zu überzeugen, die Überweisung von 35 Millionen US-Dollar zu veranlassen. Um solche Deep-Fake-Verbrechen zu verhindern, müsste Amazon entsprechende Sicherheitsvorkehrungen treffen, bevor die Technologie Alexa-Nutzer*innen zur Verfügung gestellt wird.

VIDEO: Papagei gibt Alexa Befehle und tanzt zur Musik