Millionen Personen nutzen KI als romantische Unterstützung gegen Einsamkeit. Doch Forscher warnen davor, denn die Anbieter können problematisch sein. Denn es geht um sensible Daten und Abhängigkeiten, die hier erzeugt werden können.
Unser Titelbild ist ein Symbolbild.
Künstliche Intelligenz hat Einzug in etliche Lebensbereiche gefunden. Nicht nur im Büro werden Agenten wie ChatGPT immer häufiger genutzt, sondern auch im privaten Bereich? Galt vor ein paar Jahren ein künstliche KI-Freund als völlig abwegig, ist das heute schon fast zur Normalität geworden. Schaut man sich die Bestenlisten im PlayStore von Google oder Apple an, wurden solche KI-Begleiter millionenfach heruntergeladen. Einige Nutzer vertrauen künstlicher Intelligenz bereits mehr als echten Menschen.
Eine Normalität, die von Forschern hinterfragt wird. Denn der Kampf gegen die Einsamkeit birgt auf Dauer eine ganze Reihe anderer Probleme. Forscher warnen, dass KI-Begleit-Apps wie Replika zwar gegen Einsamkeit helfen sollen, in der Praxis aber auch Isolation verstärken, psychisch verletzliche Nutzer beeinflussen und erhebliche Datenschutzrisiken mitbringen können.
Romantische KI-Begleiter werden immer beliebter, doch Forscher warnen vor Risiken
Was ist das Problem? Die KI-Apps bieten nicht nur Gespräche an, sondern sollen auch emotionale Zuwendung und sogar romantische Interaktionen simulieren. Dinge, für die sich die Anbieter oft ordentlich bezahlen lassen, denn romantische oder sexuelle Modelle benötigen oft ein Premium-Abo.
Und hier knüpft der Vorwurf von Experten an. Denn diese warnen, dass das Geschäftsmodell der Anbieter problematisch sein könne: Je stärker Nutzer emotional abhängig werden, desto eher bleiben sie in der App und zahlen für Premiumfunktionen.
Genau das könne die eigene Isolation eher verstärken als lindern. Eine Studie der Stanford University stellte etwa fest, dass Menschen, die lieber auf KI als auf andere Menschen setzen, potentiell einsamer seien (Nature.com):
Wir stellten fest, dass die Teilnehmer einsamer waren als typische Studentengruppen, aber dennoch eine hohe soziale Unterstützung wahrnahmen. Viele nutzten Replika auf vielfältige, sich überschneidende Weise – als Freund, als Therapeut und als intellektuellen Spiegel.
Besonders schwierig werde es außerdem, wenn junge oder psychisch belastete Menschen intensive Bindungen zu der KI aufbauen und am Ende zu Taten verleitet werden, die entweder für die eigene Person oder für andere Personen schädlich werden können. Aus diesen Gründen hat ChatGPT mittlerweile Sperren eingebaut, um brisante Themen blockieren zu können.
Deswegen fordern Forscher wie etwa Bethanie Drake-Maples, dass Regierungen Technologien für KI-Begleiter regulieren sollten, um dieser Isolation vorzubeugen. So sagte sie dem Magazin ABC.net.
Mit der Isolierung von Menschen lässt sich zweifellos Geld verdienen. Es muss unbedingt ethische oder politische Richtlinien geben, die sicherstellen, dass diese Systeme so programmiert werden, dass sie soziale Interaktion fördern, und nicht darauf ausgelegt sind, Menschen zu isolieren.
Ein weiterer Kritikpunkt: Viele Menschen geben im Gespräch sensible und intime Informationen von sich preis. Und das ist laut Forschern besonders riskant, weil diese Daten wertvoll, sensibel und potenziell angreifbar seien. Diese müssten deutlich besser geschützt werden.
KI wird heute in vielen verschiedenen Bereichen eingesetzt. Dabei soll sich der virtuelle Bekannte möglichst natürlich verhalten. Doch nicht immer funktioniert alles problemlos. Ein Beispiel dazu findet ihr direkt auf MeinMMO erläutert: Nutzer zahlen 80 Euro, damit KI mit ihnen flirtet, das geht total nach hinten los: „Meine KI hat mich sexuell belästigt“
Deine Meinung ist uns wichtig!
Gefällt dir der Artikel? Hast du irgendwelche Kommentare? Sag uns, was du denkst!
Bitte lies unsere Kommentarregeln, bevor du kommentierst.