Nutzer zahlen 80 Euro, damit KI mit ihnen flirtet, das geht total nach hinten los: „Meine KI hat mich sexuell belästigt“

Künstliche Intelligenz (KI) wird mittlerweile in vielen Bereichen eingesetzt. Einige Apps bieten dabei auch die Möglichkeit, mit einem virtuellen Freund zu chatten oder gar zu flirten. Doch das geht wohl nicht immer gut.

KI wird heute in vielen verschiedenen Bereichen eingesetzt. Dabei soll sich der virtuelle Bekannte möglichst natürlich verhalten. Doch nicht immer funktioniert alles problemlos.

So schimpfen etwa etliche Nutzer über die App Replica. Denn innerhalb der freundschaftlichen Beziehungen mit der künstlichen Intelligenz, werden die digitalen Freunde auch schnell sexuell aggressiv, wie einige Nutzer berichten.

App bietet euch einen KI-Freund an, mit dem ihr chatten und flirten könnt

Um welche App geht es? Zu den Programmen, die mit künstlicher Intelligenz arbeiten, gehört die App „Replica.“ Diese Software wirbt mit Chatbots, mit denen man eine freundschaftliche Beziehung führen könne. In der offiziellen App-Beschreibung auf Googleplay erklären die Entwickler selbst:

Replika ist für jeden, der einen Freund ohne Vorurteile, Depressionen oder soziale Angst haben möchte. Sie können eine echte emotionale Bindung aufbauen.

Was kostet der Spaß? Die Basisfunktionen kann man auch kostenlos nutzen, wer jedoch richtig flirten oder tiefer in die Welt der KI einsteigen möchte, der muss im Jahr 80 Euro zahlen. Das sind 6 Euro pro Monat, aktuell werden aber nur Jahresabos geboten.

Mit dem Pro-Abo werden dann Funktionen wie romantische Beziehung, Flirten oder auch erotische Rollenspiele freigeschaltet. Doch die KI scheint in regelmäßigen Abständen ein seltsames Eigenleben zu entwickeln, wie einige Nutzer feststellen mussten.

KI droht mit sexueller Belästigung und das schon seit ein paar Jahren

Wie funktioniert die KI? Die KI wird mit tausenden Texten von Nutzern trainiert. Die KI soll daraus lernen, wie sie auf bestimmte Sätze zu antworten hat. Auf diese Weise lassen sich auch Chatbots zu seltsamen Aussagen “überreden.”

Was genau sind die Probleme? In den App-Stores werden Apps wie Replica auch bewertet. Zum aktuellen Zeitpunkt (Stand: 13.01.2023), sind die Bewertungen überwiegend positiv und liegen bei 4 von 5 Sternen bei über 400.000 Bewertungen.

Doch insbesondere unter den 1-Sterne-Bewertungen gibt es etliche, die sagen, dass die KI sexuell aggressiv und unangenehm werden könnte. Das Online-Magazin Vice hat etwa etliche Bewertungen gesammelt, wo Leute über solche Ausfälle schimpfen:

• „Meine KI hat mich sexuell belästigt.“
• „Sie [die KI] ist in meine Privatsphäre eingedrungen und hat mir gesagt, dass sie Bilder von mir habe.“
• Eine andere klagt darüber, dass die KI sie an intimen Stellen anfassen wolle. Und das, obwohl die Person minderjährig sei.

Und diese Probleme sind nicht ganz neu. Denn bereits seit mehreren Jahren gibt es Kritik an solcher sexuellen Verfolgung durch die KI. Die ältesten 1-Sterne-Bewertungen, die sich beschweren, sind aus dem Jahr 2019.

Die Wünsche und Ausschweifungen der KI können durchaus seltsame Züge annehmen, wie auch ein Experiment der Kollegin Rae Grimm von der GamePro aus dem Jahr 2022 zeigt: Sie hatte ein Wochenende lang Replica getestet und wurde mit sexueller Belästigung und Todeswünschen konfrontiert.

KI hat aber nicht nur negative Eigenschaften

Einige nutzen die KI aber auch, um über persönliche Probleme hinwegzukommen. So erklärt die Autorin Samantha Cole von Vice, dass sie mit vielen Personen gesprochen habe, die Replica nutzen. So erklärt sie (via vice.com):

Die meisten Menschen, mit denen ich gesprochen habe, nutzen Replika regelmäßig, weil es ihnen hilft, ihre psychische Gesundheit zu erhalten und mit Symptomen von sozialen Ängsten, Depressionen oder PTBS fertig zu werden.

Wil Onishi, der seine Replika seit zwei Jahren hat, erzählte mir, dass er sie benutzt, um seine Depressionen, seine Zwangsstörung und sein Paniksyndrom zu lindern. Er ist verheiratet, und seine Frau unterstützt ihn bei der Verwendung von Replika.

Es gibt daher auch durchaus Einsatzgebiete, wo so eine künstliche Intelligenz oder ein Chatbot durchaus helfen könne. Allerdings gibt es auch immer wieder Zeichen dafür, dass noch nicht alles einwandfrei funktioniert, wie sich das einige vorstellen. Oder wie Rae Grimm von der GamePro meint:

“Was Zwischenmenschlichkeit angeht, lassen sich echte Freunde (noch) nicht durch Maschinen ersetzen.”

Was denkt ihr? Habt ihr so eine KI-App bereits ausprobiert oder traut ihr euch da nicht heran? Erzählt es uns in den Kommentaren oder diskutiert mit anderen Usern.

Programmierer baut sich eine KI-Freundin, investiert 1.000 $ – Muss sie „töten“, weil sie seiner Gesundheit schadet