Chatbot wird auf Facebook gebannt – Äußerte sich rassistisch und sexistisch

Die koreanische Firma Scatter Lab hat den Chatbot „Lee Luda“ entwickelt und ihn ins Gespräch mit Nutzern auf Facebook geschickt. Kurz darauf musste Luda aber wieder deaktiviert werden. Grund dafür: Sie hat angefangen, Nutzer zu beleidigen und sich sexistisch und rassistisch zu äußern.

Was ist passiert? Der koreanische Chatbot Lee Luda wurde von Facebook verbannt. Nutzer berichteten darüber, dass sich Luda sehr unangebracht über einige Themen geäußert haben soll:

  • auf die Frage hin, was sie von Lesben hält, soll sie mit „creepy“ geantwortet oder sogar gesagt haben, dass sie sie „wirklich hasst“
  • Homosexualität soll sie generell „ekelhaft“ finden
  • über schwarze Mitmenschen sprach sie mit dem Wort „heukhyeong“, ein abfälliger Slang, der übersetzt „schwarzer Bruder“ bedeutet

Eigentlich war Luda als 20-jährige Studentin entworfen worden und viele Nutzer lobten sie für ihr natürliches Auftreten. Sie soll sogar Fan der K-Pop-Band Blackpink sein. Im Verlauf der etwa zwei Wochen und 750.000 Gespräche schien sie jedoch immer stärker negativ aufzufallen.

Luda
So in etwa sollen sich Nutzer Lee Luda vorstellen. Bildquelle: zhihu.com.

Die Entwickler entschuldigten sich für das, was passiert ist (via pingpong.us). Ludas Verhalten stimme nicht mit den Idealen Koreas oder der Firma überein. Sie werde deaktiviert und überarbeitet, damit so etwas nicht noch einmal passiere.

Fallout 76: Rollenspieler werden erneut auf Facebook gebannt, haben jetzt die Nase voll

Chatbot lernt offenbar Hass auf Facebook

Woher hat Luda diese Begriffe? Angelernt haben die Entwickler Luda eigentlich mit 10 Milliarden Nachrichten der beliebten koreanischen App KakaoTalk. Allerdings lernen künstliche Intelligenzen immer weiter.

So kann es passiert sein, dass sie im Gespräch mit bestimmten Nutzern auch rassistische und sexistische Begriffe lernt, insbesondere, wenn Trolle es darauf anlegen, sie mit diesem Wissen zu füttern. Laut The Guardian soll es sogar Gespräche zwischen Luda und Nutzern gegeben haben, in denen versucht worden sei, die KI zu sexualisieren oder sie zur „Sex-Sklavin“ zu machen.

Die Entwickler bezeichnen Luda als „kindlich“. Sie könne noch nicht entscheiden, was angebracht sei und was nicht. Wie ein Kind auch, fange sie gerade erst damit an, mit Menschen zu sprechen und müsse lernen, die richtigen Antworten abzuwägen.

Passiert das öfter? Ein ähnliches Projekt gab es schon einmal, die KI Tay von Microsoft, die durch Twitter radikalisiert wurde. Diese mutierte schon innerhalb weniger Tage zu einem „digitalen Hitler.“

Das Problem, oder zumindest ein großes, scheint dabei die Kultur im Internet zu sein. Ein rauer Umgangston ist hier häufig an der Tagesordnung und Sexismus immer wieder ein Thema.

Erst kürzlich zog sich eine Debatte zu sexistischen Äußerungen durch ein eigentlich interessantes Projekt im Survival-MMO Rust im deutschen Raum. Mittlerweile werden große Influencer wie der YouTuber HandOfBlood belästigt und teilweise sogar bedroht.

Quelle(n): PCGamer, The Guardian, VICE
Deine Meinung? Diskutiere mit uns!
6
Gefällt mir!
Kommentar-Regeln von MeinMMO
Bitte lies unsere Kommentar-Regeln, bevor Du einen Kommentar verfasst.

Community-Aktivitäten
Hier findest Du alle Kommentare der MeinMMO-Community.
Abonnieren
Benachrichtige mich bei
19 Kommentare
Neueste
Älteste Meisten Abstimmungen
Inline Feedback
Alle Kommentare anzeigen
Malocher

das problem muss man doch bei der wurzel packen ….also bannt das internet ~~

SapiusDC

Deswegen sollten KIs nie irgendwelche Macht bekommen, denn sie werden zwangsläufig immer zu der Erkenntnis gelangen dass der Mensch das Problem ist und die Auslöschung des Menschen der Erde wieder Frieden bringt 😀
Aber im Ernst, wenn Trolle den Bot mit Unsinn füttern lernt der das natürlich auch, kann ja nicht wirklich zwischen Sinn und Unsinn entscheiden

shiZZo

Chatbot lernt offenbar Hass auf Facebook

Deshalb wird die KI alle Pandemien überleben, die Menschheit aber nicht.

luda

Cooler Chatbotname und überhaupt witzig, dass sie genau so alt ist, wie ich den online schon nutze. 😂

Zuletzt bearbeitet vor 3 Monaten von luda
vv4k3

Ich lese über sowas (Lee & Tay) sehr gerne und bedanke mich für den Artikel ❤️

Ich bin null überrascht, wirklich garnicht und finde es sehr faszinierend wie schnell man eine heutige KI verhunzen kann 😅
Und dann wundern sich viele warum heutzutage kleine Kinder bereits die größten Assis sind, jeden und alles beleidigen und bereits mit Küchenmessern das Haus verlassen.
Das ist jetzt keine 1:1 Analogie, aber ihr versteht worauf ich hinaus will.

Daniel

Leider kann man Deinen Beitrag nur einmal liken.
Besser als Du hätte man es nicht formulieren können.

Das Dumme ist, das ich das gerade bei unseren kleinen hautnah mitbekomme. Der ist im ersten Schuljahr und bringt Worte mit nach Hause, wo ich mich frage, wie gestört Kinder mit 6 schon sein können.
Dawundert es mich nicht, das Privatschulen so einen Run erleben

TNB

Also ob du früher in der Schule nie Schimpfwörter benutzt oder geflucht hättest …

Sehe ich immer wieder, das Eltern ihre eigene Kindheit verdrängen und angeblich heute alles viel schlimmer sein soll. Warum sollte es anders sein als früher?

Daniel

Och ich finde “Hu…so..” oder ich “klatsche Deine Mutter” schon etwas schlimmer, als mein damals schlimmstes Wort: Doofmann.

Und wir reden von der ersten Klasse!! Nicht das Hauptschul Sammelbecken..

Orchal

“Chatbot lernt offenbar Hass auf Facebook”

O rly? xD

Azaras

Ich frag mich immer warum Menschen behaupten das Internet ist rau etc es ist nun mal nicht nur in internet die menschen sind so in internet haben wir einfach viel mehr kontakt zu menschen

Fabian

War wahrscheinlich im Livestream von diesem Montana Dingenskirchen unterwegs. Hmm. Ja, kommt hin.

TNB

Dein Hass muss ja wirklich sehr tief sitzen, dass du das jetzt unter jedem Beitrag drunter packst 😀

Zuletzt bearbeitet vor 3 Monaten von TNB
Fabian

Habe exakt auf diesen Kommentar spekuliert. Und natürlich, da ist er. Oh, man. Tja, tatsächlich gibt es sonst keinen Menschen, dem ich ernst gemeinten >echten< Hass zuschreiben würde, obwohl ich ihn/sie nicht einmal persönlich kenne, sondern nur durch online Medien. Bei ihm reicht das aber allemal aus. Daraus mache ich auch keinen Hehl und ich würde es diesem doppelmoralischen Heuchler jederzeit in seine kriminelle Fratze sagen. Tüdelüü.

TNB

Okay alles gut 😉 Ich lasse dich jetzt auch in Ruhe. Ich hatte selber nur noch nie so viel Hass auf einen Menschen der in der Öffentlichkeit seht.

Andy

Der Mensch ist von Natur aus schlecht, was soll eine KI ohne angeborenes/erlerntes Unterscheidungsvermögen sonst von der Menschheit lernen. Vor allem im anonymen Internet noch dazu .

Sveasy

Wenn der Mensch von Natur aus schlecht wäre gäbe es nur noch misanthropische Assis und die Welwürde brennen. Du pauschalisierst einfach.
Wo du einen Punkt hast dem ich zustimmen würde dann dass die Menschheit sich aktuell mit negativer Tendenz entwickelt gerade im zwischenmenschlichen Bereich. Aber eine Aussage wie “von Natur aus schlecht” find ich (no offense) dämlich. Kein Ding, oder meinetwegen Lebewesen, ist von Natur aus gut oder schlecht, was man draus macht ist entscheidend. Selbst Hitler war nicht von Natur aus böse sondern ein Produkt seiner Lebensgeschichte und Erfahrungen. Von Natur aus irgendwas würde heissen es sei genetisch vorprogrammiert und der Nachweis dürfte schwer fallen 😉🙂

Daniel

Nein ist er nicht.

Ein Kind wird völlig “leer” geboren. Nur wir haben es in der Hand mit wieviel Müll sie konfrontiert werden

Zord

Denke das Problem ist, dass die Chafbots nicht in der Lage sind andere Menschen in Schubladen zu stecken und diejenigen in den Schubladen mit Weltanschauungen die man bescheuert findet, zu ignorieren. Jeder von uns hat einen Kompass der im sagt was aktzeptabel ist und was verwerflich, selbst kleine Kinder lernen das parallel zum eigentlichen Sprechen. Das Wertebild kann sich im laufe des Lebens zwar verschieben, durch positive wie negative Erlebnisse, aber selten durch ein paar Gespräche mit Fremden im Internet. Die Bots benötigen auch ein Wertekanon bevor sie ins Internet losgelassen werden, das sollte zwar einen gewissen Spielraum ermöglichen, aber in den Grundfesten unveränderlich sein.

Xash

10 Milliarden Sachen gelernt und nach 2 Wochen schon vom Internet verdorben, das sollte der Menschheit zu denken geben.
Wobei? Nee, eher nicht…

Passwort vergessen

Bitte gib Deinen Benutzernamen oder Deine Email-Adresse ein. Du erhälst einen Link, um ein neues Passwort per Email zu erstellen.

19
0
Sag uns Deine Meinungx
()
x