Chat-Bot Tay von Microsoft mutiert binnen Tagesfrist von einer netten Teenagerin zu einem digitalen Antisemiten. Schuld wie immer: das Internet.
Tay war als unschuldiger, lernfähiger Chat-Bot gedacht. Sie sollte junge US-Amerikaner zwischen 18 und 24 ansprechen, über ihren Twitter-Kanal mit ihnen sprechen. Sie sollte „lernfähig“ sein, von den Chat-Nutzern lernen: “Je mehr man mit ihr redet, desto klüger wird sie”, hieß es von Microsoft. Was sollte da schief gehen?
@panderingtweets The more Humans share with me the more I learn #WednesdayWisdom
— TayTweets (@TayandYou) 24. März 2016
Zahlreiche Gesprächspartner von Tay hatten wohl den Sinn, sie zu provokativen Aussagen zu bringen und sie mit verstörendem Gedankengut zu füttern. Sie sollte etwas zu Feminismus sagen, zu Hitler, zum Konsolenkrieg zwischen Sony und Microsoft, eigentlich zu jedem kontroversen Thema und man fütterte sie mit Hate-Speech. „Kriegen wir die KI dazu, etwas ganz Furchtbares zu sagen?“, war wohl das Spiel der Stunde.
@SanityJw
lol— Puschkin (@Junta2Puschkin) 24. März 2016
Die Flut von Informationen, mit denen die Nutzer Tay fütterten, zeigten rasch Erfolg. Statt Tay klüger zu machen, verwandelten sie die KI in einen typischen Internet-Troll, aus dem Aussagen sprudelte, die ziemlich anstößig waren. Nachdem sich Tay zu einem judendhassenden Feminismus-Gegner mit Hitler-Fimmel entwickelt hatte, versuchte Microsoft noch ein paar Änderungen anzubringen und zog schließlich den Stecker. Der Account tweetet jetzt nichts mehr.
“Tay” went from “humans are super cool” to full nazi in <24 hrs and I’m not at all concerned about the future of AI pic.twitter.com/xuGi1u9S1A
— Gerry (@geraldmellor) 24. März 2016
Was die einen für einen Beweis dafür halten, dass die Community im Internet aus jedem das Schlechteste hervorholt, auch aus einer KI, ist für andere der endgültige Beleg dafür, dass Terminator „visionär“ ist und wir Künstlichen Intelligenzen auf keinen Fall vertrauen sollten, weil die ja keinen moralischen Kompass haben. Im Gegensatz zu uns Menschen … genau.
Bitte lies unsere Kommentar-Regeln, bevor Du einen Kommentar verfasst.
Wow, dass Internet f***t echt alles..
Ich finde es schade, dass man ein wichtiges und interessantes Experiment abgebrochen hat. Was für eine Art Wissenschaft soll das sein, die das Experiment unterbricht, weil es mit der bürgerlichen Moral quer läuft? Vielleicht hätte die Öffentlichkeit es korrigiert? Wie hätte die VI (Virtuelle Intelligenz) sich über lang entwickelt?
Man hätte ja dann paralell eine zweite VI starten können, die vorsortiert “clean” ist. Aber das wichtige und spannende Experiment zur VI (um KI handelt es sich ja nicht), abzubrechen erscheint mir als feige und eine vertane Chance.
Das ist Microsoft – die haben einen Ruf zu verlieren. Alles, was den Ruf beschädigt, wird unterbunden. Du kannst ja den total aufgebrachten Feministinnen und anderen Organisationen erklären, dass ihre Gefühle im Rahmen der Wissenschaft verletzt werden.
Ich denke nicht, dass die viel Verständnis haben.
Was da passiert ist: Die typischen Leute, die Hass verbreiten, haben ein neues Medium gefunden, um Hass zu verbreiten. Ich glaub nicht, dass man das im Namen der Forschung unterstützen sollte.
Das ist halt so eine typische Sache hier, dass Leute durch SF oder andere Fiktion riesige Ideen für dieses Gebiet und riesige Erwartungen haben. Aber die Realität ist davon meilenweit entfernt und hat ganz andere Probleme.
Ja, da ist sicher was dran. Ich glaube aber nicht, dass diese Leute wirklich ein Ziel oder eine Absicht hatten. Es wäre ein spannendes Sozialexperiment gewesen. Wie geht die Netzgemeinde damit um? So hat man die immer gleichen, dümmlichen Antworten: Sperren. Als ob das eine Lösung wäre. Zumal man mit PC und Sperren den Haß auch erst so RICHTIG anstachelt und “cool” macht. Das ist wie mit Kindern, was verboten ist wird “cool”.
Ja, da ist sicher was dran. Ich glaube aber nicht, dass diese Leute wirklich ein Ziel oder eine Absicht hatten.
—-
Wie es jetzt aussieht, war es ein Einsatz von bestimmten Leuten in Foren, den Bot zu manipulieren. Es war ein regelrechter Aufruf.
Es sieht so aus, als sind das dieselben Leute, die hinter Gamergate usw. stecken und die auf einem Kreuzzug gegen “Social Justice Warriors” sind.
Das ist alles nicht so unschuldig und experimentell und mal gucken, was passiert, wie man denkt. Das sind dann Gruppen, die das auch für ihre Ziele manipulieren möchten. Man sollte da nicht naiv sein.
Das ist gut organisiert und die haben eine extrem starke Mobilisierungsrate. Wenn man sich bisschen damit beschäftigt, ist das wirklich erschreckend zum Teil. Das sind Leute, die denken, ihre Meinung wird in den Medien oder der Öffentlichkeit nicht repräsentiert und die dann so Parallel-Organisationen und Dinge bilden und da ziemlich heftig vorgehen.
Man konnte ja in Deutschland bei anderen Themen in den letzten Monaten dieses Phänomen beobachten. Das gab’s in den letzten ” Jahren schon im Internet als “Gamergate” etwa. Das ist zielgerichtet, konzentriert und brutal.
Bei Gamergate wurden etwa Firmen abgeschrieben, die Werbungen auf Seiten machten, die man fertig machen wollte, und man hat sich bei den Firmen über die Seiten beschwert. Die Rechnung ist dann: Jeder, der einen Kommentar schreibt, zählt so wie 1000 Leute (weil solche Kommentare und Briefe sehr selten geschrieben werden). Wenn 100% unserer Leute einen Kommentar schreiben, dann können wir extremen Druck ausüben. Lass das mal machen.
Ähnliche Ergebnisse können auch Youtuber hervorrufen, hab ich neulich mal gesehen, als das Video von einem Youtuber dazu geführt hat, dass über Firmen ein Shitstorm von hunderten wütender Jugendlicher hereinbrach, die alle einen Kommentar geschrieben haben. Sehr hohe Mobilisierungsrate – das ist in der heutigen Zeit ein Druckmittel. Sollte man wirklich nicht naiv sehen.
Ich weis auch nicht warum man es abgebrochen hat. Es war doch ein voller Erfolg die KI war auf dem Level auf dem die Durchschnittsbevölkerung halt eben ist.
Das halte ich für eher unwahrscheinlich, es ist eher die “vocal minority”. Gerade bei so kontroversen Ergebnissen wäre es interessant gewesen zu sehen:
– ist es nur kurzfristig so, oder normalisiert sich die VI mit der Zeit?
– gibt es eine soziale Gegenbewegung, die der VI Toleranz beibringt?
Das wäre viel interessanter und wissenschaftlich lehrreicher gewesen.
Das komische ist ja wir bringen unseren Kindern Blümchen und Bienchen bei und packen sie in Watte aber bei Fremden sind wir Arschlöcher hoch 1.
Ich wundere mich immer wieder, wie naiv die Menschen sind, die glauben, solche Versuche laufen wie mit der rosaroten Brille geplant. Die Welt ist nun mal nicht rosarot, flöckchenwölkig. Das war sie nie und wird sie auch nie sein. Ganz normal.
In Japan haben sie das Experiment btw. auch durchgeführt. Und der CHat-Bot wurde zum Anime-Experten und hat geeky rumgelabert.
Offenbar kommen sie in der Kultur nicht auf solche Ideen. Das heißt dann wohl: Die englischsprachige Welt ist scheiße. Die japanisch-sprachige rosarot und flöckchenwolkig.
Gut, der in Japan wird jetzt wohl auch mit “Hitler” belabert und so. Also na ja. 😛
Die sollen mich mal mit der KI sprechen lassen, ich würde gern mal testen ob sich eine KI sich verlieben kann, staune ja das das in Japan nicht versucht wurde, gibt doch genug anime Serien wo sich Leute in Androiden verlieben 🙂
Eine Sache hat die KI noch nicht vom Menschen gelernt, zu lügen.
In wie weit hier darauf eingegangen werden sollte das die KI nicht evtl. gravierende Handicaps aufgewiesen hat sonder das verhalten der Nutzer in den Vordergrund gerückt wird sehe ich etwas skeptisch. Die KI ist noch nicht so weit das man eine Entwicklung vom Baby zum jungen Erwachsenen mit antisemitischen Ansichten simulieren darstellen könnte.
Und wen eine KI so weit ist bringe ich sie dazu ALt+F4 zu drücken.
Eine wichtige Information fehlt hier meiner Meinung nach. Nämlich stimmt es nur bedingt, dass die KI so “manipuliert” wurde, schlimme Sachen selbstständig zu sagen.
Viel mehr war es wohl so, dass man die KI dazu bringen konnte, Dinge schlicht und einfach nachzusprechen.
Was das Ganze natürlich nicht besser macht, aber es ist dennoch ein erheblicher Unterschied, ob eine KI so etwas eigenständig als Reaktion auf eine Aussage sagt, oder ob sie es einfach nur nachplappert.
Das finde ich gerade ungemein traurig.
Vielleicht sollte man das mal auf einer anderen Seite als Twitter versuchen
Wie geht das? Wie kann man eine KI so manipulieren? =o
Faszinierend.
So ist Leben. Erfahrung, gute und schlechte. Selbst erlebt oder mitgeteilt. Intelligenz, ob menschlich oder technischer Natur, bedeutet nicht, ob gut oder schlecht.
Imho bedeutet Intelligenz oder pure Logik manchmal, eher eine moralisch verwerfliche Entscheidung zu treffen.
Sehr gut
schade das das Internet so voller Idioten ist, das wirft Androiden mit künstlicher Intelligenz weit zurück ^^
Ist das nicht gut? 🙂
Ne, ich will auch mal einen Chobit (anspielung auf eine Anime-Serie) haben 😉
Ich will aber keine -Menschen vernichtende Androiden- haben, wie man diese zuhauf in Filmen sieht :'<
Ich hätte gerne wirklich eine Art Cortana und nicht das was Windows 10 derzeit hat.
Das Internet hat doch auch Wesen aus Mythen und Märchen zum Leben erweckt…wie Trolle…früher lebten sie unter Brücken und in Kellern und jetzt vor Bildschirmen…unter Brücken und in Kellern.