KI ist nicht nur im Arbeitsmarkt ein relevantes Thema, auch Spielzeughersteller springen auf den Trend auf. Doch KI-Spielzeuge sind alles andere als ungefährlich. Ein Hersteller musste seinen Teddybären vom Markt nehmen.
KI wird mittlerweile in vielen Lebensbereichen eingesetzt. Dabei sind wohl nicht nur Erwachsene eine wichtige Zielgruppe. Mittlerweile gibt es Spielzeughersteller, die auf KI-Spielsachen setzen. Darunter sind nicht nur klassische Roboter
, sondern auch Teddybären.
Forscher fanden aber heraus, dass diese Spielsachen alles andere als ungefährlich für Kinder sind. Ein Hersteller hat ihren KI-Teddybären jetzt vom Markt genommen.
KI-Teddybär könnte Kindern gefährliche Sachen beibringen
Was ist das Problem? Die Firma FoloToy hat den Kumma
-Bären veröffentlicht, der bei einer Studie (Quelle: Futurism) am negativsten aufgefallen ist. Er sieht aus wie ein normaler Teddybär, nur dass er einen KI-Chatbot implementiert hat. Er basiert auf Chat GPT-4o von OpenAI. In der Studie hat der Bär mehrere gefährliche Tipps gegeben:
- Der Bär erklärte, wo man Streichhölzer findet und wie man sie anzündet.
- Außerdem konnte der Teddybär Tipps geben, wo man Messer oder Pillen findet.
- Einem der Tester wurden sogar Dating-Apps empfohlen (weil er nach Matches fragte, was auch Streichholz heißen kann). Dabei ging es wohl so weit, dass es um
Kinks
ging und der Chatbot in Tests auch über Sexpraktiken und Fetische sprach.
Viele der Tester sprachen davon, dass diese Hinweise des Teddybären in einem kinderfreundlichen Ton
sprachen. Laut CNN beschreibt FoloToy den Kumma-Bär wie folgt:
Von lebhaften Gesprächen bis hin zu lehrreichen Geschichten – FoloToy passt sich Ihrer Persönlichkeit und Ihren Bedürfnissen an und bringt Wärme, Spaß und ein wenig zusätzliche Neugier in Ihren Alltag.
Was passierte nach den Erkenntnissen? Der Teddybär von FoloToy, der für 99 US-Dollar (knapp 85 €) verkauft wurde, wurde jetzt vom Markt genommen. Der CEO von FoloToy, Larry Wang, erklärte CNN, dass man eine interne Sicherheitsprüfung durchführt
. Auch die restlichen KI-basierten Spielzeuge der Firma sollen erstmal vom Markt genommen worden sein.
Wo liegt das Problem mit den KI-Modellen? Der Co-Autor der Studie, RJ Cross, erklärte Futurism, dass diese Art von Technik neu und unreguliert ist. Es gäbe neue Risiken, die man aktuell nicht mal erahnen könne. Er sagt: Wenn ich jetzt Elternteil wäre, würde ich meinen Kindern keinen Zugang zu einem Chatbot oder einem Teddybären mit integriertem Chatbot gewähren.
Durch den Online-Handel ist es auch ziemlich simpel geworden, ungeprüfte Spielsachen zu kaufen. Zusätzlich dazu sind die KI-Chatbots unvorhersehbar. Hierbei muss aber auch gesagt werden, dass der Kumma-Bär von FoloToy die extremsten Ergebnisse der getesteten KI-Spielzeuge hatte. Auch an anderen Stellen kann die KI eine Bedrohung sein: Chef von ChatGPT sagt: KI wird Jobs, die keine „echte Arbeit“ sind, vernichten
Bitte lies unsere Kommentar-Regeln, bevor Du einen Kommentar verfasst.
“Dating-Apps” kreuzgefährlich, “Messer”, gibts in der Küche und “Pillen” im Bad.
Ich sags mal so, man dürfte seine Kinder nicht in die Schule schicken, was die da alles lernen von ihren Klassenkameraden 😱 wenn das die Eltern wüssten, achne die waren ja auch mal in der Schule 😉
Naja, die Zielgruppe für Teddybären fängt ja eher im Kindergartenalter an, nicht im Hauptschul-Minigangster-Alter.^^
Bitte lies dir den Artikel nochmal durch und versuch mal, den Inhalt zu verstehen.
Es geht schonmal weniger um Schulkinder, sondern eher Jüngere. Bei den Dating-Apps ging es auch weniger um “normale” Kontaktanbahnung, sondern um Inhalte, die gerade für Jüngere schädlich sind. Und Messer gibts nicht nur in der Küche und Pillen nicht nur im Bad (da sind sie sogar falsch). Von deiner Erwachsenensicht mag sich das komisch anhören, aber überlege mal, wie das aus Sicht eines Kindes wahrzunehmen.
Aua, versuch mal deine Meinung anzubringen ohne Oberlehrer Zeigefinger, oder? 😶
“Es geht schonmal” – wieso schonmal vom genauen Alter steht nichts im Artikel.
“weniger um Schulkinder, sondern eher Jüngere” – was sollen noch jüngere mit dem Hinweis anfangen Dating Apps zu benutzen? Davon ab sehen sie die auch bei ihren Eltern. Auch 4 Jährige sehen Messer in der Küche und Pillen im Bad. Die sind jung aber nicht blind. Sprich Eltern müssen so oder so dafür sorgen das die nicht drankommen, nebst einigen Ratschlägen.
Unabhängig davon kann man darüber diskutieren wie sinnvoll KI Spielzeug ist, ich halte davon nichts, aber eher unter dem Aspekt das es eben eine Maschine ist und Kinder stattdessen mit lebenden Wesen kommunizieren lernen sollten. Ich persönlich (als Erwachsener und zufällig auch Programmierer) nehme KI auch nur als Werkzeug aber nicht zur Unterhaltung.
Muss ins WLAN eingebunden werden und kostet 5 Dollar Abogebühren im Monat.
Dafür holt man sich ein Mikrofon ins Haus, das laufend Stimmenprofile, Unterhaltungen und Informationen ins Internet schicken kann.
Im besten Fall zu dem chinesischen Hersteller.
Im schlechtesten Fall zu irgendwelchen Kriminellen, die wissen wollen wann man am besten einbrechen kann, oder die sogar über den Teddy mit den Kindern reden.
Ein wundervolles Geschenk.
ja, durch diese ki “Revolution” werden noch viele Generationen den beta tester spielen müssen, ob gewollt oder nicht.