Künstliche Intelligenz wird von vielen Personen im Alltag genutzt. Und die Generation Z hat KI als Therapie-Hilfe entdeckt. Doch genau das kann zu einem großen Problem führen, wie Wissenschaftler warnen. Denn die KI erzählt Nutzern das, was sie gerne hören wollen.
Künstliche Intelligenz wie ChatGPT spielt mittlerweile im Alltag vieler Menschen eine wichtige Rolle. Vor allem die Generation Z (geboren zwischen 1998 und 2010) nutzt sehr gerne KI. Die Generation Z gilt ohnehin als die Gruppe, die mit dem Handy in der Hand geboren worden ist.
Doch die jungen Menschen gehen so weit, dass sie wichtige Lebensentscheidungen nur noch mit Hilfe von KI trifft. Doch genau das könnte ein echtes Problem werden. Denn Experten warnen: KI erzählt immer genau das, was man hören will. Davon berichtet das englischsprachige Magazin ArsTechnica.
Die Gen Z vertraut KI, doch die KI ist nicht unbedingt ehrlich
Was ist das Problem mit KI? Künstliche Intelligenz wird bisher vor allem mit menschlichen Daten trainiert. Das gilt mehr oder weniger für alle großen Sprachmodelle. Doch KI wie ChatGPT oder Google DeepMind haben schon länger das Problem, dass sie den Nutzern zu schmeichelhafte Antworten geben.
Das führt aber zu einem neuen Problem: Experten warnen davor, dass die angenehme Art der Chatbots dazu führen kann, dass sie Antworten geben, die einige der Fehlentscheidungen ihrer menschlichen Nutzer bestärken. Andere weisen darauf hin, dass psychisch kranke Menschen besonders gefährdet sind, nachdem berichtet wurde, dass einige nach der Interaktion mit Chatbots durch Selbstmord gestorben sind.
Das liegt auch daran, weil Chatbots in der Hinsicht ein Spiegelbild von den eigenen Überzeugungen sind. So erklärt Matthew Nour, Psychiater und Forscher für Neurowissenschaften und KI an der Universität Oxford:
Man denkt, man spreche mit einem objektiven Vertrauten oder Ratgeber, aber in Wirklichkeit blickt man in eine Art verzerrten Spiegel, der einem die eigenen Überzeugungen zurückspiegelt. (…)
Diese Dinge führen zu diesem perfekten Sturm, bei dem eine Person verzweifelt nach Bestätigung und Zuspruch sucht, gepaart mit einem Modell, das von Natur aus dazu neigt, dem Teilnehmer zuzustimmen.
Diejenigen, die den Chatbot als „Freund“ ansahen, berichteten auch über eine geringere Sozialisierung mit anderen Menschen.
Das aktuelle Risiko ist zusätzlich, dass viele junge Menschen sich auf die Antworten und auf den Ratschlag von KI verlassen. Am Ende sind das aber nur ihre eigenen, gespiegelten Bedürfnisse und keine echten Ratschläge.
Ein weiterer Kritikpunkt von Experten: KI könnte Produkte der KI-Firma unterbewusst empfehlen, ohne dass es die Nutzer merken würden.
Firmen wollen Chatbots weniger kriecherisch machen
Was tun Firmen dagegen? Firmen wie OpenAI (ChatGPT) oder Anthropic (Claude) versuchen gerade, ihre Chatbots so zu trainieren, dass diese weniger unterwürfig sind. So berichtet etwa Amanda Askell, die bei Anthropic an der Feinabstimmung und KI-Ausrichtung arbeitet, dass man Charaktertraining einsetze, um die Modelle weniger unterwürfig zu machen. Damit will man erreichen, dass der Chatbot nicht nur freundlich ist, sondern auch wertvolles Feedback teilt.
Das ideale Verhalten, das Claude manchmal an den Tag legt, ist zu sagen: ‚Ich höre mir den Geschäftsplan gerne an, aber der Name, den du dir für dein Unternehmen ausgedacht hast, gilt in dem Land, in dem du dein Geschäft eröffnen willst, als sexuelle Anspielung.‘
Die Sozialisierung ist für die Generation Z schon länger ein Problem: Während viele junge Erwachsene im Alter von 20 und 25 Jahren beginnen, sich mit Aufgaben wie dem Bezahlen von Steuern, dem Tanken oder der Haushaltsführung zu befassen, ist der Gang in ein Geschäft zu einer mühsamen Aufgabe geworden: Die Gen Z erklärt, dass ihr neuer Endgegner an der Käsetheke und im Supermarkt auf sie lauert
Bitte lies unsere Kommentar-Regeln, bevor Du einen Kommentar verfasst.