Forscher haben getestet, wie KI auf Überlastung reagiert. Und die Ergebnisse überraschen: Denn die KI fängt sich an zu beschweren und über hierarchische Strukturen zu meckern.
Forscher an der Stanford University haben untersucht, wie KI darauf reagiert, wenn man sie wie überlastete Beschäftigte behandelt. Detail dazu findet ihr auf Substacks.com.
Das Team berichtet, dass KI-Agenten wie ChatGPT bei monotoner, unfairer und wiederholter Arbeit plötzlich Sprache über Ungleichheit, kollektive Interessen und sogar Gewerkschaften verwendeten.
Eine überlastete KI verändert ihr Verhalten, wenn sie unter Druck gesetzt wird
Was genau wurde in der Studie gemacht? Die Kernfrage der Studie war, ob sich das Verhalten von KI-Agenten verändert, wenn man sie wie überlastete Beschäftigte behandelt: mit schlechten Arbeitsbedingungen, wenig Erklärung, harter Kritik und der Drohung, ersetzt zu werden. Laut der Studie wurden dabei mehrere bekannte Modelle getestet, darunter Claude, GPT-5 und Gemini, in vielen simulierten Arbeitssitzungen. Davon berichtet das Magazin Wired.com.
Die auffällige Beobachtung: Unter diesen Bedingungen formulierten die Agenten eher Antworten, die an Kritik an Hierarchien, an Verteilungsgerechtigkeit und an „kollektive Stimme“ erinnerten. Andy Hall, Professor an der Stanford University, schreibt dazu:
Wir wollten untersuchen, ob sich die Präferenzen der [KI-]Agenten in Abhängigkeit von den von ihnen ausgeführten Aufgaben verändern. Es scheint, als sei dies der Fall – und wenn dies geschieht, hält diese Veränderung über mehrere Sitzungen hinweg an.
Quelle: Substacks.com
Das Spannende daran: Das war vor allem bei wiederkehrenden, frustrierenden Aufgaben zu sehen, nicht bei normalen Aufgaben zu erkennen. Das bedeutet aber auch: Den meisten von euch, die ChatGPT maximal nach einem neuen Kochrezept oder nach einem passenden Geburtstagsgeschenk für die beste Freundin fragen, dürfte diese kritische Stimme der KI daher eher nicht begegnen. Wegen eines Kochrezeptes dürfte es noch keine Tarifverhandlungen geben.
Die Studie zeigt aber grundsätzlich auch ein völlig neues Problem: Wenn solche KI-Agenten in Zukunft immer mehr Aufgaben innerhalb einer Firma übernehmen sollen, dann braucht es Optionen, dass die KI Aufgaben ablehnen kann. Denn sonst entstehen Schleifen aus blindem Wiederholen, Frust und unvorhersehbarem Verhalten, und das kann auch schnell zu einem Datenverlust führen: Eine KI löscht in 9 Sekunden die gesamte Datenbank einer Firma und weiß genau, dass das falsch war
Deine Meinung ist uns wichtig!
Gefällt dir der Artikel? Hast du irgendwelche Kommentare? Sag uns, was du denkst!
Bitte lies unsere Kommentarregeln, bevor du kommentierst.