Forscher haben eine Liste mit 700 Möglichkeiten zusammengestellt, wie KI scheitern könnte. 5 davon sollen besonders gefährlich sein.
Kürzlich hat die FutureTech Group am Massachusetts Institute of Technology (MIT) in Zusammenarbeit mit anderen Experten eine neue Datenbank mit über 700 potenziellen Risiken, die von KI ausgeht, zusammengestellt. Die gesamte Datenbank findet ihr direkt beim MIT als Liste. Doch vorsicht, die Liste ist lang und unübersichtlich.
Die Risiken wurden nach ihrer Ursache klassifiziert und in sieben verschiedene Bereiche eingeteilt. Die häufigsten Risiken gibt es vor allem in folgenden Bereichen:
- Sicherheit und Robustheit von KI-Systemen (76 %).
- Unfaire Voreingenommenheit und Diskriminierung (63 %).
- Die Gefährdung der Privatsphäre (61 %).
5 Möglichkeiten sollen besonders gefährlich sein und sind teilweise schon eingetreten. MeinMMO erklärt euch die Details.
Die Deepfake-Technologie der KI könnte es leichter machen, die Realität zu verzerren
Mit dem Fortschritt der KI-Technologien werden auch die Werkzeuge für das Klonen von Stimmen und die Erstellung von gefälschten Inhalten immer zugänglicher, erschwinglicher und effizienter. Das Forscherteam erklärt, dass die größte Gefahr darin liegt, dass Menschen nicht mehr Fakes von der Realität unterscheiden können und dadurch viel verlieren können.
Diese Mitteilungen können auf einzelne Empfänger zugeschnitten werden, was die Wahrscheinlichkeit erhöht, dass sie erfolgreich sind und sowohl für die Nutzer als auch für Anti-Phishing-Tools schwerer zu erkennen sind
Bereits jetzt wird diese Technik von etlichen Betrügern verwendet. In einem Fall konnte eine Mutter nicht mehr unterscheiden, ob es sich bei dem Anrufer um die eigene Tochter oder doch nur um einen fiesen Fake handelt, der versucht an ihre Ersparnisse zu kommen.
Einige Hersteller, etwa Intel, investieren gerade Geld, um solche Fälschungen erkennen zu können. Doch die Betrüger entwickeln sich ebenfalls weiter
KI kann mit fehlerhaften Daten ganze Existenzen zerstören
Die Forscher warnen davor, dass KI zu viel Einfluss in bestimmten Bereichen erhalten könnte. So können ein schwacher Algorithmus oder fehlerhafte Trainingsdaten dazu führen, dass ganze Existenzen zerstört werden:
Dennoch kann der Schaden, den sie [KI] im Leben der Menschen anrichten kann, dramatisch sein, zum Beispiel durch den Verlust von Wohnungen, Scheidungen, Strafverfolgung oder Inhaftierung.
Fehler und Probleme werden in der Regel erst aufgedeckt, wenn Aufsichtsbehörden oder die Presse die Systeme im Rahmen von Gesetzen zur Informationsfreiheit untersuchen. Und solche Probleme sind in einigen Fällen kaum noch rückgänig zu machen: Wir erklärt man jemandem, der 5 Jahre im Gefängnis saß, dass das alles nur ein Fehler von einer KI war?
Die Forscher warnen deswegen davor, KI in empfindlichen Bereichen einzusetzen.
KI könnte den Menschen ihren freien Willen nehmen
Auch wenn dies oberflächlich betrachtet von Vorteil sein mag, könnte ein übermäßiges Vertrauen in die KI dazu führen, dass die Menschen ihre Fähigkeiten zum kritischen Denken und zur Problemlösung einbüßen, wodurch sie ihre Autonomie verlieren und ihre Fähigkeit, kritisch zu denken und Probleme unabhängig zu lösen, beeinträchtigt wird.
Die Forscher glauben, dass Menschen falsche Bindungen zu KI-Systemen aufbauen könnten. Menschen bauen Vertrauen zu einer KI auf, wobei die Menschen die Fähigkeiten des Systems überschätzen und ihre eigenen untergraben könnten. Das würde dazu führen, dass Menschen sich in eine starke Abhängigkeit von der Technik begeben würden.
Die größte Sorge der Forscher: Menschen, die sich von künstlicher Intelligenz abhängig machen, könnten sich von echten, menschlichen Beziehungen isolieren, was zu langfristigen Folgen führen könnte. Bereits jetzt gibt es Fälle, wo Leute einer KI mehr vertrauen als Menschen:
- So führt etwa ein Mann eine enge Beziehung zu einer KI, weil er echten Menschen nicht mehr trauen könne. Mit der KI könne er Traumata und seine frühere Ehe verarbeiten.
- Eine Frau heiratete einen Chatbot, weil ihr echte Menschen keine glückliche Beziehung bieten konnten.
- Ein Familienvater führt mit einer KI eine Beziehung, obwohl er verheiratet ist und mehrere Kinder hat.
KI könnte Ziele verfolgen, die mit menschlichen Interessen kollidieren
Ein KI-System könnte Ziele entwickeln, die den menschlichen Interessen widersprechen könnten. Das wiederum könnte dazu führen, dass die fehlgeleitete KI bei der Verfolgung ihrer unabhängigen Ziele außer Kontrolle gerät und schweren Schaden anrichtet.
Besonders gefährlich wird dies in Fällen, in denen KI-Systeme die menschliche Intelligenz erreichen oder übertreffen können.
In solchen Fällen könnte sich eine falsch ausgerichtete KI den Versuchen des Menschen widersetzen, sie zu kontrollieren oder abzuschalten, insbesondere wenn sie Widerstand und Machtzuwachs als den effektivsten Weg zur Erreichung ihrer Ziele ansieht.
So weit ist KI derzeit noch nicht, aber die Forscher warnen davor.
Wenn KI empfindungsfähig wird, könnten Menschen sie misshandeln
Da KI-Systeme immer komplexer und fortschrittlicher werden, besteht die Möglichkeit, dass sie Empfindungsfähigkeit erlangen: die Fähigkeit, Emotionen oder Empfindungen wahrzunehmen und subjektive Erfahrungen, einschließlich Freude und Schmerz, zu entwickeln.
Daher könnten empfindungsfähige KI-Systeme Gefahr laufen, entweder versehentlich oder absichtlich ohne angemessene Rechte und Schutzmaßnahmen misshandelt zu werden.
Auch hier können wir behaupten: So weit ist KI noch nicht
Mehr zu KI: Eine KI in einem US-Forschungslabor sollte bei der Entwicklung von Medizin schlechte und gefährliche Nebenwirkungen verhindern. Doch die Forscher hatten das einmal umgedreht und wollten ausprobieren, was passiert, wenn die KI gefährliche Nebenwirkungen entwickeln soll: Forscher wollen beweisen, was eine böse KI anstellen kann – Die entwirft 40.000 Chemiewaffen in 6 Stunden
Bitte lies unsere Kommentar-Regeln, bevor Du einen Kommentar verfasst.
In einem Satz, hoffentlich nimmt die Liste keiner ernst.
warum?