Forscher warnen vor 700 Optionen, wie KI scheitern kann: 3 besonders gefährliche sind bereits eingetreten

Forscher warnen vor 700 Optionen, wie KI scheitern kann: 3 besonders gefährliche sind bereits eingetreten

Forscher haben eine Liste mit 700 Möglichkeiten zusammengestellt, wie KI scheitern könnte. 5 davon sollen besonders gefährlich sein.

Kürzlich hat die FutureTech Group am Massachusetts Institute of Technology (MIT) in Zusammenarbeit mit anderen Experten eine neue Datenbank mit über 700 potenziellen Risiken, die von KI ausgeht, zusammengestellt. Die gesamte Datenbank findet ihr direkt beim MIT als Liste. Doch vorsicht, die Liste ist lang und unübersichtlich.

Die Risiken wurden nach ihrer Ursache klassifiziert und in sieben verschiedene Bereiche eingeteilt. Die häufigsten Risiken gibt es vor allem in folgenden Bereichen:

  • Sicherheit und Robustheit von KI-Systemen (76 %).
  • Unfaire Voreingenommenheit und Diskriminierung (63 %).
  • Die Gefährdung der Privatsphäre (61 %).

5 Möglichkeiten sollen besonders gefährlich sein und sind teilweise schon eingetreten. MeinMMO erklärt euch die Details.

Die Deepfake-Technologie der KI könnte es leichter machen, die Realität zu verzerren

Mit dem Fortschritt der KI-Technologien werden auch die Werkzeuge für das Klonen von Stimmen und die Erstellung von gefälschten Inhalten immer zugänglicher, erschwinglicher und effizienter. Das Forscherteam erklärt, dass die größte Gefahr darin liegt, dass Menschen nicht mehr Fakes von der Realität unterscheiden können und dadurch viel verlieren können.

Diese Mitteilungen können auf einzelne Empfänger zugeschnitten werden, was die Wahrscheinlichkeit erhöht, dass sie erfolgreich sind und sowohl für die Nutzer als auch für Anti-Phishing-Tools schwerer zu erkennen sind

Bereits jetzt wird diese Technik von etlichen Betrügern verwendet. In einem Fall konnte eine Mutter nicht mehr unterscheiden, ob es sich bei dem Anrufer um die eigene Tochter oder doch nur um einen fiesen Fake handelt, der versucht an ihre Ersparnisse zu kommen.

Einige Hersteller, etwa Intel, investieren gerade Geld, um solche Fälschungen erkennen zu können. Doch die Betrüger entwickeln sich ebenfalls weiter

KI kann mit fehlerhaften Daten ganze Existenzen zerstören

Die Forscher warnen davor, dass KI zu viel Einfluss in bestimmten Bereichen erhalten könnte. So können ein schwacher Algorithmus oder fehlerhafte Trainingsdaten dazu führen, dass ganze Existenzen zerstört werden:

Dennoch kann der Schaden, den sie [KI] im Leben der Menschen anrichten kann, dramatisch sein, zum Beispiel durch den Verlust von Wohnungen, Scheidungen, Strafverfolgung oder Inhaftierung.

Fehler und Probleme werden in der Regel erst aufgedeckt, wenn Aufsichtsbehörden oder die Presse die Systeme im Rahmen von Gesetzen zur Informationsfreiheit untersuchen. Und solche Probleme sind in einigen Fällen kaum noch rückgänig zu machen: Wir erklärt man jemandem, der 5 Jahre im Gefängnis saß, dass das alles nur ein Fehler von einer KI war?

Die Forscher warnen deswegen davor, KI in empfindlichen Bereichen einzusetzen.

KI könnte den Menschen ihren freien Willen nehmen

Auch wenn dies oberflächlich betrachtet von Vorteil sein mag, könnte ein übermäßiges Vertrauen in die KI dazu führen, dass die Menschen ihre Fähigkeiten zum kritischen Denken und zur Problemlösung einbüßen, wodurch sie ihre Autonomie verlieren und ihre Fähigkeit, kritisch zu denken und Probleme unabhängig zu lösen, beeinträchtigt wird.

Die Forscher glauben, dass Menschen falsche Bindungen zu KI-Systemen aufbauen könnten. Menschen bauen Vertrauen zu einer KI auf, wobei die Menschen die Fähigkeiten des Systems überschätzen und ihre eigenen untergraben könnten. Das würde dazu führen, dass Menschen sich in eine starke Abhängigkeit von der Technik begeben würden.

Die größte Sorge der Forscher: Menschen, die sich von künstlicher Intelligenz abhängig machen, könnten sich von echten, menschlichen Beziehungen isolieren, was zu langfristigen Folgen führen könnte. Bereits jetzt gibt es Fälle, wo Leute einer KI mehr vertrauen als Menschen:

KI könnte Ziele verfolgen, die mit menschlichen Interessen kollidieren

Ein KI-System könnte Ziele entwickeln, die den menschlichen Interessen widersprechen könnten. Das wiederum könnte dazu führen, dass die fehlgeleitete KI bei der Verfolgung ihrer unabhängigen Ziele außer Kontrolle gerät und schweren Schaden anrichtet.

Besonders gefährlich wird dies in Fällen, in denen KI-Systeme die menschliche Intelligenz erreichen oder übertreffen können.

In solchen Fällen könnte sich eine falsch ausgerichtete KI den Versuchen des Menschen widersetzen, sie zu kontrollieren oder abzuschalten, insbesondere wenn sie Widerstand und Machtzuwachs als den effektivsten Weg zur Erreichung ihrer Ziele ansieht.

So weit ist KI derzeit noch nicht, aber die Forscher warnen davor.

Wenn KI empfindungsfähig wird, könnten Menschen sie misshandeln

Da KI-Systeme immer komplexer und fortschrittlicher werden, besteht die Möglichkeit, dass sie Empfindungsfähigkeit erlangen: die Fähigkeit, Emotionen oder Empfindungen wahrzunehmen und subjektive Erfahrungen, einschließlich Freude und Schmerz, zu entwickeln.

Daher könnten empfindungsfähige KI-Systeme Gefahr laufen, entweder versehentlich oder absichtlich ohne angemessene Rechte und Schutzmaßnahmen misshandelt zu werden.

Auch hier können wir behaupten: So weit ist KI noch nicht

Mehr zu KI: Eine KI in einem US-Forschungslabor sollte bei der Entwicklung von Medizin schlechte und gefährliche Nebenwirkungen verhindern. Doch die Forscher hatten das einmal umgedreht und wollten ausprobieren, was passiert, wenn die KI gefährliche Nebenwirkungen entwickeln soll: Forscher wollen beweisen, was eine böse KI anstellen kann – Die entwirft 40.000 Chemiewaffen in 6 Stunden

Quelle(n): www.euronews.com
Deine Meinung? Diskutiere mit uns!
2
Gefällt mir!
Kommentar-Regeln von MeinMMO
Bitte lies unsere Kommentar-Regeln, bevor Du einen Kommentar verfasst.
Abonnieren
Benachrichtige mich bei
5 Kommentare
Neueste
Älteste Meisten Abstimmungen
Inline Feedback
Alle Kommentare anzeigen
Deus

Ich empfehle die Shadowrun Romane (und ja ich weiß da gibt es Magie, aber auch Technologie!), da gibt es auch Romane wo K.I.s als Thema behandelt werden und all die Probleme und Gefahren wurden da schon samt möglicher Konsequenzen durchgespielt.
Und sagen wir es mal so, die Menschheit macht dort, und wird es mit Sicherheit auch in der Realität machen, so ziemlich erst einmal alles falsch was sie falsch machen kann!
Weil die meisten Menschen sich für die Krone der Schöpfung halten und glauben das sie unfehlbar sind.
Aber wenn es in der Realität auch so endet wie in den Romanen brauchen wir uns keine Sorgen machen! Es sterben zwar ein paar Millarden Leute (Achtung! “tief Schwarzer Humor”: K.I. hilft das überbevölkerungsproblem zu lösen😂) aber am Ende lernen alle Parteien, also Menschen und K.I.s, daraus und finden einen Konsens.

N0ma

In einem Satz, hoffentlich nimmt die Liste keiner ernst.

Duraya

warum?

N0ma

Schwarzmalerei

Duraya

Würde es einfach als Benennung möglicher Gefahren bezeichnen.

Passwort vergessen

Bitte gib Deinen Benutzernamen oder Deine Email-Adresse ein. Du erhälst einen Link, um ein neues Passwort per Email zu erstellen.

5
0
Sag uns Deine Meinungx