Soldaten überlisten moderne Militär-KI mit Trick aus Metal Gear Solid – „Man konnte sie die ganze Zeit kichern hören“

In einem neuen Buch über die Auswirkungen von KI-Technologie auf die Kriegsführung findet sich eine spannende Anekdote. Demnach haben Soldaten ein KI-System überlistet und griffen dafür auf einen uralten Trick aus Metal Gear Solid zurück. So brauchten dafür nur einen Karton.

Der anerkannte Militär-Experte Paul Scharre veröffentlicht im Februar sein neues Buch „Four Battlegrounds: Power in the Age of Artificial Intelligence“.

Ein Autor des US-Magazins „The Economist“ durfte bereits ein Blick darauf werfen und teilte auf Twitter einige Passagen (via twitter.com).

Mit dabei ist eine Geschichte, die zeigt, dass KIs noch lange nicht so weit sind, unsere Welt wie in Terminator zu übernehmen. Denn offenbar reicht ein Karton, um selbst moderne Militär-KIs zu überlisten.

Purzelbäume, Kartons, Tannen – KI lässt sich austricksen

Was steckt dahinter? Wie die US-Seite Kotaku berichtet, findet sich im Buch eine Anekdote über den Test eines KI-Systems (via kotaku.com). Soldaten sollten einen KI-gesteuerten Roboter einige Tage lang umrunden, damit Ingenieure mit den Daten die Zielerfassung des Systems verbessern können.

Nach einigen Tagen versuchten die Verantwortlichen etwas Neues. Statt sich nur im Kreis um das Gerät zu bewegen, sollten die Soldaten versuchen, den Roboter zu erreichen, ohne entdeckt zu werden.

Kleiner Spoiler: Alle 8 Soldaten schafften es, der Erkennung durch das System zu entgehen.

Zwei Soldaten entschieden sich dazu, den Roboter per Purzelbaum zu überlisten. 300 Meter bewegten sie sich auf diese Weise fort. Ein Soldat machte auf Tanne – verwendete ein paar Äste und bewegte sich ganz langsam auf das Ziel zu.

Und dann war da noch der Trick aus Metal Gear Solid. Zwei Soldaten versteckten sich unter einem großen Karton und bewegten sich zusammen in Richtung Roboter. Im Buch berichtet eine Person, die offenbar dabei war: „Man konnte sie die ganze Zeit kichern hören“.

Den Karton-Trick beziehungsweise die „Orange Box“ gab es bereits im ersten Teil der Serie „Metal Gear“ von 1987. Der Kniff ist offenbar hervorragend gealtert.

Die KI in der Geschichte wurde darauf programmiert, Menschen zu erkennen, die laufen oder rennen. Es zeigt, wie beschränkt selbst moderne Systeme noch in ihren vorgegebenen Aufgaben agieren.

Sicher beruhigend für den ein oder anderen, der regelmäßig unter Skynet-Alpträumen leidet. Man darf fast sicher sein, dass Arnold Schwarzenegger mit genügend Öl auf seinen Muskeln an jeder KI vorbeikommt. Zumindest jetzt noch.

Möchtet ihr mehr über aktuelle KI-System lesen, dann schaut mal hier vorbei: Was ist ChatGPT? Alles, was ihr zur KI von OpenAI wissen müsst