Ein Schachroboter hat bei einem Turnier in Moskau gegen einen 7-jährigen Jungen gespielt: Dabei kam es zu einem Unfall. Das junge Schachtalent geriet mit seinem Finger in den Griff des Roboters und der Roboter ließ nicht los. Die Betreiber des Roboters wirkten ratlos und drückten wirkungslos auf der Steuerung herum. Männer eilten herbei und mussten den Jungen aus dem Griff des Roboters befreien, aber der Zeigefinger war gebrochen.
Was ist da vorgefallen?
- Vom 13. bis zum 21. Juli fanden in Moskau die „Moscow Chess Open“ statt.
- Der 7-jährige Christopher ist einer der 30 besten Schachspieler Moskaus in der Altersklasse unter 9 Jahren.
- Christopher spielte gegen einen altgedienten Schachroboter, dessen KI seit 15 Jahren die Figuren übers Brett zieht und der von Spezialisten betreut wird. Aber es kam zu einem Unfall.
30 schmerzhafte Sekunden
So kam es zum Unfall: Man sieht in einem 30-sekündigen Clip des Unfalls, dass der Schachroboter gerade seinen Zug gemacht hat, aber noch in der Bewegung zu sein scheint.
Der Junge tätigt seinen Zug, gerät damit aber in die Bewegung des Roboters hinein. Der Roboter hält seine Hand fest und lässt nicht mehr locker.
Die Operator am Rande des Tisches fummeln am Control-Pad herum, aber richten nichts aus; es kommen eilig Männer angerannt, die versuchen den Jungen aus dem Griff des Schachroboters zu befreien.
Als es ihnen endlich gelingt, bringt ein Mann den offenbar weinenden Jungen weg.
Wie ging das weiter? Der Junge hat sich bei der Aktion den Zeigefinger gebrochen, konnte aber schon am nächsten Tag weiter am Turnier teilnehmen – der Finger war in einer Schutzhülle, wie die Veranstalter mitteilten. Helfer übernahmen die Dokumentation seiner Züge.
Die Eltern sollen mit der örtlichen Strafverfolgung Kontakt aufgenommen haben, um Anzeige zu erstatten.
Das sagen die Veranstalter des Events: Der Chef des Moskauer Schachverbands, Sergey Lazarev, hat sich zu dem Vorfall geäußert:
Der Roboter hat den Finger des Kindes gebrochen – das ist, natürlich, schlecht. Wir haben den Roboter gemietet, er wurde schon an vielen Plätzen seit langer Zeit ausgestellt mit Spezialisten. Augenscheinlich haben die Spezialisten das übersehen. Das Kind hat einen Zug gemacht und danach muss man dem Roboter Zeit für die Antwort geben, aber der Junge war zu schnell, der Roboter hat zugepackt. Wir haben nichts mit dem Roboter zu tun.
Ein anderes Mitglied des Schachverbands sagte, der Roboter spiele seit 15 Jahren Schach: „Das ist ein extrem seltener Vorfall, der erste, an den ich mich erinnern kann.“
Von den Veranstaltern heißt es zudem: Die Betreiber des Roboters müssten darüber nachdenken, die Schutz-Vorrichtungen zu verstärken, damit so eine Situation nicht mehr auftreten kann.
“Das 1. Gesetz der Robotik wurde verletzt!”
Wie wird das diskutiert? Der Vorfall wird auf Twitter diskutiert, wo sich Verteidiger der Menschheit besorgt zeigen, dass die KI aufbegehrt:
- Man fragt, warum der Roboter stark genug ist, um Finger zu brechen, wenn er nur Schachfiguren aufheben muss: „Warum baut man einen Roboter für Schachzüge, den man in einem Krieg verwenden kann?“
- Ein Nutzer zeigt sich besorgt, dass hier das Grundgesetz der Robotik verletzt werde. Damit spielt er auf die „Asimov-Gesetze” an, dass ein Roboter keinen Menschen verletzen darf – Ein anderer Nutzer weist ihn daraufhin, dass diese Gesetze rein fiktional sind.
- Ein dritter Nutzer beruhigt aber: „Bevor hier die Twitter-Spezialisten wieder loslegen [..] Wir sind bei KI nicht auf dem Niveau, dass Roboter anfangen die Menschheit zu bekämpfen oder Ärger fühlen können.“
Das steckt dahinter: Durch extrem populäre Science-Fiction-Filme wie Matrix oder Terminator gibt es die weit verbreitete Angst, dass die Weiterentwicklung von Künstlicher Intelligenz zwangsweise zur Auslöschung der Menschheit führt, weil die KI erkennt, dass die Menschen der Menschheit schaden und die Menschheit ohne Menschen besser dran wäre – oder dass die KI einfach aus Eigennutz die Menschheit unterjocht.
Dieses literarische Motiv ist so sehr in der Popukultur verbreitet, dass jede Neuigkeit über eine KI irgendwie Besorgnis oder Sorgen hervorruft. Auch ein Schachroboter mit einem offenbar viel zu starken Arm.
Bitte lies unsere Kommentar-Regeln, bevor Du einen Kommentar verfasst.
Elon musk hatte wieder mal recht 🤣
Zeigt, wie wenig Ahnung Menschen haben. Mit Daumen und kleinen Finger, keine starke Kombination um Kraft aufzuwenden, kann man jedem Kind jeden Finger brechen. Denn da kommt es nicht auf Kraft an, sondern auf die Bewegung. Grundsatz von Kampfsport: “Technik vor Kraft”. Mit der richtigen Bewegung kann man jeden Finger brechen, besonders bei Kindern. Die Kraft die ein Mensch oder ein Roboter braucht, um eine Schachfigur aufzuheben und zu halten reicht da schon mehrfach aus.
Gutes Gesetz. Muss man aber jedem Roboter, jeder KI einzeln einprogrammieren und besonders bei KIs Sicherungsmechanismen einbauen, damit sich diese nicht darüber hinweg setzen kann. Ist ja kein Naturgesetz!
Zudem schützt dies nur vor absichtlichen Verletzungen. Vor Unfällen schützt auch kein Gesetz.
Der Roboter war schon verhältnismäßig alt. Da fehlten vermutlich Sicherheitsfeatures, die es damals schlicht noch nicht erfunden waren.
Die Nachrüstung dürfte a) extrem teuer sein b) schwer umzusetzen sein, da es sich um ein System in Russland handelt.
Gängige Sicherungsmechanismen aus der Industrie oder Raumfahrt stehen grundsätzlich nicht frei zur Verfügung und dürften unter die Sanktionen gegen Russland fallen, da sie meist aus den USA, Deutschland, Japan, Südkorea etc. stammen.
Da gibt es ein Missverständnis, die Asimov Gesetze sind Science Fiction. Oder gibt es sowas wie Retro-Science Fiction?
Isaac Asimov war ein ziemlich cleverer Schriftsteller.
Ich copy/paste mal nen Wikipediaauszug.
In der Kurzgeschichte Robbie (1940) beschäftigte sich Asimov erstmals gründlich mit Maschinen mit künstlichen Gehirnen, den Robotern. Vor Asimov war die Mehrheit der Robotergeschichten in der Literatur dem Frankensteinmuster gefolgt, was Asimov als unglaublich langweilig bezeichnete: „Roboter wurden geschaffen und zerstörten ihre Erschaffer“. In der 1942 erstmals erschienenen Erzählung Runaround postulierte Asimov die Robotergesetze.
Asimov geht davon aus, dass Werkzeuge im Allgemeinen so konstruiert sind, dass sie implizit diesen Gesetzen gehorchen müssen. Analog werden in seinen Geschichten Roboter-Gehirne so entworfen, dass die Roboter nicht anders können und nichts anderes dürfen, als den drei Gesetzen der Robotik zu gehorchen. Es sind Positronengehirne, die nicht die Wahl haben, explizit oder gar eigenmächtig zu entscheiden. Sie reagieren zwangsweise, ähnlich wie heutige Computersysteme nach dem Binärsystem reagieren: 0= Nicht ausführen; 1= Ausführen. Diese Gesetze sind nach Asimov notwendig, damit ein Roboter nicht zu eigenem Bewusstsein gelangt, was ein unüberschaubares Chaos und unkalkulierbare Folgen für Mensch und Maschine bewirken könnte.
„Warum baut man einen Roboter für Schachzüge, den man in einem Krieg verwenden kann?“
Was soll das den heißen? Laufen da jetzt Roboter rum die Soldaten den Zeigefinger brechen?
Das wäre ne super Idee. Ohne Zeigefinger kann man schlechter den Abzug betätigen ; )
„Warum baut man einen Roboter für Schachzüge, den man in einem Krieg verwenden kann?“
Der Satz ist ja wohl ein verdammter Witz!!!
Die Menschheit ist wirklich hoffnungslos verloren.
Man kann sich aber mMn. trotzdem mal hinterfragen, warum der Roboter soviel Kraft aufwenden kann, dass ein menschlicher Knochen bricht. Fürs versetzen von Schachfiguren ist es schon irgendwie etwas übertrieben.
Naja, das Ding sieht aus wie ein normaler Industrieroboterarm, die haben wohl genommen was gerade da war und den nicht selbst gebaut. Es ging denen wohl eher um die Schach-KI, das waren bestimmt Programmierer und keine Ingenieure für Maschinenbau.
In der Industrie ist sowas immer hinter ner Tür mit Unterbrecherschalter. Zumindest ne Lichtschranke wäre gut gewesen.
Abgesehn davon bricht so ein Finger recht schnell.
Unten der Turm vom Kind, darauf der Finger und dann kam der Läufer von oben…
Selbst ohne weiteren Druck reicht da Masse und Geschwindigkeit des Arms um Knochen zu brechen. Wahrscheinlich war es sogar nur pneumatisch angetrieben, das gibt etwas nach. Mit Hydraulik hätte das locker den Finger weggestanzt.
Woah – es gibt ja diese Horrorgeschichten über Arbeiten in bestimmten Fabriken und wie schnell man da Körperteile verliert. Du scheinst dich da auszukennen.
Ich könnte dir Geschichten erzählen. Mein Bruder ist fast mal bei so einem Unfall ums Leben gekommen. Hatte jahrelang noch Herzprobleme danach.
Ich hab im Rahmen meiner Ausbildung im Bereich Werkssicherheit (war eine zusätzliche Ausbildung) fast mal nen Betrieb dicht machen lassen, die Autoteile hergestellt hat.
Theoretisch hätte auch dort jeden Tag jemand schwerstverletzt raus getragen werden müssen bei den Bedingungen. Nach 1 Woche war der Betrieb wieder fit und defekte Maschinen wurden ab da still gelegt und nicht mehr “ach das geht noch” benutzt.
Und die dort verwendeten Maschinen waren selbst im Top Zustand noch lebensgefährlich. Gab zwar etliche Sicherheitsmechanismen bei jeder Maschine, aber keine bietet 100%igen Schutz. Schon gar nicht, wenn Mitarbeiter sich absichtlich nicht an die Vorgaben gehalten haben.
Ich hab auch schon die ein oder andere leichtere Verletzung davon getragen.
Heute bin ich im Büro im ÖD. Das gefährlichste dort ist sich am Papier zu schneiden, am heißen Kaffee die Zunge zu verbrennen oder den Feierabend zu verpassen 😀
Aber kann auch gesundheitlich nicht mehr im Werk arbeiten wie früher (kein Unfall, Erkrankung).
Naja, ich war Energie-Elektroniker bei einer Firma die unter anderem Kühlschrankkompressoren herstellt. Da wird gestanzt, geschweisst, zusammengesteckt usw, aber da war eigentlich alles recht vorbildlich abgesichert mit 2-Hand-Aktivierungen, Schutzgittern usw. War aber auch ne grössere Firma mit über 1000 Mitarbeitern.
Klar, es geht da um Sekundenbbruchteile um die Effizienz von Fertigungsstrassen zu steigern. Daher laufen die Maschinen trotz des Gewichtes mit hohen Geschwindigkeiten und dazugehörigen Kräften zum Beschleunigen und Bremsen. Aber bei einer guten Fertigungsstrasse muss man es schon darauf anlegen um einen Unfall zu haben.
Presse mit 2-Hand-Aktivierung.
Panzertape oder schwere Gegenstände auf einen Schalter, damit man nur noch einen bedienen muss. Was ich bei Kollegen schon gesehen hatte.
Hab selbst mal ne Woche an so ner Presse gearbeitet. Ich hatte Respekt davor.
Aber wenn man X Jahre daran arbeitet und nie etwas passiert, dann denken manche irgendwann, sie wären unverwundbar… und genau dann passiert in Unternehmen meist was.
Oder wenn bei Induktionsöfen die Spulen ungesichert offen liegen und trotzdem verwendet werden (das war der Fall mit meinem Bruder).
Wenn dann in einem gesamten Unternehmen nicht ein Verbandskasten vorhanden ist und nicht ein Feuerlöscher (der Definition nach) funktioniert.
Gute Geräte, gute Wartung und Verantwortung, dann passiert meist nicht viel. Und ich denke dann wäre hier bei dem Kind auch nichts passiert.
Meist liegt es daran, dass irgendwo ein Mensch versagt. Sei es bei Wartung, Bedienung, Sicherheitsregeln einhalten etc.
Und ob und was genau hier beim Schachroboter der Grund war, werden am Ende wohl Ermittlungen ergeben müssen.
Klar, Menschen sind dämlich. Einige Genies greifen auch beim Laufband durch das Loch wo die Bauteile durchlaufen um ein verklemmtes Teil rauszuziehen. Und dann steckt die Hand plötzlich dazwischen.
Vor absichtlichen Handlungen kannst du den Menschen kaum schützen. Aber vor Verletzungen durch Impulshandlungen und Fehler durch Unkonzentriertheit ist man normalerweise geschützt.
Der Kleine war total auf das Spiel konzentriert, wahrscheinlich ist er es sogar gewohnt das man in einer Bewegung die gegnerische Figur nimmt und die eigene hinstellt.
Diese Zwei-Aktionen-Bewegung des Roboters war sicherlich ziemlich ungewohnt, und die Routine lässt den Jungen schon nach der ersten Bewegung reagieren.
Hätte man als Konstrukteur dran denken müssen, aber es ist schwer immer alle möglichen Bedienfehler zu erkennen.
Und man muss auch zugeben das da wirklich eine Menge Pech dabei war, aber in 15 Jahren kommt halt irgendwann immer mal alles zusammen..
Ich kann dir jeden Finger mit wesentlich weniger Kraft brachen, als man braucht, um eine Schachfigur zu bewegen! Das hat mit Kraft, gerade bei Knochen von Kindern, NICHTS zu tun.
Kinderknochen brechen nicht so schnell wie Erwachsenenknochen da sie deutlich elastischer sind. Wenn eine Vorrichtung gebaut wird um Schachfiguren mit einem Gewicht von vielleicht 30Gramm zu heben und versetzen, sollte sowas eigentlich nicht passieren können. Hier fehlen einfach Sicherheitsvorkehrungen. Ein menschlicher Knochen hält etwa 3x mehr Gewicht aus als Holz. Wenn man stürzt wirken Hebelkräfte die es so erscheinen lassen, als ob Knochen mal ruckzuck brechen können. Dem ist jedoch nicht so. Hier gab es keine Hebelkräfte. Der Roboter muss also enorm viel Kraft aufwenden können.
Ging dem kleinen wohl nicht schnell genug. Das nächste mal wartet er bestimmt, bis er dran ist.
… das liest sich, als sei er selbst schuld. Find ich schwierig.
Ich denke mal, dass er auch mit schuld ist. Roboter sind gefährlich. Wenn er das nicht abschätzen kann in dem Alter, hätte man ihn da nicht antreten lassen dürfen. Schon gar nicht wenn man weiß, dass es keine Sicherheitsvorkehrungen gibt.
Die Schuld liegt sicher nicht bei einem alleine.
Aber mal anders gefragt. Wenn das Kind auf die heiße Herdplatte fasst, ist dann der Herd schuld oder der, der den Herd gebaut hat?
Oder ggf. das Kind, dem man das schon mehrfach gesagt hat… oder die Eltern, die es dem Kind nicht beigebracht haben oder trotz allem das Kind in die nähe des heißen Herdes lassen?
Kommt halt immer auf die gesamten Umstände an, wer am ende alles (Mit-)Schuld hat.
Und ganz ehrlich. Mit 7 Jahren wusste ich das und hab mich auch daran gehalten.
Naja, du sagst ja du hast selbst mal als Werksicherheit gearbeitet. Dann weisst du ja aus erster Hand das man Menschen nicht dauerhaft neben einer offenen Gefahr arbeiten bzw sitzen lassen darf.
Niemand ist über eine 8 Stunden Schicht immer voll konzentriert. Das gilt sicherlich doppelt für einen 7-jährigen der die Gefahr kaum begreift, und der sich auch noch aufs Spiel konzentrieren muss.
Trotzdem hat Bingolinchen eigentlich recht. Der Kleine wird wohl in nächster Zeit kaum ruhig neben einem Roboter sitzen können.
Ja da gebe ich dir Recht. Daher gab es bei uns auch 2 Pflichtpausen und nicht nur eine und das bei “nur” 8 Stunden Schichten.
Jetzt geht aus den Artikeln halt nicht hervor, ob die Partie erst 3 Minuten ging, oder schon 8 Stunden (eher unwahrscheinlich).
Und mit 7 zu wissen, dass man da nicht hin langt, wenn der Roboter sich noch bewegt, sollte man hinbekommen. Zumindest wenn man so etwas beigebracht bekommen hat. Da sehe ich dann eher die Eltern in der Verantwortung.
Dem Kind kann man auf keinen Fall alleine die Schuld geben. Das wäre nicht nur falsch, sondern auch unverschämt. Aber ganz ausschließen würde ich es auch nicht. Vielleicht wurde es ihm mehrfach eindringlich gesagt und er hat es schlicht ignoriert. Weiß man ja nicht.
Dann hat der Bot ja die Feuerprobe überstanden und kann an die Front geschickt werden.
Hmm…
Der Roboter war noch mitten im Zug. Er hat die Figur des Jungen geschlagen. Dazu hat er diese weggenommen. Und als der Roboter dann seine eigene Figur dort abstellen wollte, hat der Junge einfach zwischendrin eine andere Figur hingezogen.
Klarer Regelverstoss des Jungen. Da ist es kein Wunder, dass der Bot sauer wird.
Naja was in dem Artikel nicht erwähnt wird, dass der Junge und sein Verantwortlicher aufgeklärt wurden über das Sicherheitskonzept, sprich die wussten eigentlich bescheid. Gut es ist ein 7 jähriger, aber nicht jeder sieht den edge case, dass ein Kind ausgerechnet gegen ein Schachroboter spielt und das Sicherheitskonzept völlig missachtet. Im Endeffekt hat der Robot genau das gemacht, wofür er programmiert wurde, nämlich Schach zu spielen und nicht Figuren von Fingern zu unterscheiden.
Ich bin sicher wenn du bei Toyota aufs robotisierte Fließband gehst erwartet denjenigen ein schlimmeres Schicksal 😛
Der Roboter ist jetzt traumatisiert, der arme. Nicht das er jetzt demontiert wird 🙁
judgement day😂
Erklär das mal deinem Arzt, dass du dir beim Schach den Finger gebrochen hast.
Deshalb liebe Kinder, nur mit Spielzeug mit CE Kennzeichnung spielen.