Chip Somodevilla/Getty Images
- Der frühere Policy-Analyst des Pentagon, Paul Scharre, diskutiert in seinem kommenden Buch globale Macht und KI.
- Er schreibt, dass Marines die Roboter der Defense Advanced Research Projects Agency des Pentagon trainierten.
- Die Roboter, die darauf trainiert waren, Menschen zu identifizieren, wurden von Marines getäuscht, die Purzelbäume schlugen und sich in Kisten versteckten.
Die vom Pentagon eingesetzten hochmodernen Roboter hatten laut einem demnächst erscheinenden Buch eines ehemaligen Politikanalysten eine leicht zu manipulierende Schwäche: Obwohl sie darauf trainiert sind, menschliche Ziele zu identifizieren, lassen sich die Bots leicht mit den glanzlosesten täuschen verkleidet.
In seinem demnächst erscheinenden Buch „Four Battlegrounds: Power in the Age of Artificial Intelligence“ schreibt der ehemalige Pentagon-Policy-Analyst und Armeeveteran Paul Scharre, dass das Team der Defense Advanced Research Projects Agency (DARPA) seine Roboter sechs Tage lang mit einem Team von Marines trainierte um seine künstlichen Intelligenzsysteme zu verbessern.
Scharre reagierte nicht sofort auf die Anfragen von Insider nach Kommentaren. “Four Battlegrounds: Power in the Age of Artificial Intelligence” erscheint am 28. Februar.
Shashank Josi, Verteidigungsredakteur bei The Economist, Gesendet mehrere Auszüge aus Scharres Buch auf Twitter. In den Passagen beschreibt Scharre, wie die Marines am Ende ihres Trainingskurses ein Spiel entwickelten, um die Intelligenz des DARPA-Roboters zu testen.
Acht Marinesoldaten platzierten den Roboter in der Mitte eines Kreisverkehrs und fanden kreative Wege, sich ihm zu nähern, wobei sie darauf abzielten, nahe genug heranzukommen, um den Roboter zu berühren, ohne entdeckt zu werden.
Zwei der Marines machten Purzelbäume für 300 Meter. Zwei weitere versteckten sich unter einem Karton und kicherten die ganze Zeit. Ein anderer nahm Zweige von einer Tanne und ging weiter, grinste von einem Ohr zum anderen und gab vor, ein Baum zu sein, so Quellen aus Scharres Buch.
Keiner der acht wurde entdeckt.
„Die KI war darauf trainiert worden, Menschen beim Gehen zu erkennen“, schrieb Scharre. „Keine Menschen, die Purzelbäume schlagen, sich in einem Karton verstecken oder als Baum verkleidet sind. Diese einfachen Tricks, die ein Mensch leicht durchschaut hätte, reichten also aus, um den Algorithmus zu brechen.“
Obwohl unklar ist, wann die Übungen in Scharres Buch stattfanden oder welche Verbesserungen an den Systemen seitdem vorgenommen wurden, sind die Possen der DARPA-Roboter lange mit Hindernissen für ihre Leistung konfrontiert, einschließlich schlechter Balance und Bedenken hinsichtlich ihres Potenzials, versehentliche Tötungen zu verursachen KI verhält sich auf unvorhersehbare Weise.
Das Verteidigungsministerium und die DARPA reagierten nicht sofort auf die Anfragen von Insider nach Kommentaren.