Die Militärtechnologie rast auf eine gefährliche KI-Zukunft zu, und Russlands Krieg in der Ukraine ebnet den Weg, sagen Drohnenexperten

• Der Krieg in der Ukraine hat die Voraussetzungen für die beispiellosen Anwendungen autonomer Drohnen in der Kriegsführung geschaffen.
• Die zunehmende Fähigkeit von Drohnen, autonom zu kämpfen, wirft ernsthafte ethische Fragen auf.
• Zwei Drohnenexperten sprachen über die freilaufende KI-Entwicklung und was sie für die Zukunft bedeuten könnte.

Russlands Krieg in der Ukraine bietet ein beispielloses Testfeld für tödliche Drohnentechnologie. Experten äußern jedoch ihre Besorgnis über das Einschleichen der künstlichen Intelligenz in die menschliche Entscheidungsfindung in der Kriegsführung.

Unbemannte Luftfahrzeuge oder UAVs – besser bekannt als Drohnen – sind in der Ukraine mehr in den Vordergrund gerückt als in jedem anderen Konflikt der Vergangenheit.

Sie seien nicht der „entscheidende Faktor“, sagte Ingvild Bode von der University of Southern Denmark (SDU) gegenüber Insider. Panzer, Grabenkämpfe und Artillerie dominieren immer noch den Konflikt, sagt sie, aber in Bezug auf das schiere Ausmaß und die Vielfalt ist es das erste Mal, dass sie an eine solche Konsequenz gewöhnt sind. John Haltiwanger von Insider hat kürzlich über diese Entwicklung berichtet.

Während sich die maßgebliche KI für einige Drohnentechnologien rasant entwickelt, gibt es noch wenige internationale Rechtsnormen, die definieren, inwieweit menschliche Beteiligung erforderlich ist.

Mehrere Hersteller von Drohnen, die in dem Konflikt eingesetzt werden – wie die von Russland Lanzette und die von den USA bereitgestellten Wechselklinge – behaupten, dass ihre Maschinen jetzt über autonome oder halbautonome Fähigkeiten verfügen.

Es ist unklar, wie sehr diese Fähigkeiten in der Ukraine zum Tragen kamen. Ein ukrainischer Truppenkommandant behauptete im Oktober, seine Truppen flogen bereits autonome Aufklärungsmissionen mit Drohnen, wie die New Scientist berichtetunter Berufung auf ukrainische Medien.

Laut Bode – dessen Forschung sich auf die internationalen Normen rund um das Aufkommen militärischer KI konzentriert – hat die Eile, die Ukraine zu verteidigen, dazu geführt, dass die Diskussion über die Bewaffnung der KI keine ferne Hypothese mehr ist.

Nachdem die Ukraine im vergangenen Herbst einen Marine-Drohnenangriff auf die russische Schwarzmeerflotte behauptet hatte, begann sie mit der Beschaffung von Spenden für die, wie sie es nannte, “weltweit erste Drohnen-Marineflotte”.

Und Russlands ins Stocken geratener traditioneller Angriff wird es wahrscheinlich dazu drängen, Systeme auf den Markt zu bringen, bevor internationale Normen in Kraft sind.

Bode sagt, sie mache sich Sorgen über den Ansturm, militärische KI auf das Schlachtfeld zu bringen, “ohne wirklich über die langfristigen Folgen nachzudenken”.

Wann ist ein Schwarm kein Schwarm?

Seit Mitte des vergangenen Jahres haben russische Streitkräfte iranische Shahed-136-Drohnen in Gruppen von fünf oder sechs Personen zu Angriffen auf kritische ukrainische Infrastruktur gestartet.

Die Shahed-136 sind Munition, die sich beim Aufprall selbst zerstört, was ihnen den Spitznamen “Selbstmord”-Drohnen verleiht.

Angriffe mit Gruppen dieser Waffen wurden als „Schwärme“ bezeichnet, obwohl sie aus Sicht der KI noch keine echte Schwarmtechnologie beinhalten.

James Rogers, ebenfalls von der SDU und Berater der UN für zukünftige Drohnentechnologie, sagte gegenüber Insider, dass „schwärmende Drohnen technisch gesehen Drohnen sind, die miteinander kommunizieren können“.

KI erlaubt ihnen, sich symbiotisch zu verhalten, „wie ein Vogelschwarm am Himmel“, wie er es ausdrückte. “Sie sehen, wie sie sich als Einheit bewegen und gemeinsam auf äußere Reize reagieren.”

Derzeit werden die Drohnen beim Start von einem menschlichen Bediener geführt. laut dem unabhängigen russischen Blatt Novaya Gazeta Europe.

Aber echte Schwarmfähigkeiten sind auf dem Weg zum Schlachtfeld. Im Januar 2022 wurde Raytheon-Technologie in einer DARPA-Übung eingesetzt, bei der nur ein menschlicher Bediener 130 angepasste kommerzielle handelsübliche Drohnen steuerte, während sie autonom ausschwärmten und ein Gebiet überwachten. behauptete das Unternehmen.

Als Teil der Übung konnten die Drohnen autonom identifizieren und entscheiden, welche Teile eines Gebäudes sie noch nicht erkundet hatten, sagte Raytheon.

Der Regelkreis

Switchblade-Bediener sind wahrscheinlich „in the loop of control“, wie Rogers es formuliert, was bedeutet, dass Drohnen autonom fliegen und ein Gebiet umkreisen können, bis ein Ziel erscheint, aber ansonsten von einem Menschen bedient werden.

Aber fortschrittlichere Drohnentechnologie ermöglicht das, was Rogers „on“ the loop of control nennt.

In diesem Fall kann eine Drohne in einer Gruppe ausgesandt werden und wird dem Piloten erst dann angezeigt, wenn sie ein von der KI identifiziertes Ziel gefunden hat. Rogers in einem Video für das Center for International Governance Innovation (CIGI) erklärt.

Das wird dann an den Bediener weitergeleitet, der entscheidet, ob er zuschlägt oder nicht.

Aber wir könnten bald einen Horizont erreichen, an dem überhaupt kein Mensch mehr beteiligt ist, sagte Rogers und fügte hinzu: „Hier beginnt man also zu sehen, wie KI und Robotik beginnen können, die Entscheidung darüber zu treffen, ob Menschen leben oder sterben. “

Der Maschine vertrauen?

Selbst wenn ein Mensch immer noch fest auf dem Laufenden ist und Entscheidungen trifft, wirft die Einbeziehung von KI einzigartige Probleme auf, sagte Bode gegenüber Insider.

„Bei den Systemen, die wir gesehen haben, gibt es immer noch einen menschlichen Bediener, der die Anwendung von Gewalt autorisiert“, sagte sie. Sie fragte sich jedoch, ob die Bediener zu viel Wert auf das algorithmisch fundierte Urteil der Maschine legten.

„Wenn dieses System sagt: ‚Okay, das [target] angegriffen werden soll’, auf welcher Grundlage kann der Bediener tatsächlich entscheiden, diese Zieleingabe anzuzweifeln?”, fragte sie.

Unter Druck und möglicherweise unter Beschuss nimmt ein Drohnenbediener die Aufforderung der Maschine möglicherweise weniger als Vorschlag denn als unfehlbare Anweisung. Das liegt in der Natur des Menschen, schlug Bode vor.

„Es gibt viele Untersuchungen zur Automatisierungsverzerrung“, sagte sie. „Wir neigen dazu, den Ergebnissen, die uns von computergestützten Systemen präsentiert werden, mehr zu vertrauen als unserem eigenen Urteil.“

Was sehen Drohnen, wenn sie einen Menschen sehen?

Militärische Ziele wie Panzer seien relativ einfach zu programmieren, um eine Maschine zu erkennen, sagte Bode. Aber es ist anders, wenn ein Ziel ein Mensch ist.

Drohnen sind auch an mehr als nur Luftangriffen in der Ukraine beteiligt. Im November teilte das ukrainische Verteidigungsministerium Aufnahmen mit, die einen kapitulierenden russischen Soldaten zeigten, der von einer Drohne zu ukrainischen Soldaten geführt wurde.

Die ukrainische Armee hat sogar Richtlinien für den Prozess veröffentlicht, die darauf hindeuten, dass Drohnen eine regelmäßige Rolle bei der Vermittlung von Kapitulationen spielen.

Der Prozess scheint kommerzielle Drohnen zu beinhalten, die direkt von einem Menschen bedient werden. Aber als Idee der Drohnen-vermittelten Kapitulation – früher eine Seltenheit – normalisiert wird, äußerten sowohl Bode als auch Rogers Bedenken darüber, ob KI wirklich in der Lage sein wird, einen sich ergebenden Menschen von einem Kämpfer zu unterscheiden.

“Das ist selbst für einen Menschen eine schwierige Entscheidung, oder?” sagte Bode.

Rogers schlug vor, dass es sich um einen unerprobten Bereich des Völkerrechts handelt. Wird die Drohnen-KI in einer vollständig autonomen Zukunft der Drohnenkriegsführung so programmiert, „dass sie denen aus dem Weg geht, die eine weiße Flagge schwenken?“

Angesichts der Geschwindigkeit der Entwicklungen im Zusammenhang mit KI und des Konflikts in der Ukraine ist dies eine von vielen Fragen, die unbeantwortet bleiben.

source site-19