Ethische Standards für KI in der Bundeswehr

Künstliche Intelligenz verändert das Gefechtsfeld, macht es digitaler und schneller. Informationen von Satelliten und Drohnen werden beinahe in Echtzeit verarbeitet. Wer KI in seine Operationsführung integriert hat und effektiv nutzt, hat den Vorteil im Kampf um Informationsüberlegenheit: Befehlshabende können auf Basis der schneller verfügbaren und besser aufbereiteten Daten schneller und besser Entscheidungen treffen.

Die Bundeswehr muss sich mit den neuen Technologien weiterentwickeln, damit sie im Zeitalter der KI-gestützten Kriegsführung siegfähig bleibt. Mit dem Einsatz von KI-gestützten Waffensystemen kann sie ihren Auftrag der Landes- und Bündnisverteidigung erfüllen und die Bevölkerung schützen. Dabei gilt immer: Der Mensch hat die Kontrolle.

Ethik fester Bestandteil der KI-Konzeption

Auf europäischer Ebene ist mit der EU-KI-Verordnung festgelegt, wie die Mitgliedstaaten mit den neuen Technologien umgehen sollen. Allerdings sind Militär, Verteidigung und nationale Sicherheit davon ausgenommen. Deshalb hat das Verteidigungsministerium ein eigenes Grundlagendokument verfasst: die „KI-Konzeption für den Geschäftsbereich des BMVg“ – damit sind die Bundeswehr und das Verteidigungsministerium gemeint. Diese Strategie enthält verbindliche Vorgaben für eine militärische Nutzung von KI und beschreibt, wie die Kampfkraft der Truppe gesteigert werden kann.

KI in der Bundeswehr unterliegt ethischen Standards, um Risiken zu minimieren und verantwortungsvoll mit der neuen Technologie umzugehen. „Auf KI in der Verteidigung zu verzichten, würde die Abschreckungs- und Verteidigungsfähigkeit schwächen – sowohl in Bezug auf Glaubwürdigkeit als auch auf operative Leistungsfähigkeit“, sagt Jan Ganschow, Referent für Digital-, IT- und Cyberstrategie sowie -politik im Verteidigungsministerium. Der Jurist beschäftigt sich mit den ethischen Fragen von KI im Militär und hat das strategische Dokument mit verfasst.

Strategische Nachteile bei Verzicht auf KI

KI erhöht laut Ganschow das Situationsbewusstsein, beschleunigt Entscheidungen, verbessert die Analyse von Bedrohungen, optimiert Ressourcen und stärkt die Cyber‑Resilienz. „Ohne diese Vorteile steigt das Risiko von Fehlkalkulationen, Verzögerungen und strategischen Nachteilen, was letztlich den Frieden, dessen aktiver Schutz auch ein wichtiges ethisches Gebot ist, untergraben kann.“ Deshalb sei die Implementierung und Operationalisierung von KI in der Bundeswehr kein optionales, sondern ein notwendiges Element.

Grundsätzlich gilt: Die Anwendung von KI in der Truppe muss mit den Werten und Normen der Inneren Führung, dem ethischen Leitbild der Bundeswehr, sowie dem Grundgesetz und internationalen völkerrechtlichen Vorgaben übereinstimmen. Dabei orientiert sich die Bundeswehr an den „Principles of Responsible Use of Artificial Intelligence in Defence“ der NATO. An die dort festgelegten Prinzipien zum Einsatz von KI – Rechtmäßigkeit, Verantwortung und Rechenschaftspflicht, Erklärbarkeit und Rückverfolgbarkeit der Ergebnisse, Zuverlässigkeit, Kontrolle und Vermeiden von Verzerrungen – halten sich alle NATO-Verbündeten.

Verantwortung trägt der Mensch, nicht die Maschine

„KI-Anwendungen sollen die Streitkräfte wie eine Kameradin oder ein Kamerad unterstützen“, erklärt Ganschow. Systeme, die mit KI-Funktionen bei Entscheidungen helfen, können zum Beispiel optimale Fahr- und Flugrouten identifizieren. KI sei vor allem ein Hilfswerkzeug, betont der Experte. Der Mensch behalte weiterhin die Kontrolle und treffe die Entscheidungen, vor allem bei der Anwendung militärischer Gewalt. Damit liegt die Verantwortung bei den Soldatinnen und Soldaten, die militärisch organisiert im Gefecht arbeitsteilig zusammenwirken. Auch wenn dabei KI-gestützte Waffensysteme genutzt werden: Rollen für Zuständigkeiten in der Befehlskette sind klar definiert.

Wie autonom KI in Entscheidungsunterstützungs- und Waffensystemen sein darf, hängt von der Situation ab. Je komplexer die Lage, desto mehr menschliches Urteilsvermögen ist gefragt. Der Grad menschlicher Beteiligung könne beim Luft- oder Seekampf niedriger sein als in dicht besiedelten Gebieten, sagt Ganschow mit Blick auf die Schwere der Folgen von Entscheidungen. „In Städten müssen die Daten, auf deren Basis ein KI-System zu einem Ergebnis kommt, viel genauer überprüft werden als in einer Wüste oder auf dem Atlantik.“ Zudem müsse der Mensch jederzeit in die Abläufe eingreifen können.

Vertrauenswürdige KI-Systeme in der Bundeswehr

„KI-Systeme, die die Bundeswehr entwickelt oder beschafft, werden getestet, evaluiert, validiert und verifiziert“, sagt der KI-Experte aus dem BMVg. Erst nach dem mehrstufigen Verfahren durch verschiedene Instanzen wie etwa seinem Referat für Internationale KI-bezogene Politik, Normen und Ethik erhalte das System eine Art Gütesiegel und dürfe in der Truppe verwendet werden. Ethische Standards werden bei der Einführung eines neuen KI-Tools in der Bundeswehr also von Anfang an mitgedacht.

Mit der technischen Weiterentwicklung werden die Tools fortlaufend überprüft. Etwa stellen Bias-Checks – Kontrollen nach Vorurteilen – sicher, dass die Datenbasis der KI nicht verzerrt ist. Durch diese Qualitätskontrolle können Bundeswehrangehörige davon ausgehen, dass die eingeführten KI-Systeme sicher und vertrauenswürdig sind. Der Einsatz von KI in der Bundeswehr muss laut Ganschow stets transparent, nachvollziehbar und dokumentiert sein, um Vertrauen und Rechtsstaatlichkeit zu gewährleisten.

Reguliert, gesteuert und überwacht wird KI in der Bundeswehr durch die KI-Governance. Die Vertreterinnen und Vertreter des Verteidigungsministeriums und der Bundeswehr sorgen dafür, dass ethische Prinzipien und rechtliche Vorgaben eingehalten werden.