KI-Entwicklung schnell und verantwortungsvoll vorantreiben

Damit KI militärisch wirksam bleibt, ohne Sicherheit und Recht zu gefährden, gibt es eine KI-Governance in der Bundeswehr. Sie ist Teil des vom Verteidigungsministerium erlassenen KI-Konzepts. Im Vordergrund der KI-Governance steht der verantwortungsvolle Umgang mit KI-Systemen, die immer intensiver genutzt werden.

Künstliche Intelligenz hat die Kriegführung grundlegend verändert: Sie beschleunigt Aufklärung, Entscheidungsfindung und Wirkung. Algorithmen analysieren Gefechtsdaten in Echtzeit, erkennen Ziele schneller und präziser. Autonome Systeme erweitern Reichweite und Tempo militärischer Operationen. Gleichzeitig steigt die Bedeutung digitaler Verteidigung, da Cyberangriffe und Informationsoperationen zum zentralen Bestandteil moderner Konflikte geworden sind. Künstliche Intelligenz ist somit ein entscheidender Faktor für die militärische Durchsetzungsfähigkeit geworden – auch für die Bundeswehr.

Steuerung von KI-Themen in der Bundeswehr

Für die Auftragserfüllung der Bundeswehr liefern KI-Systeme einen entscheidenden Beitrag – sowohl für die Truppe als auch in der Verwaltung. Um Einsatz, Entwicklung und Erprobung sowie die Kontrolle von KI klar zu regeln, hat die Bundeswehr eine KI-Governance entwickelt. Sie sorgt dafür, dass KI-Systeme rechtssicher arbeiten, Risiken früh erkannt werden und Verantwortlichkeiten eindeutig zugewiesen sind. Die Governance ist Teil des KI-Konzepts für die Bundeswehr zur rechtskonformen und zuverlässigen Nutzung und Erprobung von KI in den Streitkräften. Mehr zum KI-Konzept und zur Bedeutung von KI für die Bundeswehr können sie hier erfahren.

Die KI-Governance basiert auf bestehenden Strukturen der Digitalisierung und ist eng mit der Data-Governance verzahnt. Entscheidungsträger und KI-Verantwortliche kommen zu Beratungen zusammen, um die Nutzung von KI in der Bundeswehr voranzutreiben. Wesentliche Gremien dafür sind das Chief Artificial Intelligence Officer Council (CAIO-Council) sowie Aufgabenteams. Die Leitung des Councils obliegt dem Chief Artificial Intelligence Officer (CAIO). Er oder sie steuert das Thema KI für die gesamte Bundeswehr auf strategischer Ebene.

Die Führung liegt in menschlicher Hand

Die KI-Governance ist flexibel und kann an neue Entwicklungen angepasst werden. Im Vordergrund steht die Vereinbarkeit von militärischem Nutzen und ethischen Prinzipien. Die Vorgaben dafür ergeben sich aus der NATO-Strategie und der KI-Verordnung der Europäischen Union. Mit der KI-Verordnung der Europäischen Union (EU AI Act) wurde eine europaweite Regelung extra für KI-Systeme geschaffen. Systeme, die ausschließlich für militärische und Verteidigungszwecke entwickelt oder genutzt werden, sind aus ihrem Anwendungsbereich ausgeschlossen. Dennoch greifen die Regulierungsstandards der EU-Verordnung bei zivilen Funktionen der Bundeswehr, zum Beispiel im Personalwesen.

Obwohl es also keine Regelung für KI-Waffensysteme gibt, verfolgt Deutschland einen sogenannten menschzentrierten Ansatz: Die letzte Entscheidung über den Einsatz von Waffengewalt – und damit über Leben und Tod – soll bei einem Menschen verbleiben, soweit das möglich ist. So kann es beispielsweise mehr autonomes Handeln durch KI beim Abfangen von ballistischen Flugkörpern – also reaktiven Aktionen – geben als bei Angriffsoperationen. KI dient somit als Entscheidungsunterstützung, soll grundsätzlich aber nicht über die Möglichkeit zur autonomen Gewaltanwendung verfügen.

Diese hohen, selbst festgelegten ethischen Vorgaben können bei der Auseinandersetzung mit gegnerischen Kräften ein Spannungsfeld ergeben. Denn viele autoritäre Staaten unterliegen keinen vergleichbaren demokratischen oder ethischen Schranken. Sie investieren massiv in autonom agierende Waffensysteme und KI-gestützte Kriegführung ohne menschliche Kontrolle. Für die Bundeswehr bedeutet dies die Herausforderung, ethisch und rechtlich einwandfrei zu agieren, ohne dabei einen militärischen Nachteil zu haben. Mehr zu den ethischen und rechtlichen Aspekten beim KI-Einsatz können Sie hier lesen.

KI-Governance für ein zielgerichtetes Vorantreiben der KI-Nutzung

Mit dem KI-Konzept für die Bundeswehr wird festgelegt, dass Völkerrechtskonformität und der menschzentrierte Ansatz von Beginn der Entwicklung an in die Systemarchitektur integriert werden. Mit der KI-Governance wird die KI-Nutzung in der Bundeswehr zielgerichtet vorangetrieben, indem sie Vorgaben für Sicherheit, Kontrolle und digitale Souveränität macht. Angesichts der schnellen Einführung neuer KI-Systeme bei gleichzeitigem Erhalt der Steuerungs- und Entscheidungsfähigkeit ist dies erforderlich.

von Florian Manthey