Download the White Paper: Introducing the Framework for Trustworthy Military AI
White Paper:
Introducing the Framework for Trustworthy Military AI
A Timely Response to Evolving Security Needs
In light of the ongoing rearmament initiatives – particularly those of the European Union (EU)[1] – it is crucial to bridge the gap between these defence efforts and the rapid advancements in Artificial Intelligence (AI). As AI technologies evolve, they present both opportunities and risks that must be managed effectively.
The EU Artificial Intelligence Act (EU AI Act), which is designed for peacetime applications, explicitly excludes AI systems and their outputs that are intended for military, defence, or national security purposes. While this exclusion may be well-intentioned, it introduces significant practical challenges. Furthermore, the innovation incentives for AI technologies within this framework require urgent revision, as they appear to be more detrimental than beneficial. Last but not least, the EU Commission must address the inconsistencies that threaten to undermine the defence capabilities of its member states.
Notwithstanding the EU AI Act’s shortcomings, there is a current but unmet global need for guiding principles focussing on AI in the military domain. This White Paper is the first to outline principles for Trustworthy Military AI, enabling immediate implementation in development and procurement processes, fostering dialogue between stakeholders and contributing to building a resilient national and collective defence.
Checklists outlining the key requirements are provided prior to the detailed explanations and are primarily designed to facilitate practical application. Spaces have been allocated for annotations.
[1] Cf. ReArm Europe, Press statement by President von der Leyen on the defence package, 4 March 2025, https://ec.europa.eu/commission/presscorner/detail/sv/statement_25_673 (last accessed 9 March 2025).
Download the White Paper:
Introducing the Framework for Trustworthy Military AI – A Timely Response to Evolving Security Needs (9 March 2025)
Learn more:
Learn more about the EU AI Act, .e.g. AI Act compliance and Claudia’s AI Risk Assessment tools.
Learn more about Claudia’s security tips on AI Agents.
Learn more about the importance of Strategic Foresight.
Learn more about Claudia’s webinar and workshops on war economy.
Learn more about the new world order and what you can do now.
About the author
Claudia Otto is the founder of COT Legal, a renowned law firm based in Germany, a distinguished lawyer and advisor to legislators on critical technologies, including artificial intelligence, digital technologies, and biotechnology. With a profound expertise in risk assessment and management, she plays a pivotal role in shaping the legal landscape of these dynamic fields.
As a thought leader, Claudia teaches Strategic Foresight, Corporate Governance, and Digital Innovation at Fresenius University of Applied Sciences in Germany. She has authored over 50 articles that contribute to the discourse surrounding legal and ethical implications of technology.
Leveraging her extensive consulting experience across high-risk industries and her in-depth research in safety and security management, Claudia is currently writing her Master’s Thesis on AI risk assessment in alignment with the EU AI Act, further solidifying her position as an expert in the intersection of law and technology.
Laden Sie hier das Whitepaper “Introducing the Framework for Trustworthy Military AI” herunter.
Whitepaper:
Einführung eines Frameworks für vertrauenswürdige militärische KI
Eine zeitgemäße Reaktion auf sich ändernde Sicherheitsanforderungen
Angesichts der laufenden Aufrüstungsinitiativen – insbesondere der Europäischen Union (EU)[1] – ist es von entscheidender Bedeutung, die Lücke zwischen diesen Verteidigungsanstrengungen und den raschen Fortschritten im Bereich der Künstlichen Intelligenz (KI) zu schließen. Die Weiterentwicklung von KI-Technologien birgt sowohl Chancen als auch Risiken, die effektiv gemanagt werden müssen.
Die KI-Verordnung (EU AI Act), die für Anwendungen in Friedenszeiten konzipiert ist, schließt KI-Systeme und ihre Outputs, die für Zwecke des Militärs, der Verteidigung oder der nationalen Sicherheit bestimmt sind, ausdrücklich aus. Dieser Ausschluss mag zwar gut gemeint sein, bringt aber erhebliche praktische Herausforderungen mit sich. Darüber hinaus müssen die Innovationsanreize für KI-Technologien in diesem Rahmen dringend überarbeitet werden, da sie eher nachteilig als nützlich erscheinen. Nicht zuletzt muss sich die EU-Kommission mit den Ungereimtheiten befassen, die die Verteidigungsfähigkeit ihrer Mitgliedstaaten zu untergraben drohen.
Ungeachtet der Unzulänglichkeiten der KI-Verordnung besteht derzeit ein weltweit ungedeckter Bedarf an Leitprinzipien, die sich auf KI im militärischen Bereich konzentrieren. Dieses Whitepaper ist das erste, das Grundsätze für eine vertrauenswürdige militärische KI – Trustworthy Military AI – umreißt, die eine sofortige Umsetzung in Entwicklungs- und Beschaffungsprozessen ermöglicht, den Dialog zwischen den Interessengruppen fördert und zum Aufbau einer widerstandsfähigen nationalen und kollektiven Verteidigung beiträgt.
Checklisten mit den wichtigsten Anforderungen werden vor den detaillierten Erläuterungen zur Verfügung gestellt und dienen in erster Linie der praktischen Anwendung. Für Anmerkungen wurden Freiräume belassen.
[1] Vgl. ReArm Europe, Presseerklärung von Präsidentin von der Leyen zum Verteidigungspaket, 4. März 2025, https://ec.europa.eu/commission/presscorner/detail/sv/statement_25_673 (zuletzt abgerufen am 9. März 2025).
Download des Whitepapers:
Introducing the Framework for Trustworthy Military AI – A Timely Response to Evolving Security Needs (9 March 2025)
Erfahren Sie mehr:
Erfahren Sie mehr zur KI-Verordnung, z.B. zum Thema AI Act-Compliance sowie über Rechtsanwältin Otto’s AI Risk Assessment Tools.
Erfahren Sie hier Sicherheitshinweise zum Trend der KI-Agenten.
Erfahren Sie mehr über die Bedeutung von Strategic Foresight.
Erfahren Sie hier mehr zu Informationsangeboten zur Kriegswirtschaft.
Erfahren Sie mehr über die neue Weltordnung und was Sie tun können.
Über die Autorin
Claudia Otto ist die Gründerin von COT Legal, einer renommierten Anwaltskanzlei mit Sitz in Deutschland, eine angesehene Anwältin und Beraterin des Gesetzgebers zu kritischen Technologien, einschließlich künstlicher Intelligenz, digitaler Technologien und Biotechnologie. Mit ihrer fundierten Expertise in den Bereichen Risikobewertung und -management spielt sie eine entscheidende Rolle bei der Gestaltung der Rechtslandschaft in diesen dynamischen Bereichen.
Als Vordenkerin lehrt Claudia Strategic Foresight, Corporate Governance und Digital Innovation an der Hochschule Fresenius in Deutschland. Sie hat über 50 Artikel verfasst, die zum Diskurs über die rechtlichen und ethischen Implikationen von Technologie beitragen.
Mit ihrer umfangreichen Beratungserfahrung in Hochrisikobranchen und ihrer fundierten Forschung im Bereich Sicherheitsmanagement schreibt Claudia derzeit ihre Masterarbeit über KI-Risikobewertung in Übereinstimmung mit der KI-Verordnung, um ihre Position als Expertin an der Schnittstelle von Recht und Technologie weiter zu festigen.