This is for you if you’re working on or with critical technologies. These have significant transformative potential. Strategic Foresight and Business Judgement Rule are key to your company’s future.
Are you working on/with AI technologies?
If so, you are involved with critical technologies. These have significant transformative potential, which can bring about substantial changes to the advantage or disadvantage of those implementing them, as well as impacting third parties, societies, and states.
This potential needs to be understood and managed. It is crucial to know and address the associated opportunities and risks. AI technologies are part of a global arms race. EU legal acts, such as the AI Act, and laws based on EU directives like the NIS-2 Directive provide protection requirements. However, this mandatory protection is limited. Self-protection is the responsibility of the company and is often neglected, particularly due to cost considerations, despite its potential for fostering innovation.
AI technologies are just one critical area among many. The following therefore also applies to other companies.
The role of executive management
Good corporate governance is essential for the protection of the company. This includes effective compliance management and competence management, which fall within the responsibility of the executive management. The executive management is obliged to act in the best interests of the company and must ensure sustainable profitability while avoiding losses. Tasks can be delegated but must be supervised. The company’s best interest is paramount.
The Business Judgement Rule
The Business Judgement Rule allows the executive management broad discretion in business decisions, provided these decisions are based on adequate information and are made in the best interests of the company. That means: Entrepreneurial risk may be taken. But not every risk. At the same time, opportunities in favor of the company should not be left unutilised either.
How to handle contemporary risks … and opportunities?
What does this mean for the executive management when the company develops or uses AI technologies that are exposed to the arms race, particularly between the USA and China? How do you lead a company engaged in critical technologies during times of hybrid warfare? What does an increasing demand for personnel in the armed forces and the defence industry mean for your own skills shortage? What does it mean to lead a company during a pandemic accompanied by further disease outbreaks? The associated risks are real and vary in intensity for each company. The same applies to the company’s opportunities (for innovation and progress).
How would you decide?
Whether the executive management seeks external advice or develops and utilises internal structures for up-to-date risk (and opportunities) management depends on the legal requirements, including the Business Judgement Rule. Whether a company creates a position such as a Chief [AI, Risk, or as suggested here, Geopolitical] Officer is up to them.
How to start?
A good starting point is so-called Strategic Foresight. The OECD has published a methodology to identify relevant, imminent critical risks and establish corresponding protective measures. Although this publication is aimed at states and their authorities, it also offers valuable recommendations for executive managers. These need to be contextualised and implemented within the individual company’s context. Since there is an opportunity in every risk, Strategic Foresight is also a means for progress!
How can Claudia help?
In this process, Claudia is available to support you in developing the best solutions for you and your company. She supports clients primarily through foresight-based risk assessments and the development of actionable strategies in compliance with applicable law.
Law firm and corporate experience, combined with a scientific background in artificial intelligence and security and disaster management, is invaluable for the effective yet economical implementation of new regulations aimed at the safety and security of critical technologies like AI. Claudia possesses these qualities and looks forward to working with you.
Dieser Beitrag ist für Sie, wenn Ihr Unternehmen an oder mit kritischen Technologien arbeitet. Diesen kommt großes Transformationspotenzial zu. V.a. Strategic Foresight ist dabei Schlüssel zur Zukunft.
Arbeiten Sie an oder mit KI-Technologien?
Dann befinden Sie sich im Bereich kritischer Technologien. Diese haben ein hohes transformatives Potenzial, das gravierende Änderungen zum Vor- oder Nachteil der Einsetzenden sowie für Dritte, Gesellschaften und Staaten mit sich bringen kann.
Dieses Potenzial muss verstanden und beherrscht werden. Es ist wichtig, die damit verbundenen Chancen und Risiken zu kennen und zu managen. KI-Technologien sind Teil eines globalen Wettrüstens. EU-Verordnungen wie die KI-Verordnung und Gesetze z.B. aufgrund der NIS-2-Richtlinie tragen mit ihren Anforderungen zum Schutz bei. Dennoch ist dieser verpflichtende Schutz begrenzt. Selbstschutz liegt in der Verantwortung des Unternehmens und wird oft, nicht zuletzt aus Kostengründen, vernachlässigt. Dabei birgt Selbstschutz auch Chancen.
KI-Technologien sind hier nur ein kritischer Bereich von vielen. Das Nachstehende gilt daher auch für andere Unternehmen.
Die Rolle der Geschäftsleitung
Eine gute Corporate Governance ist entscheidend für den Schutz des Unternehmens. Dazu gehört ein effektives Compliance-Management samt Kompetenz-Management, welches in der Verantwortung der Geschäftsleitung liegt. Die Geschäftsleitung ist dem Wohl des Unternehmens verpflichtet und muss für nachhaltige Rentabilität sorgen sowie Verluste vermeiden. Aufgaben können delegiert, müssen aber überwacht werden. Das Wohl des Unternehmens steht im Mittelpunkt.
Die Business Judgement Rule
Die sog. Business Judgement Rule gewährt Geschäftsleitungen einen weiten Beurteilungsspielraum bei unternehmerischen Entscheidungen, solange diese Entscheidungen auf angemessenen Informationen beruhen und zum Wohle des Unternehmens getroffen werden. Unternehmerisches Risiko darf also eingegangen werden. Aber eben nicht jedes Risiko. Chancen sollten auch nicht ungenutzt bleiben.
Wie umgehen mit gegenwärtigen Risiken … und Chancen?
Was bedeutet das für die Geschäftsleitung, wenn das Unternehmen KI-Technologien entwickelt oder einsetzt, die Teil des Wettrüstens v.a. zwischen den USA und China sind? Wie führt man ein mit kritischen Technologien befasstes Unternehmen in Zeiten hybrider Kriegsführung? Was bedeutet ein steigender Personalbedarf der Streitkräfte und der Rüstungsbranche für den eigenen Fachkräftemangel? Was bedeutet es, ein Unternehmen während einer Pandemie zu führen, die von weiteren Krankheitsausbrüchen begleitet wird? Damit verbundene Risiken sind real und bei jedem Unternehmen unterschiedlich ausgeprägt. Dasselbe gilt für die Chancen für das Unternehmen.
Wie würden Sie entscheiden?
Ob die Geschäftsführung externe Beratung in Anspruch nimmt oder interne Strukturen nutzt und weiterentwickelt für ein zeitgemäßes Chancen- wie Risikomanagement, richtet sich nach den gesetzlichen Vorschriften einschließlich der Business Judgement Rule. Ob ein Unternehmen eine Position wie einen Chief [AI, Risk, oder, wie hier vorgeschlagen, Geopolitical] Officer schafft, bleibt ihm überlassen.
Wie anfangen?
Ein guter Anfang liegt in der sogenannten Strategic Foresight. Die OECD hat eine Methodologie veröffentlicht, um relevante, drohende kritische Risiken zu identifizieren und entsprechende Schutzvorkehrungen zu treffen. Die Veröffentlichung richtet sich zwar an Staaten und deren Behörden, bietet aber auch für Geschäftsleitungen wertvolle Handlungsempfehlungen. Diese müssen jedoch in den individuellen Kontext des Unternehmens übertragen und umgesetzt werden. Da in jedem Risiko auch eine Chance liegt, ist Strategic Foresight also auch ein Mittel für Fortschritt!
Wie kann RA’in Claudia Otto helfen?
Dabei steht Rechtsanwältin Claudia Otto Ihnen gerne zur Seite, um die bestmöglichen Lösungen für Sie und Ihr Unternehmen zu erarbeiten. Sie unterstützt Mandanten dabei insbesondere mit Foresight-basierten Risk Assessments und der Herausarbeitung von Handlungsoptionen im Einklang mit geltendem Recht.
Kanzlei- und Unternehmenserfahrung sowie ein wissenschaftlicher Hintergrund im Bereich der Künstlichen Intelligenz sowie im Sicherheits- und Katastrophenmanagement sind wertvoll, wenn es um die wirksame, aber auch wirtschaftliche Umsetzung von neuen Rechtsvorschriften geht, welche auf die Sicherheit von und vor kritischen Technologien wie den KI-Technologien abzielt. Diese bringt Claudia mit und freut sich, mit Ihnen zu arbeiten.