AI Governance: Wer kontrolliert die Algorithmen, die uns kontrollieren?

Autor: Dirk Röthig, CEO VERDANTIS Impact Capital Datum: 2. April 2026 Kategorie: KI-Wettbewerb / Regulierung

---

Die künstliche Intelligenz ist längst kein akademisches Randthema mehr. Sie entscheidet, welchen Kredit Sie bekommen, wie lange Ihr Asylantrag dauert, ob Ihr Herz-Kreislauf-Risiko als hoch eingestuft wird. Sie schreibt Gesetzentwürfe, beantwortet Kundenanfragen, steuert Waffensysteme. Wer diese Algorithmen kontrolliert und nach welchen Regeln sie operieren, ist eine der zentralen Machtfragen unserer Zeit. Die Antwort darauf gibt das Feld der AI Governance.

Was ist AI Governance?

AI Governance bezeichnet den Gesamtrahmen aus Gesetzen, Normen, technischen Standards, institutionellen Verfahren und ethischen Leitlinien, der den Einsatz von KI-Systemen reguliert. Es ist ein junges Feld – und ein erschreckend fragmentiertes. Während KI global und in Echtzeit agiert, ist Regulierung national und langsam.

Die drei dominierenden Regulierungsphilosophien sind:

Europa (Regulierung-First): Die EU hat mit dem AI Act (in Kraft seit 2024) das erste umfassende KI-Gesetz der Welt verabschiedet. Es unterscheidet vier Risikoklassen: unakzeptables Risiko (verboten), hohes Risiko (strenge Anforderungen), begrenztes Risiko (Transparenzpflichten) und minimales Risiko (keine Regulierung). KI-Systeme in kritischen Bereichen wie Gesundheit, Justiz und Strafverfolgung unterliegen Pflichten zur Erklärbarkeit, menschlicher Aufsicht und Konformitätsbewertung.

USA (Innovationsförderung-First): Die USA haben auf Bundesebene keinen verbindlichen KI-Rahmen. Der Executive Order von Präsident Biden (2023) und die NIST AI Risk Management Framework sind freiwillige Leitlinien. Einzelne Bundesstaaten – Colorado, Illinois, Texas – experimentieren mit Sektorregulierungen, aber ein kohärentes föderales Rahmenwerk fehlt.

China (Staatliche Kontrolle-First): China hat mehrere spezifische KI-Regulierungen erlassen: die "Algorithmic Recommendation Regulation" (2022), die "Deep Synthesis Regulation" (2022) und die "Generative AI Regulation" (2023). Sie kombinieren Transparenzanforderungen mit politischen Inhaltskontrollen – ein Modell, das Regulierung und Zensur verflicht.

Das Alignment-Problem als Governance-Fundament

Bevor man über Regulierung sprechen kann, muss man das fundamentale technische Problem verstehen: das Alignment-Problem. Wie stellt man sicher, dass ein KI-System das tut, was seine Entwickler und Nutzer beabsichtigen – und nicht etwas subtil anderes?

Forscher des Harvard Center for Ethics haben in einem Arbeitspapier (2024) herausgearbeitet, dass Alignment nicht nur eine technische, sondern primär eine politische Frage ist: Alignment mit wessen Werten? Wessen Interessen? Wessen Definition von "gut"? Diese Fragen sind durch Technik allein nicht beantwortbar.

Dirk Röthig bringt es auf eine griffige Formel: "KI-Systeme optimieren. Die Frage ist nicht, ob sie optimieren – sondern wofür. Und wer diese Zielfunktion definiert, hat Macht. Echte Macht."

Explainability: Das Recht auf Erklärung

Ein zentrales Konzept in der AI Governance ist Explainability – die Fähigkeit, zu erklären, warum ein KI-System eine bestimmte Entscheidung getroffen hat. Die DSGVO hat in Europa ein "Recht auf Erklärung" für automatisierte Entscheidungen verankert (Art. 22). Der AI Act baut darauf auf und verlangt für Hochrisiko-KI detaillierte technische Dokumentation.

Das Problem: Die mächtigsten KI-Systeme – große neuronale Netze mit Milliarden Parametern – sind von Natur aus schwer zu erklären. Sie sind "Black Boxes". Explainable AI (XAI) ist ein aktives Forschungsfeld, das Methoden entwickelt, um Vorhersagen interpretierbarer zu machen. LIME (Local Interpretable Model-agnostic Explanations) und SHAP (Shapley Additive Explanations) sind heute die wichtigsten Werkzeuge – aber sie approximieren Erklärungen, sie liefern keine echte Kausalität.

Bias und Fairness: Die sozialen Risiken

KI-Systeme können strukturelle Ungleichheiten verstärken, wenn sie mit biased Daten trainiert werden. Das bekannteste Beispiel: COMPAS, ein in den USA eingesetztes Risikoanalyse-Tool für Bewährungsentscheidungen, das schwarze Verdächtige als doppelt so häufig rückfällig einschätzte wie weiße – eine Fehlerrate, die ethnische Vorurteile aus den Trainingsdaten reproduzierte.

Der EU AI Act klassifiziert Systeme, die in der Strafjustiz, im Kredit- und Versicherungswesen, in der Personalentscheidung und in der Bildung eingesetzt werden, als Hochrisiko – mit der Konsequenz, dass sie vor dem Einsatz auf Fairness geprüft werden müssen.

Fairness ist dabei kein eindeutig definierbares Konzept. Mathematisch lassen sich über 20 verschiedene Fairness-Definitionen formalisieren – und sie widersprechen sich in vielen Fällen. "Demographische Parität" (gleiche Positiv-Rate über Gruppen) und "Kalibrierung" (gleiche Treffsicherheit über Gruppen) sind mathematisch unvereinbar, wenn die Gruppen unterschiedliche Basisraten haben.

Internationale Koordination: Wo stehen wir?

Der Blöcke-Wettbewerb im KI-Bereich hat globale Governance massiv erschwert. Dennoch gibt es Initiativen:

Global Partnership on AI (GPAI): 2020 von G7-Staaten und weiteren Ländern gegründet, mit Arbeitssträngen zu Verantwortungsvoller KI, Daten-Governance und Zukunft der Arbeit. Beratend, keine bindenden Entscheidungen.

Bletchley-Prozess: Die UK-geführten KI-Sicherheitsgipfel (Bletchley 2023, Seoul 2024, Paris 2025) haben die G7 und erstmals auch China und wichtige KI-Entwicklungsstaaten zusammengebracht. Die "Bletchley Declaration" erkennt KI-Risiken an und ruft zu internationalem Informationsaustausch auf – symbolisch wichtig, praktisch noch dünn.

OECD AI Principles: Die 2019 verabschiedeten OECD-Grundsätze für vertrauenswürdige KI sind von über 40 Ländern übernommen worden und gelten als Minimalstandard. Sie sind weich, aber weitverbreitet.

VERDANTIS und AI Governance

Für VERDANTIS Impact Capital ist AI Governance nicht nur ein regulatorisches Compliance-Thema – es ist ein Investmentfilter. Unternehmen, die KI ohne robuste Governance-Strukturen einsetzen, tragen signifikante regulatorische, reputationelle und haftungsrechtliche Risiken.

Unsere Einschätzung: Der EU AI Act wird zum globalen Benchmark werden – ähnlich wie die DSGVO die globale Datenschutzdiskussion geprägt hat. Unternehmen, die sich frühzeitig AI-Act-konform aufstellen, haben einen Wettbewerbsvorteil gegenüber denen, die in einige Jahre reaktiv nachkalibrieren müssen.

Fazit: Governance als Machtfrage

AI Governance ist keine technische Detailfrage. Sie ist die politische Kernfrage des digitalen Zeitalters: Wer hat die Macht, die Algorithmen zu definieren, die unser Leben formen? Und nach welchen Werten?

Europa hat die Antwort gegeben, die seinen Werten entspricht: Grundrechte, Transparenz, menschliche Würde. Andere geben andere Antworten. Die Herausforderung ist, in einer vernetzten Welt diese Antworten nicht gegeneinander ausspielen zu lassen, sondern einen globalen Minimalrahmen zu finden, der Menschenwürde schützt – unabhängig davon, wo der Server steht.

---

Über den Autor: Dirk Röthig ist CEO von VERDANTIS Impact Capital und folgt der Regulierung von Technologien im Kontext von Nachhaltigkeit und Governance. Er schreibt über KI-Regulierung, ESG-Standards und die Zukunft verantwortungsvoller Investments. Website: verdantis.capital | dirkroethig.com Kontakt: dirk.roethig2424@gmail.com