Vom Regelwerk zum souveränen Gestalten:
Wie der EU AI Act zum Sprungbrett für mehr digitale Souveränität wird
Quelle: magnific.com / pch.vector
Die europäische KI-Verordnung (EU AI Act) markiert eine enorme Aufgabe für den Einsatz künstlicher Intelligenz in Organisationen – besonders in der öffentlichen Verwaltung. Behörden müssen KI-Systeme verantwortungsvoll und rechtssicher einsetzen, deren Funktionsweise transparent dokumentieren und gezielt KI-Kompetenzen im Haus aufbauen. Wir zeigen, wie aus regulatorischen Vorgaben souveränes Gestalten werden kann.
Der Zeitdruck ist hoch. Seit dem 2. Februar 2025 greifen bereits die allgemeinen Vorschriften der Verordnung, darunter Artikel 4 zur KI-Kompetenz oder verbotene AI-Praktiken nach Artikel 5. Der nächste große Umsetzungsblock folgt im August 2026, mit Anforderungen an Hochrisiko-KI-Systeme und Transparenzpflichten nach Artikel 50. Bis 2. August 2027 tritt die Verordnung vollständig in Kraft.
„Die Anbieter und Betreiber von KI-Systemen ergreifen Maßnahmen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen, wobei ihre technischen Kenntnisse, ihre Erfahrung, ihre Ausbildung und Schulung und der Kontext, in dem die KI-Systeme eingesetzt werden sollen, sowie die Personen oder Personengruppen, bei denen die KI-Systeme eingesetzt werden sollen, zu berücksichtigen sind.“
EU AI Act, Artikel 4
Im Umgang mit neuen Regeln dominiert in der Praxis oft eine klassische Checklisten-Mentalität: Behörden zerlegen rechtliche Vorgaben in einzelne Maßnahmen und haken sie Punkt für Punkt ab – mit dem Ziel, alle Vorschriften zu erfüllen. Dieser Fokus auf Compliance ist richtig und notwendig. Doch die KI-Verordnung bietet mehr: Sie eröffnet konkrete Chancen, um strategische Ziele der Verwaltung gezielt voranzutreiben. Richtig genutzt, kann ihre Umsetzung die digitale Souveränität stärken, den systematischen Aufbau von KI-Kompetenzen fördern und Prozesse und IT-Architekturen nachhaltig modernisieren.
1. Die KI-Verordnung als Startschuss für echte Souveränität
Die KI-Verordnung verlangt nachvollziehbare, transparente und sicher überwachbare KI-Systeme. Verwaltungen müssen deshalb bewusst entscheiden, welche Technologien, Datenflüsse und Verantwortlichkeiten sie wählen – und dies klar dokumentieren. Ein wertvoller Nebeneffekt: Es wird sichtbar, wo Know-how fehlt, Black-Box-Lösungen dominieren oder externe Dienstleister zu viel Einfluss haben.
Genau hier liegt eine oft unterschätzte Chance der Verordnung für Behörden, die mehr Kontrolle – mehr Souveränität – über ihre eigenen Strukturen und Systeme haben wollen. Sie zwingt Organisationen dazu, Rollen sauber zu klären: intern, etwa zwischen Fachbereich, IT, Informationssicherheit, Rechtsstelle, aber auch extern, zwischen Behörden und ihren Dienstleistern.
Die KI-Verordnung kann somit ein Startschuss sein, um das Fundament für digitale Souveränität zu legen. Gerade für die öffentliche Verwaltung heißt das: weniger Abhängigkeit von schwer prüfbaren Einzellösungen, mehr Transparenz über Datenflüsse, Zuständigkeiten und technische Schnittstellen.
2. KI-Kompetenz strukturell und kulturell aufbauen
Die Verordnung formuliert diesen Anspruch ausdrücklich: Artikel 4 verpflichtet Anbieter und Betreiber von KI-Systemen dazu, „nach besten Kräften […] ein hinreichendes Maß an KI-Kompetenz“ bei ihren Mitarbeitenden, Kunden und Dienstleistenden sicherzustellen. Gemeint ist nicht nur ein Grundverständnis von Technologie, sondern auch ein Bewusstsein für den sachgerechten Umgang mit KI im konkreten Einsatzkontext.
Gerade für einfache GenAI-Anwendungen ist das wichtig: Die Kommission verweist im Kontext von Artikel 4 ausdrücklich darauf, dass Beschäftigte auch bei alltäglicher Nutzung der KI für Textarbeiten über spezifische Risiken wie Halluzinationen informiert sein sollten. Die Definition von „KI-Kompetenz“ in Artikel 3 Nr. 56 sowie Erwägungsgrund 20 unterstreichen, dass es dabei um Wissen, Verständnis und Urteilsfähigkeit im Umgang mit KI geht – nicht nur um Tool-Schulungen.
Die Schlüsselfrage zu Artikel 4 lautet, was „ausreichend“ ist. Das hängt von der jeweiligen Rolle ab. Für alle Mitarbeitenden braucht es Grundlagenwissen zu Funktionsweise, Grenzen und typischen Fehlmustern von KI. Fachverantwortliche und Produktverantwortliche sollen beurteilen können, wo KI Mehrwert schafft, wo Risiken entstehen und wann menschliche Entscheidungshoheit gewahrt bleiben muss – insbesondere wenn es um Hochrisiko-KI geht, etwa wenn KI bei der Zuteilung von öffentlichen Leistungen eingesetzt würde. Technische Rollen benötigen vertieftes Wissen in Richtung Datenqualität, Robustheit und Überwachung. Recht, Datenschutz, Informationssicherheit und Compliance wiederum brauchen ein klares Verständnis der regulatorischen Anforderungen, der Verantwortlichkeiten und der Nachweispflichten. Die Kommission selbst betont, dass KI-Kompetenz rollen-, risiko- und kontextbezogen ausgestaltet werden soll und kein starres Einheitsmodell kennt.
Wer so verfährt, kann KI-Kompetenz nicht nur auf Compliance zuschneiden, sondern gezielt die Handlungsfähigkeit der Mitarbeitenden im Umgang mit KI und neuen Technologien stärken. So wird KI-Kompetenz zum Hebel für die Leistungs- und Zukunftsfähigkeit der gesamten Organisation.
3. Prozesse und Architekturen nachhaltig modernisieren
Die Umsetzung der KI-Verordnung zwingt Verwaltungen also, Datenqualität, Schnittstellen, Dokumentation, Monitoring und Entscheidungswege zu verbessern – mit zentralen Verzeichnissen für Modelle und Use Cases, nachvollziehbaren Audit Logs, klar definierten Qualitätskriterien für Daten und standardisierten Schnittstellen für den sicheren Austausch zwischen Verfahren. Das ist auch deshalb relevant, weil typische KI-Risiken inzwischen gut bekannt sind – von Halluzinationen über unklare Datenherkunft bis hin zu neuen Abhängigkeiten von großen Foundation- und General-Purpose-AI-Modellen. Die KI-Verordnung antwortet darauf nicht mit pauschalen Technologieverboten, sondern mit klar definierten Leitplanken, die auch menschliche Aufsicht beinhalten.
Im Kern geht es um Rechtssicherheit. Doch wenn Behörden diese Grundlagenarbeit in ein klares Zielbild einbetten, das Funktionen und Leistungen organisationsweit erfasst, modernisieren sie auf dieser Basis Prozesse und Architekturen nachhaltig. Und dies kann auch die Souveränität messbar machen, weil Verwaltungen den Anteil offener Standards und wiederverwendbarer Bausteine, den Grad dokumentierter Datenflüsse, die Qualität ihrer Exit-Strategien für zentrale Systeme oder den Umfang eigener Steuerungs- und Prüfungskompetenz erfassen.
Wer diese Anforderungen klug umsetzt, baut also zugleich an einer moderneren Verwaltungsarchitektur. Nachvollziehbare Dokumentation und offene Schnittstellen verzahnen digitale Abläufe. Bisher getrennte Bereiche wachsen zusammen, interoperable Schnittstellen erleichtern die verwaltungsübergreifende Transformation. Bewährte Lösungen lassen sich nachnutzen, weiterentwickeln und integrieren. Voraussetzung dafür ist allerdings eine Beschaffung, die Nachnutzung gezielt ermöglicht. Gleichzeitig sinkt so das Risiko neuer Herstellerabhängigkeiten, während der wirtschaftliche Betrieb verbessert wird. Die europäische KI-Verordnung hilft richtig genutzt mit, eine moderne, kohärente Verwaltungslandschaft zu erreichen.
Fazit
Die KI-Verordnung verlangt beim KI-Einsatz überprüfbare Steuerungsfähigkeit, Transparenz, Eskalationswege und Qualitätskontrolle. Daraus entsteht für die Behörden ein Modernisierungsimpuls in allen Bereichen. Sie sollten die Maßnahmen aus der Verordnung direkt in bestehende oder neue Digitalisierungs- und Transformationsstrategien einbinden und mit messbaren Indikatoren verknüpfen. Damit stellen die Behörden sich nicht nur regelkonform und KI-fähig auf – von einfachen Anwendungsfällen wie Dokumentenklassifikation bis zur Assistenz bei der Bescheiderstellung oder in der Bürgerkommunikation, sondern nutzen auch den strategischen Wert der KI-Verordnung wirklich.
Autor*innen: Victoria Boeck und Urs Bellermann
Möchten Sie mehr erfahren?
Ich freue mich auf den Austausch mit Ihnen. Gehen wir die Transformation Ihrer Organisation gemeinsam an!
