KI-Akzeptanz in der öffentlichen Verwaltung: LLM-Tools sinnvoll einführen und nutzen

(Generative) KI Digitale Transformation Nutzerzentrierung

Drei winzige Mitarbeitende befinden sich rund um einen Computermonitor. Eine Person tippt auf einem Laptop, ein anderer sucht etwas mit einer Lupe und die dritte verschiebt einen Ordner.

Quelle: magnific.com/pch.vector

Large Language Models können Verwaltungsarbeit als Assistenz unterstützen. Wirkung entsteht aber erst, wenn Mitarbeitende Nutzen erkennen, Vertrauen aufbauen und die Werkzeuge sicher in ihren Arbeitsalltag integrieren.

Large Language Models, kurz LLMs, sind die bekanntesten KI-Systeme auf dem Markt. Sie können zudem ohne große Vorkenntnisse mit natürlicher Sprache bedient werden. Den Zugang zu LLMs zu schaffen, ist für Organisationen ein einfacher erster Schritt – selbst in der öffentlichen Verwaltung. Doch ein freigegebenes Tool verändert noch keinen Arbeitsalltag. Erst wenn Mitarbeitende es bewusst in ihren Arbeitsprozessen einsetzen, wird die KI ein wirksamer Helfer.

Bereitstellung ist noch keine Nutzung

Die Einführung von LLMs benötigt gerade in der Verwaltung anfangs die Klärung wichtiger (sicherheits-)technischer Fragen – insbesondere nach dem EU AI Act:

Welches Tool ist sicher?
Welche Daten dürfen verarbeitet werden?
Wer bekommt Zugriff?
Welche Freigaben sind erforderlich?

Für Verwaltungen sind diese Fragen unverzichtbar. Ohne Datenschutz, IT-Sicherheit, Zuständigkeiten und klare Regeln darf ein LLM nicht in Arbeitsprozesse eingeführt werden.

Diese Voraussetzungen reichen aber nicht aus, dass ein KI-Tool wirklich hilft. Ein LLM kann beschafft, freigegeben und technisch erreichbar sein – und trotzdem kaum genutzt werden. Häufig entsteht dann eine Lücke zwischen Bereitstellung und Wirkung: Einige Beschäftigte werden zu Power Usern, andere testen punktuell, viele bleiben unsicher oder greifen lieber auf bekannte Arbeitsweisen zurück.

Das ist nicht automatisch Widerstand. Oft ist Zurückhaltung eine rationale Reaktion auf unklare Nutzenversprechen, fehlende Leitlinien oder fehlende Erfahrung mit den Grenzen des Systems. Akzeptanz bedeutet deshalb nicht nur, dass Mitarbeitende ein Tool grundsätzlich sinnvoll finden. Akzeptanz bedeutet, dass sie wissen, wann sie es einsetzen dürfen, welchen Nutzen es für ihre Aufgabe hat, wie Ergebnisse geprüft werden und wo die Verantwortung bleibt.

Zuerst: Die Grenzen von LLMs verstehen

LLMs können in der öffentlichen Verwaltung als Assistenzsysteme helfen: bei der Recherche, bei internen Vermerken, bei Sitzungsvorlagen, bei Textentwürfen, bei der Strukturierung von Wissen oder bei der verständlichen Aufbereitung von Informationen. Gerade dort, wo viele Informationen verarbeitet, geprüft und adressatengerecht formuliert werden müssen, liegt ihr praktischer Nutzen nahe.

Ihr Einsatz hat aber klare Grenzen. LLMs treffen keine rechtssicheren Entscheidungen, ersetzen kein fachliches Ermessen und übernehmen keine Verantwortung. Sie können Vorarbeiten beschleunigen und Beschäftigte bei wiederkehrenden Wissens- und Textaufgaben entlasten. Ob daraus tatsächliche Wirkung entsteht, entscheidet sich jedoch nicht bei der technischen Freigabe, sondern im Arbeitsalltag.

Zwischen Zugang und Nutzung liegt eine bewusste Entscheidung. Mitarbeitende fragen sich:

Hilft mir das Tool konkret?
Kann ich das Ergebnis prüfen?
Darf ich diese Informationen eingeben?
Wer verantwortet die weitere Verwendung?

Genau diese Abwägung macht LLM-Akzeptanz zu einem kritischen Faktor für jede Einführung.

Wie Verwaltungen LLM-Akzeptanz sinnvoll aufbauen

Am Anfang steht die wahrgenommene Leistungsfähigkeit: Mitarbeitende müssen erkennen, dass ein LLM ihre Arbeit konkret verbessert – etwa indem es Sachstände strukturiert, Entwürfe vorbereitet, Informationen verdichtet oder Formulierungsvarianten liefert. Eng damit verbunden ist die wahrgenommene Einfachheit. Wenn Nutzung kompliziert wirkt, Regeln unklar sind oder jeder Einsatz neue Rückfragen auslöst, sinkt die Bereitschaft zur Anwendung. Ein LLM wird eher akzeptiert, wenn der Einstieg verständlich, niedrigschwellig und in bestehende Arbeitsabläufe integrierbar ist.

Eine weitere Dimension ist der soziale Einfluss. Beschäftigte orientieren sich daran, ob Führung, Kollegium und Organisation den Einsatz fachlich legitimieren. Wird LLM-Nutzung als private Experimentierzone behandelt, bleibt sie unsicher. Wird sie dagegen verantwortungsvoll gerahmt, mit guten Beispielen verbunden und durch Führung eingeordnet, entsteht Orientierung.

Für LLMs kommen zwei Faktoren hinzu, die bei klassischen Softwareeinführungen weniger stark im Vordergrund stehen: Vertrauen und wahrgenommenes Risiko. Vertrauen bedeutet in der Verwaltung nicht, KI-Ausgaben ungeprüft zu übernehmen. Es bedeutet, Ergebnisse so einordnen und kontrollieren zu können, dass ihre weitere Nutzung fachlich verantwortbar bleibt. Gleichzeitig müssen Risiken sichtbar und handhabbar sein: LLMs können falsche Bezüge herstellen, unvollständige Antworten geben oder plausible Texte erzeugen, die fachlich nicht tragen. Hinzu kommen Datenschutz, Bias, IT-Sicherheit und Nachvollziehbarkeit.

Schließlich braucht Akzeptanz ermöglichende Rahmenbedingungen. Dazu gehören freigegebene Werkzeuge, sichere Umgebungen und klare Datenregeln. Noch wichtiger ist die begleitende Befähigung durch Schulung, Support und konkrete Use Cases. Diese Bedingungen legen die Grundlage, ob aus einer Nutzungsabsicht tatsächliche Nutzung wird.

Schrittweiser Aufbau von LLM-Akzeptanz / Quelle: IBM iX

Ein guter Rollout berücksichtigt heterogene Gruppen

Verwaltungen sind keine homogene Organisation: Leitung, Fachbereiche, IT, Recht, Personalentwicklung und Organisation bewerten LLMs unterschiedlich. Fachbereiche brauchen Use Cases und Prüfkriterien.

IT braucht Architektur, Sicherheitskonzept und Betriebsmodell.
Recht braucht klare Grenzen.
Führung braucht Kriterien, um Nutzung und Wirkung zu bewerten.
Organisation und Personalentwicklung brauchen Formate, die Qualifizierung, Rollenverständnis und Veränderung verbinden.

Ein gleichgeschalteter Rollout ist daher nicht die beste Lösung. Allgemeine Schulungen vermitteln zwar Grundlagen, beantworten aber nicht die bereichsspezifischen Fragen.

Akzeptanz entsteht aber durch passgenaue Ansprache und Unterstützung. Wer alle Beschäftigten mit demselben Narrativ anspricht, riskiert zudem zwei Effekte: Einige Gruppen bleiben unterfordert, weil sie nur Grundlagen hören. Andere bleiben unsicher, weil ihre eigentlichen Risiko- und Verantwortungsfragen offenbleiben.

Skepsis ist ein Qualitätssignal

Skepsis zeigt, dass Mitarbeitende die Anforderungen ihres Arbeitskontexts ernst nehmen. Wer mit komplexen Sachverhalten arbeitet, die Rechtsfragen, personenbezogene Daten, Förderentscheidungen oder Sicherheitsanforderungen umfassen können, prüft ein neues Assistenzsystem für mehr Automatisierung zu Recht genauer.

Diese Prüfung ist zurecht nötig. LLMs können sprachlich überzeugende Ergebnisse erzeugen, die fachlich falsch, unvollständig oder nicht hinreichend belegbar sind. Genau das ist aber der Kern richtiger Verwaltungsarbeit. LLM-Ergebnisse müssen am Ende immer nachvollziehbar, prüfbar und verantwortbar sein.

Die Fachgruppen sollten deshalb früh eingebunden werden. So wird Skepsis nicht wegmoderiert, sondern produktiv genutzt.

Rote Linien für LLM-Nutzung in der Verwaltung:

Keine ungeprüfte Übernahme von KI-Ergebnissen.
Keine Eingabe sensibler Daten in nicht freigegebene Systeme.
Keine Verschiebung fachlicher Verantwortung auf das Tool.
Keine entscheidungserhebliche Nutzung ohne klare rechtliche und organisatorische Grundlage.
Keine Schulung ohne Datenschutz, Prüfbarkeit und Verantwortungsfragen.

LLM-Akzeptanz orchestriert aufbauen

LLM-Akzeptanz entsteht nicht durch eine einzelne Maßnahme. Für Verwaltungen bedeutet das: Nutzen, Regeln, Qualifizierung und Messung müssen als zusammenhängender Einführungsprozess gestaltet werden.

Am Anfang steht ein konkretes Einsatzbild. Statt allgemein über KI-Potenziale zu sprechen, sollten Verwaltungen geeignete Aufgaben identifizieren: Recherche vorbereiten, Wissensstände zusammenfassen, Entwürfe strukturieren oder Varianten für Bürgerkommunikation entwickeln. Solche Beispiele zeigen, wo ein LLM als Assistenz sinnvoll ist – und wo nicht.

Darauf müssen sichere Nutzungspfade folgen. Mitarbeitende brauchen freigegebene Tools, klare Datenregeln, verständliche Leitlinien und kurze Wege bei Unsicherheit. Gute Regeln machen auch sichtbar, welche Nutzung ausdrücklich möglich ist und unter welchen Bedingungen Ergebnisse weiterverwendet werden dürfen.

Qualifizierung sollte anschließend zielgruppenspezifisch ansetzen. Einsteigerinnen und Einsteiger brauchen Orientierung und einfache Beispiele. Fachbereiche benötigen Prüfkriterien und realistische Use Cases. IT, Datenschutz und Recht brauchen Kontroll- und Freigabeprozesse. Führungskräfte brauchen ein gemeinsames Verständnis davon, wie LLM-Nutzung unterstützt, bewertet und gesteuert wird.

Zum Rollout gehört außerdem eine Rückkopplungsschleife. Aussagekräftiger als die Zahl der Lizenzen sind Indikatoren wie aktive Nutzung, wiederkehrende Nutzung, geeignete Use Cases, Zufriedenheit, Supportanfragen und sichtbare Barrieren. So wird Akzeptanz steuerbar: Verwaltungen erkennen, wo die Nutzung gelingt, wo Unsicherheit besteht und wo Regeln, Schulungen oder Beispiele nachzuschärfen sind.

Leitfragen für die Einführung:

Welche Aufgaben sollen unterstützt werden?
Welche Daten dürfen genutzt werden?
Wie werden Ergebnisse geprüft?
Welche Zielgruppen brauchen welche Formate?
Woran erkennen wir, ob das Tool tatsächlich genutzt wird?

Wirkung gelingt nur mit Akzeptanz

Für Verwaltungen heißt das: LLM-Akzeptanz entsteht im Zusammenspiel aus Nutzen, Bedienbarkeit, sozialer Legitimation, Vertrauen, Risikobewusstsein und organisatorischer Ermöglichung. Akzeptanz ist die Basis, auf der Wirkung entstehen kann.

Akzeptanzprozess von LLMs in der Verwaltung / Quelle: IBM iX

Der entscheidende Punkt ist nicht, ob eine Verwaltung ein LLM bereitstellt. Entscheidend ist, ob Mitarbeitende befähigt werden, bewusst zu entscheiden. Indem sie es in ihren Arbeitsalltag integrieren können und die richtigen Rahmenbedingungen ihnen Sicherheit geben, kann ein LLM-Assistenzsystem spür- und messbare Entlastung in die Verwaltung tragen. Wer Akzeptanz nicht als Beiwerk versteht und die richtigen Maßnahmen berücksichtigt, schafft die Grundlage für produktive, sichere und nachvollziehbare KI-Nutzung in der Verwaltung.

Autoren: Mattes Gonschorek und Reiner Quirin

Fragen und Antworten zum Thema

LLM-Akzeptanz bedeutet, dass Mitarbeitende ein Sprachmodell nicht nur grundsätzlich befürworten, sondern es in geeigneten Aufgaben bewusst, sicher und prüfbar nutzen können.

Weil Mitarbeitende im Arbeitsalltag entscheiden müssen, ob das Tool für die konkrete Aufgabe hilfreich, erlaubt und verantwortbar ist. Ohne Nutzen, Regeln und Vertrauen bleibt Nutzung oft punktuell.

Vertrauen heißt nicht, Ergebnisse ungeprüft zu übernehmen. Es bedeutet, dass Ausgaben nachvollziehbar genug sind, um sie fachlich zu prüfen und verantwortbar weiterzuverwenden.

Neben Lizenzzahlen sollten aktive Nutzung, Wiederkehrraten, Use-Case-Tiefe, Zufriedenheit, Supportanfragen und wahrgenommene Barrieren betrachtet werden.