KI in der deutschen Verwaltung ist nicht mehr nur ein Modernisierungsversprechen. Mit dem Agentic AI Hub testet das Bundesministerium für Digitales und Staatsmodernisierung (BMDS), wie agentische KI-Systeme Anträge prüfen, Dokumente analysieren und Entscheidungsvorschläge für Behörden vorbereiten können.
Der politische Druck ist nachvollziehbar: Personalmangel, Papierprozesse und steigende Erwartungen an digitale Services treffen auf eine Verwaltung, die vielerorts noch mit zersplitterten Daten und uneinheitlichen Systemen arbeitet. Genau deshalb ist der "Kollege KI" kein reines Technologieprojekt. Er ist ein Test dafür, ob Deutschland KI-Pilotprojekte in Behörden rechtskonform, messbar und organisatorisch sauber betreiben kann.
KI Verwaltung Deutschland 2026: Was der Agentic AI Hub verspricht
Im Februar 2026 startete das BMDS den sogenannten Agentic AI Hub. Aus rund 400 Startups und 200 interessierten Kommunen wurden laut BMDS-Angaben 18 Pilotprojekte ausgewählt. Eine unabhängige Verifikation dieser Zahlen lag zum Redaktionszeitpunkt nicht vor. Der DigitalService des Bundes unterstützt die Umsetzung. Staatssekretär Thomas Jarzombek formulierte die Ambition laut Ministeriumsmitteilung so: "Wir wollen Start-ups eine Rampe in die Verwaltung bauen."
Die Beispiele zeigen, wie konkret die Pilotphase bereits ist. Forml arbeitet in Frankfurt und Düsseldorf an der automatisierten Prüfung von Wohnberechtigungsscheinen. Formfix unterstützt in Köln die Bearbeitung von Pflegeanträgen. Lector.ai verarbeitet im Neckar-Odenwald-Kreis eingehende Behördenpost über ein Vision-LLM, das gescannte Dokumente erkennt und kategorisiert. Diese Projekte greifen in reale Verwaltungsprozesse ein, die für Bürgerinnen und Bürger unmittelbare Folgen haben.
Digitalminister Karsten Wildberger bewirbt den Ansatz mit großen Zahlen: KI-Agenten könnten Genehmigungsverfahren "zu über 80 Prozent beschleunigen". Die Zahl klingt stark. Was fehlt, ist die Methodik dahinter: kein öffentlicher Vergleichsmaßstab, kein Referenzprozess, keine unabhängige Evaluationsgrundlage. Genau hier beginnt das Kernproblem der KI-Piloten in der öffentlichen Verwaltung.
Für die Behördenpraxis ist das entscheidend. Eine KI, die Eingangspost sortiert, hat ein anderes Risikoprofil als ein System, das einen Pflegeantrag fachlich vorbewertet. Ein Pilotprogramm muss diese Unterschiede sichtbar machen, statt alle Projekte unter dem Sammelbegriff "Kollege KI" zu führen.
Warum Behörden KI überhaupt suchen
Der Verwaltungsmangel ist real. Die Boomer-Generation geht in den kommenden Jahren in Rente, während der Nachwuchs nicht ausreicht, um die Lücken zu schließen. Gleichzeitig wächst der administrative Aufwand durch Förderprogramme, EU-Vorgaben und Erwartungen an digitale Services.
Im internationalen Vergleich steht Deutschland zusätzlich unter Druck. Estland gilt mit X-Road als Referenzfall für eine digitale Verwaltungsinfrastruktur, auf der KI-Dienste aufsetzen können. Österreich hat mit ELAK eine etablierte elektronische Akte, auf der KI-Piloten in Bundesministerien aufbauen. Die Schweiz geht vorsichtiger vor und prüft KI-Tools mit Fokus auf Datenschutz und Rechtskonformität, bevor produktive Systeme folgen.
Der Vergleich hat Grenzen. Estland hat 1,3 Millionen Einwohner und eine seit den 1990er-Jahren gewachsene Digital-Infrastruktur. Deutschland hat Föderalismus, Datenschutztradition und eine deutlich größere Verwaltungskomplexität. Genau deshalb ist der direkte Sprung zu autonomen KI-Agenten riskant, wenn Basisprozesse, Datenhaltung und Schnittstellen noch nicht stabil sind.
Die entscheidende Frage lautet also nicht, ob KI Behörden entlasten kann. Das kann sie. Die Frage lautet, ob die organisatorische Grundlage trägt, auf der solche Systeme laufen sollen.
Für Bürgerinnen und Bürger zählt am Ende nicht, ob ein Prozess mit KI schneller wirkt. Entscheidend ist, ob Anträge nachvollziehbar bearbeitet werden, ob Auskünfte stimmen und ob Fehler korrigierbar bleiben. Verwaltung digitalisiert nicht irgendeinen Workflow. Sie digitalisiert staatliche Entscheidungen.
EU AI Act: Warum KI in Behörden schnell Hochrisiko wird
KI in der öffentlichen Verwaltung ist kein rein technisches Thema. Der EU AI Act stuft KI-Systeme zur Antragsprüfung in Behörden als Hochrisiko-Anwendungen ein. Das ist folgerichtig, weil solche Systeme über Wohnraum, Pflegeleistungen oder andere existenzielle Güter mitentscheiden können.
Hochrisiko-KI muss erklärbar, protokolliert, überprüfbar und menschlich überwachbar sein. Sie darf keine Bevölkerungsgruppen systematisch benachteiligen. Menschliche Kontrolle darf nicht nur auf dem Papier stehen, sondern muss im Prozess funktionieren.
Ob die aktuellen Pilotprojekte diese Anforderungen bereits belastbar erfüllen, bleibt offen. Weder BMDS noch beteiligte Startups haben bisher detailliert offengelegt, wie Erklärbarkeit, Bias-Kontrolle und Evaluation umgesetzt werden. Grünen-Abgeordnete Rebecca Lenhard kritisierte öffentlich fehlende Transparenz und Evaluationsstandards.
Das ist kein akademisches Detail. Wenn ein System nach sechs Monaten schneller arbeitet, aber Fehler ungleich verteilt, schwer erklärbar oder rechtlich nicht sauber prüfbar sind, ist es kein Erfolg. Es ist ein schnelleres Risiko.
Praktisch bedeutet das: Schon in der Beschaffung müssen Logs, Datenqualität, Berechtigungen, menschliche Prüfung und Widerspruchsfähigkeit mitgedacht werden. Wer diese Punkte erst nach dem Pilot klärt, testet nicht Verwaltungstechnologie, sondern Verwaltungshaftung.
Signal der Woche abonnieren
Eine Nachricht. Eine Analyse. Jeden Freitag im Newsletter.
Kostenlos als Member. Gratis abonnieren
Die Grenzen: Black Box, Bias und Automation Bias
Drei Probleme entscheiden darüber, ob KI-Pilotprojekte in Behörden tragfähig werden.
Erstens: das Black-Box-Problem. Viele leistungsfähige KI-Systeme, besonders Large Language Models, lassen sich in ihrer Entscheidungslogik nicht vollständig Schritt für Schritt rekonstruieren. Für Behörden ist das heikel. Ein Bescheid muss begründbar sein. Eine nicht nachvollziehbare KI-Empfehlung kann rechtlich angreifbar werden, gerade mit Blick auf die Begründungspflicht nach § 39 VwVfG.
Zweitens: Bias. KI-Systeme lernen aus historischen Daten. Wenn diese Daten alte Ungleichheiten enthalten, kann ein System sie fortschreiben. Ein Wohnberechtigungsschein-System, das Anträge aus bestimmten Stadtteilen schlechter bewertet, wäre kein Effizienzproblem. Es wäre ein Verwaltungsrechts- und Vertrauensproblem.
Drittens: Automation Bias. Selbst wenn der Mensch formal entscheidet, übernehmen Menschen Maschinenempfehlungen unter Zeitdruck oft unkritisch. "Der Computer hat es so vorgeschlagen" wird dann zur faktischen Entscheidung. Dieser Effekt ist aus Luftfahrt, Medizin und Justiz bekannt. In der Verwaltung verschwindet er nicht.
Das Prinzip "Mensch entscheidet" reicht deshalb nicht. Es braucht Schulungen, Vier-Augen-Prinzipien, regelmäßige Audits und klare Eskalationsregeln. Sonst wird menschliche Kontrolle zur Unterschrift unter einer Maschinenempfehlung.
Was Tech-Optimisten zu Recht einwenden
Die Gegenposition verdient Beachtung. Verwaltungsreformer und Technologen argumentieren, dass die Risiken beherrschbar sind und die Kosten des Nichtstuns steigen. Menschen treffen in Behörden täglich schwer erklärbare oder uneinheitliche Entscheidungen. KI kann solche Prozesse auch sichtbarer, messbarer und überprüfbarer machen.
Außerdem ist Vollautomatisierung nicht zwingend das Ziel. Schon 30 bis 50 Prozent Automatisierung bei Routineaufgaben können Sachbearbeitende entlasten, ohne dass jede Entscheidung autonom getroffen wird. Das Risikoprofil einer Vorsortierung ist ein anderes als das einer vollautomatischen Entscheidung.
Diese Perspektive ist wichtig. Perfekte Systeme sind keine Voraussetzung für nützliche Systeme. Aber sie ändert nichts daran, dass der Nutzen nur zählt, wenn Grenzen, Verantwortlichkeiten und Evaluation klar sind. Wer KI-Agenten in Unternehmen oder Behörden einführt, braucht dafür eine belastbare Governance. Die Grundlogik ist ähnlich wie bei KI-Agenten im Unternehmen: Rechte begrenzen, Risiken messen, menschliche Freigaben dort platzieren, wo Folgen entstehen.
Was jetzt gebraucht wird: Standards, Transparenz, langsame Skalierung
Die 18 Pilotprojekte des Agentic AI Hub sind ein sinnvoller erster Schritt. Damit daraus skalierbare Systeme werden, braucht es mehr als Pressemitteilungen und Beschleunigungsversprechen.
Erstens: verbindliche Evaluationsstandards. Vor dem Pilot muss klar sein, welche Metriken zählen: Bearbeitungszeit, Fehlerquote, Gleichbehandlung verschiedener Gruppen, Bürgerzufriedenheit, Nachvollziehbarkeit und Widerspruchsquote. Unabhängige Prüfinstanzen sollten Zugang zu relevanten Systemdaten haben.
Zweitens: realistische Infrastruktur. KI-Tools für die öffentliche Verwaltung können nur so gut sein wie die Datenbasis. Solange Akten in verschiedenen Systemen liegen oder auf Papier existieren, bleibt der Automatisierungsgrad begrenzt und die Fehleranfälligkeit hoch. Basisdateninfrastruktur ist weniger glamourös als ein KI-Pilot, aber sie ist die Voraussetzung.
Drittens: saubere Beschaffung. Behörden dürfen nicht nur Modellleistung einkaufen. Sie brauchen Anforderungen an Dokumentation, Datenverarbeitung, Schnittstellen, Exit-Strategien und Auditierbarkeit. Sonst entsteht die nächste Abhängigkeit von proprietären Systemen, nur diesmal mit KI-Etikett.
Viertens: langsame Skalierung. Achtzehn Piloten in heterogenen kommunalen Umgebungen sind keine ausreichende Grundlage für einen nationalen Rollout. Nicht bei Hochrisiko-Anwendungen, die Wohnraum, Pflegeleistungen und andere existenzielle Güter berühren.
Bekannte Projekte wie BärGPT in Berlin oder LLMoin bei Dataport in Hamburg zeigen einen mittleren Weg: interne Sprachmodelle für Recherche und Textentwurf, mit klaren Grenzen dessen, was automatisiert entschieden werden darf. Das ist weniger spektakulär als autonome Agenten, aber rechtlich sauberer und politisch robuster.
Die eigentliche Frage ist nicht, ob KI in der deutschen Verwaltung eingesetzt werden soll. Sie ist längst da. Die Frage ist, wie der Übergang gestaltet wird und ob politische Ungeduld die notwendige methodische Sorgfalt überholt.
KI in der Verwaltung ist kein Technikproblem mehr, sondern ein Governance-Test. Der Agentic AI Hub ist als Pilot richtig. Aber 80-Prozent-Versprechen ohne offengelegte Methodik sind kein Beweis, sondern ein Warnsignal. Wer den "Kollege KI" wirklich will, muss erst Infrastruktur, Rechtskonformität und Kontrolle ernst nehmen. Sonst wird aus dem Beschleuniger ein sehr deutscher Bumerang.
Quellen:
