KI soll künftig behördliche Bescheide erstellen dürfen. Das Bundeskanzleramt hat einen Gesetzesentwurf zur Automatisierung von Verwaltungsverfahren vorgestellt. Die Grundrechts-NGO epicenter.works kritisiert den Gesetzestext stark. Auch die Grünen wollen derzeit nicht zustimmen.

Ein scheinbar gültiger Baubescheid, der später für ungültig erklärt wird und massive Kosten verursacht; eine gewährte Sozialhilfe, die nach einem Routinecheck Monate später aufgehoben wird und zu hohen Rückzahlungen führt. Das sind nur zwei Horrorszenarien, die laut Kritikern bald Realität werden könnten.

Die Rede ist vom Einsatz künstlicher Intelligenz in der österreichischen Verwaltung. Ein Gesetzesentwurf zur Änderung des bestehenden Allgemeinen Verwaltungsverfahrensgesetztes von 1991 soll großflächigen KI-Einsatz bald für Verwaltungsverfahren möglich machen. Zwei Wochen soll man in Zukunft Zeit haben, um nach eigener Recherche zu entscheiden, ob ein Bescheid korrekt ist oder nicht.

Vorgelegt wurde der Entwurf vom Bundeskanzleramt. Die Staatssekretäre Alexander Pröll (ÖVP), Sepp Schellhorn (NEOS) und Jörg Leichtfried (SPÖ) präsentieren ihn gemeinsam mit dem Verhandlungsvertreter des Landes Tirol Jakob Wolf. Der zuständige Digitalisierungsstaatssekretär Pröll sieht ihn als Chance für mehr Effizienz und als Erleichterung für die Bürger. Schellhorn (NEOS) bedachte den Teilersatz der Beamten durch KI mit den Worten „strukturell schlanker, schlauer und schneller“.

Expertinnen warnen vor Risiken

Ende April war die offizielle Frist der Stellungnahmen von Expertinnen zum vorgelegten Entwurf zu Ende. Die Kritik fällt deutlich aus. So macht unter anderem der Verband österreichischer Richterinnen auf eine „erhebliche Gefahr“ aufmerksam. Es könnte keine ausreichende inhaltliche Prüfung von gerichtlich geltenden Verfahren mehr geben. Der Klagsverband zur Durchsetzung der Rechte von Diskriminierungsopfern betont die Gefahr von „diskriminierenden Auswirkungen auf bestimmte Personengruppen“, die seit Jahren ein bekanntes Problem von künstlicher Intelligenz sind.

Sebastian Kneidinger ist Teil des epicenter.works-Teams. Sie setzen sich für Grund- und Menschenrechte im digitalen Zeitalter ein. Epicenter.works hat ebenfalls eine ausführliche Stellungnahme zum Entwurf veröffentlicht und nicht mit Kritik gespart. Im Gespräch mit ZackZack legt der Grundrechtsexperte nach: „Der Staat würde mehr von diesem Gesetz profitieren als die Bürgerinnen. Natürlich bietet es für den Staat großes Einsparungspotential, doch dabei werden die Risiken auf die Bevölkerung abgewälzt.“

Etwa soll man zwischen einer automatisierten und klassischen Bearbeitung wählen können. Doch Kneidinger sieht hier das Risiko, dass man durch einen starken Abbau von Beamtinnen und mangelnden Alternativen, dazu gedrängt wird sich für die vollständig automatisierten Systeme zu entscheiden. Gehofft wird auf eine grundlegende Änderung, statt bloß einer oberflächlichen Anpassung. „Wir werden sehen, wie sehr der Staat den Schutz der Bürger ernst nimmt“, betont Kneidinger. „Niemand ist gegen Innovation, aber beachtet man die Risiken, so würde hier vor allem der Staat profitieren.“

KI erfindet Dinge

Eine Studie der Yale University aus dem Jahr 2025 zeigt, dass die Halluzinationsquote bekannter Large Language Modell-Systeme (LLM) zwischen 17 und 33% liegt. Der Gesetzesentwurf gibt den Bürgern nur zwei Wochen Zeit, um einen Fehler zu melden. „Diese sind für die meisten Menschen fast unmöglich zu erkennen. Das größte Problem bei den Halluzinationen der KI ist, wie plausibel sie klingen, obwohl sie nicht plausibel sind“, merkt Kneidinger an. Es gibt bekannte Fälle, bei denen KI-Systeme juristische Literatur zitiert haben, die es so nicht gibt. Auch in Österreich soll Ähnliches bereits vorgekommen sein.

Potential gibt es bei der Nutzung von KI durchaus. Es „erleichtert den Zugang und kann vor allem Sprachbarrieren abbauen“, betont Kneidinger. KI könne hilfreich und unterstützend sein, die Frage sei jedoch, wie man es genau macht. Der Gesetzesentwurf spezifiziert aber nicht, in welchen Bereichen die KI konkret Anwendung finden soll.

Grüne: Derzeit keine Zustimmung

Aktuell werden die Stellungnahmen ausgewertet und vom Bundeskanzleramt geprüft. Der Entwurf geht dann ins Parlament, könnte davor noch inhaltlich verändert werden. Geplant ist eine verfassungsrechtliche Änderung, somit wäre eine Zustimmung von zwei Dritteln der anwesenden Abgeordneten notwendig. Das heißt: die Regierung benötigt die Stimmen von Grünen oder FPÖ. Erstere zeigen sich gegenüber ZackZack derzeit ablehnend: “Wir sind zu Gesprächen bereit, um das Gesetz zu verbessern, können zum jetzigen Zeitpunkt aber noch keine Zustimmung in Aussicht stellen”, so Süleyman Zorba. Bei der FPÖ gab man trotz Nachfrage kein Statement ab.

Titelbild: WikiCommons: Bernhard Holub – Eigenes Werk, CC BY-SA 4.0