EU AI Act und KI in der Verwaltung:
Was Kommunen jetzt wissen sollten

EU AI Act und KI in der Verwaltung | Fachvorträge der regisafe Akademi...

Künstliche Intelligenz hält zunehmend Einzug in den Verwaltungsalltag. Sie unterstützt beispielsweise dabei, Informationen in Dokumenten zu erschließen, Inhalte zusammenzufassen oder wiederkehrende Aufgaben effizienter zu bearbeiten. Gleichzeitig entstehen neue Fragen: Welche Anforderungen gelten für den Einsatz von KI? Welche Risiken müssen berücksichtigt werden? Und welches Wissen benötigen Mitarbeitende, die mit KI-Systemen arbeiten?

Mit dem EU AI Act hat die Europäische Union einen einheitlichen Rechtsrahmen für Künstliche Intelligenz geschaffen. Er betrifft nicht nur Unternehmen, die KI entwickeln. Wer ein KI-System in eigener Verantwortung beruflich nutzt, gilt nach der Verordnung als „Betreiber“. Das schließt auch Kommunalverwaltungen ein. Für sie bedeutet das, sich zunächst einen Überblick über die bereits eingesetzten KI-Systeme zu verschaffen. Dabei ist zu klären, welche Aufgaben die Systeme übernehmen, welche Daten verarbeitet werden und welche rechtlichen Anforderungen sich aus dem jeweiligen Einsatz ergeben.

Nicht jede KI ist gleich: Der risikobasierte Ansatz

Der EU AI Act verfolgt einen risikobasierten Ansatz. Entscheidend ist also nicht allein, dass eine Verwaltung KI einsetzt, sondern insbesondere, wofür sie eingesetzt wird. Dabei unterscheidet der EU AI Act verschiedene Risikostufen. Bestimmte KI-Praktiken sind verboten, für sogenannte Hochrisiko-KI-Systeme gelten umfangreiche Anforderungen und für weitere Systeme bestehen beispielsweise Transparenzpflichten. Viele KI-Anwendungen fallen dagegen nicht unter die besonderen Anforderungen für Hochrisiko-Systeme. Für die Verwaltungspraxis ist deshalb die Betrachtung des konkreten Anwendungsfalls wichtig: Ein KI-Assistent wie GenAI, der beim Erstellen oder Zusammenfassen von Dokumenten unterstützt, ist hinsichtlich seiner Risiken und der damit verbundenen rechtlichen Anforderungen anders zu bewerten als ein KI-System, das beispielsweise zur automatisierten Bewertung personenbezogener Sachverhalte eingesetzt wird.

Was können Kommunen jetzt tun?

Der Einstieg muss nicht mit einem umfangreichen KI-Regelwerk beginnen. Sinnvoll ist zunächst, Transparenz über den eigenen Einsatz von KI zu schaffen. Welche Systeme und KI-Funktionen werden bereits genutzt? Für welche Aufgaben? Welche Daten werden dabei verarbeitet? Und wer trägt die Verantwortung für ihren Einsatz? Darauf aufbauend können Kommunen Zuständigkeiten definieren, Anwendungen hinsichtlich ihrer Risiken einordnen und festlegen, wie Ergebnisse Künstlicher Intelligenz kontrolliert werden. Je nach eingesetztem System können darüber hinaus weitergehende Anforderungen des EU AI Acts sowie Vorgaben aus Datenschutz und Informationssicherheit relevant werden.

Ein weiterer wichtiger Baustein ist der gezielte Aufbau von KI-Kompetenz. Dabei muss nicht jeder Mitarbeitende dasselbe Wissen besitzen. Entscheidend sind die jeweilige Aufgabe, der konkrete Einsatzbereich und die verwendeten KI-Systeme.

Wissen schafft Sicherheit im Umgang mit KI

Der EU AI Act schafft einen regulatorischen Rahmen – der verantwortungsvolle Umgang mit KI entsteht jedoch in der täglichen Praxis. Wer weiß, welche Systeme eingesetzt werden, Risiken und Grenzen kennt und klare Verantwortlichkeiten schafft, legt eine wichtige Grundlage für den sicheren und sinnvollen Einsatz von KI in der Verwaltung.

Die regisafe Akademie unterstützt Verwaltungen beim Aufbau dieses Wissens mit zwei aufeinander abgestimmten Fachvorträgen.

Der Fachvortrag „KI in der Verwaltung: Einstieg“ richtet sich an interessierte Mitarbeitende aus allen Bereichen der Kommunalverwaltung. Vorkenntnisse sind nicht erforderlich. Vermittelt werden grundlegende KI-Begriffe, aktuelle Einsatzmöglichkeiten und die Grenzen der Technologie. Ein weiterer Schwerpunkt liegt auf der kritischen Prüfung von KI-Ergebnissen und der Bedeutung menschlicher Kontrolle. Ergänzend erhalten die Teilnehmenden einen Überblick über die Risikoklassen des EU AI Acts sowie grundlegende Datenschutzaspekte.

Der Fachvortrag „KI in der Verwaltung: Vertiefung“ richtet sich insbesondere an Digitalisierungsbeauftragte, IT-Koordinatoren und Projektleitungen. Im Mittelpunkt stehen die rechtlichen und organisatorischen Anforderungen beim Einsatz von KI-Systemen in der Verwaltung. Dazu gehören die Abgrenzung zwischen Anbieter- und Betreiberpflichten, die Risikoklassifizierung anhand eines praxisorientierten Prüfschemas sowie Fragen zu Datenschutz und Governance. Darüber hinaus behandelt der Vortrag die strukturierte Einführung von KI-Anwendungen und die Einbindung der Mitarbeitenden in den Veränderungsprozess.

Zu den Fachvorträgen der regisafe Akademie
Kontakt Newsletter