KI in der öffentlichen Verwaltung erproben und Beschäftigte bei der rechtssicheren Nutzung unterstützen

I. Ausgangslage

Die Nutzung von Künstlicher Intelligenz (KI) ist ein wichtiger Baustein für die weitere Digitalisierung der öffentlichen Verwaltung. Um sicherzustellen, dass Nordrhein-Westfalen von Anfang an Vorreiter der KI-Nutzung in der Verwaltung ist, muss das Land bereits heute damit beginnen, den Einsatz von KI in der Verwaltung zu erproben, um frühzeitig Erfahrungswerte zu gewinnen und KI-Anwendungen zum Vorteil der Bürgerinnen und Bürger effizient nutzen zu können.

Dabei müssen auch die Beschäftigten des öffentlichen Dienstes in dieser Erprobungsphase Unterstützung durch ihren Dienstherrn erfahren: Das Land Nordrhein-Westfalen muss den Bediensteten von Anfang an durch fortlaufende Schulungen die rechtssichere Nutzung von KI-Anwendungen ermöglichen.

Die Nutzung von KI-Anwendungen in der öffentlichen Verwaltung wird bei unseren europäischen Nachbarn unterschiedlich gehandhabt: Während im Mai 2023 die italienischen Datenschutzbehörden ChatGPT wegen daten- und jugendschutzrechtlicher Bedenken in Italien gesperrt haben, hat in Großbritannien im März 2023 die britische Ministerin für Wissenschaft und Technologie, Michelle Donelan, den künftigen Einsatz von Textrobotern wie ChatGPT in der Regierungsarbeit für möglich gehalten.

In Nordrhein-Westfalen ist nicht ausdrücklich geregelt, ob, wann und wie die Beschäftigten des öffentlichen Dienstes bei der Erteilung von Auskünften oder dem Erlass von Verwaltungsakten ChatGPT nutzen dürfen. Für die Landes- und Kommunalbediensteten braucht es deshalb eine Regelung auf Landesebene.

Inwieweit die EU-KI-VO, die sich derzeit in der Abstimmung befindet, hierauf abschließende Antworten geben kann, ist noch ungewiss, sodass zunächst der Landesgesetzgeber gefragt
ist.

Andere Institutionen sind sich dieser Problematik bereits bewusst, bereiten sich vor und handeln: Nachdem der Deutsche Journalisten Verband (DJV) bereits klare Richtlinien für den Einsatz von ChatGPT für journalistische Inhalte gefordert hat und erste Hochschulen ausdrückliche Regeln für Studentinnen und Studenten sowie den Lehrkörper eingeführt haben, muss auch der Landesgesetzgeber für den Bereich der landeseigenen und kommunalen Verwaltung den Einsatz von ChatGPT oder anderen generativen KI-Systemen mit Richtlinien steuern.

Handlungsempfehlungen für Bedienstete sind ein erster Schritt

Zunächst sollten für Mitarbeiterinnen und Mitarbeiter der öffentlichen landeseigenen und kommunalen Verwaltung Handlungsempfehlungen zum Umgang mit ChatGPT sowie andere KI-Tools (z.B. Bildgeneratoren) formuliert werden. Da KI-Anwendungen derzeit laufend erweitert werden und neue KI-Anwendungen auf den Markt kommen, erscheint die Festlegung einer Positivliste oder eine finale Festlegung von Handlungsregeln nicht sachgerecht. Vielmehr ist es erforderlich, die Handlungsempfehlungen laufend fortzuentwickeln.

Damit die öffentliche Verwaltung weiter effizient und bürgerfreundlich arbeiten kann, sollte auch die Verwendung von personenbezogenen Daten für KI-Anwendungen erprobt werden. Dabei muss der Schutz personenbezogener Daten gewährleistet werden. Durch Aufträge der öffentlichen Hand an deutsche und europäische KI-Startups kann es gelingen, die Technologie so weiterzuentwickeln, dass diese in der öffentlichen Verwaltung sinnvoll eingesetzt und mit dem Datenschutz vereinbar ist.

Transparenz gegenüber den Bürgerinnen und Bürger über die Verwendung von KI ist notwendig

Die Verwaltung sollte mit der Nutzung von KI-Systemen auch gegenüber den Bürgerinnen und Bürgern transparent auftreten. Das hat auch die EU erkannt und in ihrem Entwurf zur geplanten KI-Verordnung festgeschrieben. Denn mit der Geltung der KI-Verordnung (sog. AI Act) werden zusätzlich konkrete Transparenzpflichten zu beachten sein. So verpflichtet Art. 52 des aktuellen Entwurfs der KI-VO die Anbieter bzw. Nutzer von KI-Systemen in unterschiedlichen Konstellationen anzugeben, wenn eine Person mit einem KI-System kommuniziert. Und werden Inhalte derart von einer Künstlichen Intelligenz „manipuliert“, dass sie wirklichen Personen, Gegenständen, Orten oder anderen Einrichtungen oder Ereignissen merklich ähneln und so fälschlicherweise als echt oder wahrhaftig erscheinen, ist die Verwendung von KI zwingend offenzulegen.

Die öffentliche Verwaltung sollte diese Transparenzanforderungen bereits vor Inkrafttreten der KI-Verordnung erfüllen und ihre Mitarbeiterinnen und Mitarbeiter dazu anhalten, stets (z.B. in der Kundenkommunikation) anzugeben, wenn ein Werk (z.B. ein Brief oder eine E-Mail) von einem KI-System erstellt wurde oder eine KI-Anwendung bei der Erstellung unterstützend genutzt wurde.

II. Beschlussfassung:

Landtag beauftragt die Landesregierung,

• geeignete verbindliche Richtlinien für die öffentliche Verwaltung einzuführen, um rechtliche Risiken beim Einsatz von KI-Systemen wie ChatGPT im Rahmen der Nutzung durch die öffentlichen Verwaltung zu vermeiden bzw. zu reduzieren.
   
• durch die Vergabe von Aufträgen an deutsche und europäische KI-Startups, die Verwendung von personenbezogenen Daten für KI-Anwendungen zu erproben und dadurch die Technologie so weiterzuentwickeln, dass diese in der öffentlichen Verwaltung sinnvoll eingesetzt und mit dem Datenschutz vereinbar ist.
   
• Fortbildungsangebote für Beschäftigte der öffentlichen landeseigenen und kommunalen Verwaltung zum rechtssicheren Umgang mit KI-System einzuführen.