Künstliche Intelligenz (KI) hat sich in den letzten Jahren stark entwickelt (Hjaltalin & Sigurdarson, 2024). Besondere Aufmerksamkeit erhielt die Technologie durch die Veröffentlichung des Chatbots ChatGPT von OpenAI im November 2022 (Chat OpenAI, o. J. Nach nur zwei Monaten verzeichnete die Plattform bereits 100 Millionen aktive monatliche Nutzer (MDR, 2023). Die Nutzung von KI eröffnet aber nicht nur der Gesellschaft und Wirtschaft, sondern auch dem öffentlichen Sektor neue Möglichkeiten und erweitert die Möglichkeiten der Digitalisierung (Wirtz & Weyerer, 2019). So kann ihr Einsatz die Qualität der Dienstleistungen und der Entscheidungsfindung erhöhen, die Effizienz steigern, Arbeitsprozesse automatisieren sowie den Verwaltungsaufwand verringern (Eggers et al., 2017). Auch in Unternehmen wird immer mehr KI genutzt. Laut der Studie „Unlocking Europe’s AI Potential in the Digital Decade“ im Auftrag der Amazon Web Services (AWS) ist der Anteil der Unternehmen in Deutschland, die KI einsetzen, von 2022 auf 2023 um 29% und damit auf 36% gestiegen (Amazon, 2024). Für den weltweiten Markt für künstliche Intelligenz ist von 2023 bis 2032 eine jährliche Wachstumsrate von 19% berechnet worden (Precedence Research, 2023). Das verdeutlicht die große Rolle, die KI schon jetzt in Organisationen spielt, und ihre Bedeutung wird in den nächsten Jahren noch deutlich zunehmen. Durch die digitalen Transformationen in vielen Unternehmen wachsen auch die Anforderungen an die Regierung, ihre Dienste zu digitalisieren (Mergel et al., 2019). Einige Experten sehen KI als Chance, die Arbeitsbelastung in Behörden und die Wartezeiten der Bürger zu verringern sowie Sprachbarrieren zu überwinden und somit große Probleme im öffentlichen Sektor zu lösen (Wirtz & Weyerer, 2019). Auch Regierungen erkennen den Nutzen von KI. Um diese Ziele zu erreichen und der wachsenden Bedeutung von KI gerecht zu werden, investiert beispielsweise das Bundesministerium für Bildung und Forschung (2023) über 1,6 Mrd. Euro bis 2025 in KI. Seit 2018 verfügt Deutschland außerdem über eine KI-Strategie und will diese im Rahmen des KI-Aktionsplanes weiterentwickeln (Bundesministerium für Bildung und Forschung, 2023). Dieser legt nicht nur Investitionen in die Forschung, sondern auch einen Fokus auf die Anwendung und den Transfer fest (Bundesministerium für Bildung und Forschung, 2023). Denn die öffentliche Verwaltung weist Besonderheiten auf, die sie von dem privaten Sektor unterscheiden. Zum Einen sind sie stark von rechtlichen Vorgaben abhängig (Von Lucke & Etscheid, 2020). Zum Anderen zeichnet sie die Verantwortung, zum Nutzen der Gesellschaft zu handeln, eine Rechenschaftspflicht, und der Schutz von Gerechtigkeit und Grundrechten aus (Ongaro, 2020). Aufgrund dieser Unterscheidung ist die genauere Betrachtung der KI im öffentlichen Sektor unerlässlich, damit auch dort die Chancen der Technologien genutzt werden können, um die digitale Transformation voranzutreiben.

Mit der Zunahme der Bedeutung von KI, steigen auch die Forschungen in diesem Bereich. So stammt ein Großteil der Literatur aus den letzten Jahren und ist trotz der steigenden Investitionen unzureichend (Wirtz et al., 2018). 2018 schreiben Wirtz et al., dass das Fehlen einer allgemeingültigen Definition von KI eine große Lücke darstellt. Die Europäische Union veröffentlichte 2021 die zweite Ausgabe eines Reports über Definitionen der KI, der 69 Definitionen tabellarisch aufführt und miteinander vergleicht (Samoili et al., 2021). Eine einheitliche Definition von KI wäre nicht nur für die Wissenschaft ein großer Schritt, sondern nach Atabekov (2023) sowohl für die Gesetzgebung, die Politik, als auch für die Strategie der Integration von KI erforderlich.

Im Mai 2024 verabschiedete der Rat der 27 EU-Mitgliedstaaten die weltweit erste Verordnung zur Regulierung von KI (Die Bundesregierung, 2024). Einer Analyse von Atabekov (2023) zufolge, nutzen Deutschland sowie andere Staaten die innerhalb dieses AI Acts festgelegte Definition der EU als rechtliche Definition für KI. Der 2021 vorgelegte und im Mai 2024 verabschiedete Vorschlag zur Regulierung der KI definiert ein KI-System als „eine Software, die mit einer oder mehreren der in Anhang I [siehe Anhang] aufgeführten Techniken und Konzepte entwickelt worden ist und im Hinblick auf eine Reihe von Zielen, die vom Menschen festgelegt werden, Ergebnisse wie Inhalte, Vorhersagen, Empfehlungen oder Entscheidungen hervorbringen kann, die das Umfeld beeinflussen, mit dem sie interagieren“ (Art. 3 Abs. 1 AI-Act (VO COM(2021) 206 final)). Zudem beinhaltet der AI Act unter anderem eine risikobasierte Einstufung von KI (EU Artificial Intelligence Act, 2024). Denn neben den Vorteilen entstehen auch viele Herausforderungen aus der Nutzung von KI, wie die Diskriminierung und Intransparenz von Algorithmen, Risiken in der Entscheidungsfindung durch Verzerrungen, der Ersatz von Arbeitskräften oder auch sicherheitstechnische Probleme (Androniceanu, 2024; Valle-Cruz et al., 2020). Der AI Act zeigt, dass auch die Regierungen die Herausforderungen von KI erkennen und Strukturen zur Regulierung schaffen. Dies zeigt die große Bedeutung des Einsatzes von KI und die Relevanz der Beschäftigung mit dessen Herausforderungen, um die Chancen trotzdem nutzen zu können.

Hintergrund

Zwar sind die Anwendungen von KI-Technologien im öffentlichen Sektor noch nicht so ausgeprägt wie im privaten Sektor, doch werden bereits einzelne Anwendungen eingeführt und ausgetestet. So beschreibt Ruvalcaba-Gomez (2023), dass Behördendaten analysiert, Bürgeranfragen automatisiert beantwortet und Entscheidungsfindungen durch Algorithmen des maschinellen Lernens unterstützt werden. In der aktuellen Forschung werden in Studien und Berichten konkrete Anwendungen und deren Auswirkungen beschrieben (Ruvalcaba-Gomez, 2023). So wird KI beispielsweise in Form von Chatbots in öffentlichen Organisationen zur Bereitstellung von Informationen und Ratschlägen sowie für die Kommunikation mit den Bürgern eingesetzt (Androutsopoulou et al., 2019; Chen et al., 2024; Henman, 2020). Es werden auch Anwendungsfälle von Federated Learning auf dem Markt des Gesundheitswesens, der Bildung und Industrie (Banabilah et al., 2022), die Prozessautomatisierung durch KI in der schottischen Regierung (Pautz, 2023) und KI-basierte Profilerstellungsmodelle der Verwaltung von Arbeitssuchenden in Belgien erläutert (Desiere & Struyven, 2021). Aber auch die durch den Einsatz von KI im öffentlichen Sektor entstehenden Nachteile werden immer wieder thematisiert, zum Teil bezogen auf den Einsatz eines konkreten Modells (Desiere & Struyven, 2021; Dwivedi et al., 2021; Sun & Medaglia, 2019). Die Berichte und Studien stammen überwiegend aus den USA und europäischen, aber vermehrt auch aus asiatischen Ländern. KI im öffentlichen Sektor ist ein dynamisches Forschungsfeld, in dem insbesondere seit 2019 die Anzahl der Studien und Artikel stark gestiegen ist. Dies unterstreicht die Notwendigkeit einer aktuellen Übersichtsarbeit. Die Vielzahl der Studien führt zu Unklarheiten und Verwirrung hinsichtlich der Erfahrungen mit KI und den wahrgenommenen Herausforderungen (Ruvalcaba-Gomez, 2023). Häufig werden die Herausforderungen einer einzelnen Anwendung im öffentlichen Sektor detailliert untersucht, jedoch ohne ein Gesamtbild der Herausforderungen zu entwickeln und diese systematisch zu strukturieren. Diese zu überblicken und zu strukturieren, schafft einen großen Wert für die zukünftige Begegnung des öffentlichen Sektors mit der KI. Denn wer die Herausforderungen von Beginn an kennt, kann diese gezielt angehen und sich mit möglichen Wegen beschäftigen, sie zu vermeiden. Um das zu erreichen, erstellt diese Arbeit eine Übersicht des aktuellen Stands der Wissenschaft über die Herausforderungen des Einsatzes von KI im öffentlichen Sektor und strukturiert sie hinsichtlich unterschiedlicher Kategorien.

Forschungsfrage

Dafür wurde folgende erste Forschungsfrage formuliert, die mit der Analyse der fortschreitenden Literaturauswahl weiter spezifiziert und gegebenenfalls angepasst werden muss: „Welche Herausforderungen können im Zusammenhang mit dem Einsatz von KI im öffentlichen Sektor auftreten und wie können diese systematisch strukturiert werden?“. Der Stand der Wissenschaft ist fragmentiert, es gibt verschiedene Definitionen und die Zahl der Veröffentlichungen steigt aufgrund der Aktualität des Themas stark an. Darum wird die Literatur in dieser Arbeit konsolidiert, eine Strukturierung der Herausforderungen vorgenommen und eine Forschungsagenda formuliert.