Neueste Erkenntnisse aus dem Forschungsprojekt SMARD-GOV
Das Projekt SMARD-GOV erforscht, wie große KI-Sprachmodelle (LLMs) datenschutzkonform und sicher Entscheidungsprozesse in Behörden unterstützen können. Es wird vom Bundesministerium für Forschung, Technologie und Raumfahrt (BMFTR) gefördert und gemeinsam von der FAU Erlangen-Nürnberg, der Universität Münster und der PROSOZ Herten GmbH durchgeführt.
In den vergangenen Monaten konnte das Projekt neue Erkenntnisse gewinnen und seine Forschungsergebnisse auf verschiedenen Fachveranstaltungen präsentieren.
Im Rahmen der Konferenz „Computers, Privacy and Data Protection“ (CPDP) in Brüssel veranstaltete die Univeristät Münster im Rahmen des Projekts einen interdisziplinären Workshop zu Datenrichtigkeit in LLMs. Expert*innen aus den Bereichen Rechtswissenschaften (Constantin Lessmann, Friedrich-Alexander-Universität Erlangen-Nürnberg) und Informatik (Kristina Magnussen, Universität Münster) diskutierten gemeinsam mit dem Journalisten Martin Bernklau die Risiken fehlerhafter KI-generierter Aussagen über Personen, die rechtlichen Anforderungen der DSGVO sowie aktuelle technische Herausforderungen. Der Workshop machte deutlich, dass weiterhin großer Forschungsbedarf besteht, um datenschutzkonforme und verlässliche KI-Systeme zu entwickeln.
Ende Juni nahm Johannes von Ivernois (Universität Münster) am Hackathon des Bundesministeriums für Digitales und Staatsmodernisierung (BMDS) zur Weiterentwicklung des Projekts „Schnellere Planung und Realisierung durch KI (SPARK)“ in Berlin teil. Das Projekt SPARK weist zahlreiche Berührungspunkte mit SMARD-GOV auf. Die Teilnahme bot die Möglichkeit, neue Impulse für die eigene Forschung zu gewinnen und gleichzeitig Erkenntnisse aus dem Projekt in die Weiterentwicklung von SPARK einzubringen.
Auf der MEMO-Tagung der Universität Münster präsentierte Prof. Tobias Brandt erste Ergebnisse aus Interviews sowie einer Pilot-Experimentalstudie. Dadurch konnten aktuelle Forschungsergebnisse einem Fachpublikum aus der öffentlichen Verwaltung vorgestellt und mit Vertreter*innen aus der Praxis diskutiert werden.
Darüber hinaus wurden zwei fachorientierte Workshops vom SMARD-GOV Team unter der Leitfrage „Wie lassen sich LLMs rechtssicher in Verwaltungsverfahren integrieren?“ durchgeführt. Die Veranstaltungen richteten sich an Interessierte aus dem kommunalen Umfeld und boten Einblicke in erste Projektergebnisse sowie einen intensiven Austausch zu rechtlichen und technischen Herausforderungen.
Forschungspartner gesucht
Für die Weiterentwicklung und Validierung rechtssicherer KI-Systeme sucht das Projekt derzeit Forschungspartner aus der öffentlichen Verwaltung. Hierfür werden reale Anwendungsdaten benötigt, um Ansätze unter praxisnahen Bedingungen zu evaluieren. Forschungspartner erhalten frühzeitig Einblicke in die Projektergebnisse und leisten gleichzeitig einen Beitrag zur Entwicklung datenschutzkonformer und rechtskonformer KI-Lösungen für die öffentliche Verwaltung.
Bei Interesse freut sich das Projektteam über eine Kontaktaufnahme mit Constantin Lessmann (constantin.lessmann@fau.de).
Links zu dieser Meldung