Add Row 
Add 
Der Weg zu Datenschutzkonformität in der KI-Nutzung durch Behörden
Die Bundesbeauftragte für den Datenschutz und die Informationsfreiheit (BfDI) hat im Jahr 2025 eine wichtige Handreichung veröffentlicht, die speziell für die öffentliche Verwaltung und Behörden entwickelt wurde. Diese praxisorientierte Leitlinie mit dem Titel „KI in Behörden – Datenschutz von Anfang an mitdenken“ bietet nicht nur rechtliche Klarheit, sondern stellt auch einen bedeutenden Schritt zur Förderung sicherer und GDPR-konformer Anwendungen von Künstlicher Intelligenz (KI) dar.
Das Ziel dieser Handreichung unter der Leitung von Prof. Dr. Louisa Specht-Riemenschneider ist es, einen strukturierten Rahmen zu schaffen, der es Behörden ermöglicht, KI-Projekte von der Planung bis zu den Betriebsphasen unter Berücksichtigung der Datenschutz-Grundverordnung (DSGVO) und der EU-KI-Verordnung durchzuführen. Dies ist besonders wichtig, da der Bereich der KI durch Unsicherheiten und technische Herausforderungen geprägt ist.
Wesentliche Aspekte der DSGVO und KI-Verordnung
Ein zentraler Punkt der Handreichung ist das Zusammenspiel zwischen der KI-Verordnung (KI-VO) und der DSGVO. Während die KI-VO produktsicherheitsrechtliche Vorgaben macht, konzentriert sich die DSGVO auf die Rechtmäßigkeit der Verarbeitung personenbezogener Daten. Bei der Einführung von KI-Anwendungen müssen die datenschutzrechtlichen Prinzipien immer beachtet werden. Dies betrifft insbesondere die Gefahren der Datenmischung und die potenziellen Risiken, die mit der Verwendung von großen Sprachmodellen (LLMs) verbunden sind.
Technische Herausforderungen und Risiken der KI
Eine der größten Herausforderungen beim Einsatz von KI in Behörden ist die Funktionsweise von LLMs. Diese oft als „Black-Box“ agierenden Systeme können personenbezogene Daten memorisieren, was erhebliche datenschutzrechtliche Implikationen mit sich bringt. Das Risiko der Memorisierung kann dazu führen, dass personenbezogene Daten unbeabsichtigt offengelegt werden. Weiterhin können LLMs falsche Informationen erzeugen, ein Problem, das sowohl die Datenrichtigkeit als auch die Rechte betroffener Personen in Frage stellt.
Verantwortlichkeit und Haftung in der KI-Nutzung
Die BfDI hebt hervor, dass die Bestimmung des datenschutzrechtlichen Verantwortlichen von der technischen Architektur der eingesetzten Systeme abhängt. Bei der Nutzung von Cloud-Diensten kann die Verantwortung zwischen dem Anbieter und der nutzenden Behörde variieren, abhängig davon, inwieweit die Behörde Einfluss auf die Modellparameter hat. Diese klare Zuordnung von Verantwortlichkeiten ist unerlässlich, um die Rechte der Bürger zu schützen und Compliance zu gewährleisten.
Chancen und Zukunftsausblick für KI in der Verwaltung
Das Potenzial von KI zur Verbesserung der Effizienz und Bürgerorientierung in der öffentlichen Verwaltung ist erheblich. Mit der richtigen Herangehensweise und einer soliden rechtlichen Grundlage können Behörden KI nicht nur sicher implementieren, sondern auch von den Vorteilen der Technologie profitieren. Die Einführung der KI im öffentlichen Sektor könnte dazu beitragen, Dienstleistungen zu digitalisieren und näher an den Bedürfnissen der Bürger zu orientieren, während gleichzeitig rechtliche Compliance sichergestellt wird.
Handlungsaufforderung: Jetzt aktiv werden!
Um den Herausforderungen und Chancen, die KI in der öffentlichen Verwaltung mit sich bringt, gerecht zu werden, sollten Entscheidungsträger jetzt aktiv werden und geeignete Governance-Rahmen schaffen. Eine klare Dokumentation der KI-Nutzung, eine risikobasierte Überprüfung und transparente Prozesse sind essentielle Schritte, um den rechtlichen Anforderungen der DSGVO und der KI-VO nachzukommen. Lassen Sie uns Ihre KI-Projekte sicher und verantwortungsbewusst angehen!
Write A Comment