Künstliche Intelligenz im öffentlichen Sektor: Chancen, Risiken und rechtliche Rahmenbedingungen

KI-Verordnung (KI-VO) | Datenschutzanforderungen (DSGVO) | technische und rechtliche Aspekte | datenschutzkonformer Einsatz von KI 

Die rasante Entwicklung der Künstlichen Intelligenz (KI) eröffnet für Einrichtungen der öffentlichen Hand vielfältige Möglichkeiten, Prozesse zu optimieren und den Bürgerservice zu verbessern. Gleichzeitig stellen sich jedoch komplexe Fragen hinsichtlich der rechtlichen Rahmenbedingungen und des Datenschutzes. Dieses Praxisseminar bietet Ihnen eine fundierte Einführung in die Grundlagen der KI, beleuchtet deren Funktionsweisen und Einsatzbereiche und sensibilisiert für die damit verbundenen Risiken.

Ein besonderer Schwerpunkt liegt auf der neuen KI-Verordnung (KI-VO) der Europäischen Union, die am 1. August 2024 in Kraft getreten ist. Diese weltweit erste umfassende Regelung für KI-Systeme definiert verbotene Praktiken, klassifiziert Hochrisiko-KI-Anwendungen und legt strenge Anforderungen an Anbieter und Betreiber fest. Heiko Behrendt erläutert, wie die KI-VO in Verbindung mit der Datenschutz-Grundverordnung (DSGVO) zu interpretieren ist und welche Pflichten sich daraus für öffentliche Einrichtungen ergeben.

Zudem werden konkrete Beispiele besprochen, anhand derer Sie den Einsatz von KI-Systemen im öffentlichen Bereich analysieren und bewerten. Dabei werden sowohl technische als auch rechtliche Aspekte berücksichtigt, um einen sicheren und datenschutzkonformen Einsatz von KI zu gewährleisten. Der Experte vermittelt Ihnen die zehn wichtigsten Datenschutzregeln für KI-Systeme und stellen Ihnen hilfreiche Orientierungshilfen sowie Checklisten zur Verfügung.

Dieses Seminar richtet sich an IT-Verantwortliche, Datenschutzbeauftragte, Informationssicherheitsbeauftragte und Fachabteilungsleiter, die den Einsatz von KI-Systemen planen oder bereits implementieren. Nutzen Sie die Gelegenheit, sich umfassend zu informieren und Ihre Einrichtung für die Herausforderungen der digitalen Zukunft zu rüsten. 

Inhaltsübersicht: 

• Grundlagen und Risiken der Künstlichen Intelligenz
• Einsatzbereiche von KI-Systemen
• Risiken der Künstlichen Intelligenz
• Wie funktionieren KI-Systeme?
• Machine- und Deep-Learning: Was ist der Unterschied?
• Lebenszyklen von KI-Systemen
• KI-Verordnung (KI-VO)
• Einstufung von Künstlicher Intelligenz
• Verbotene Praktiken
• Hoch-Risiko-KI-Systeme
• KI-Modelle mit allgemeinen Verwendungszweck
• Risikomanagementsystem
• Grundrechte-Folgenabschätzung
• (Dokumentations-) Pflichten für Einführer, Anbieter und Betreiber
• Einstufung KI-System/KI-Modell
• KI-Verordnung i.V.m der DSGVO
• Einsatz von KI-Systemen im öffentlichen Bereich
• Abgrenzung private und betriebliche Nutzung von KI-Systemen
• ChatGPT versus Chatbot Govii
• Microsoft Copilot oder ChatGPT ohne personenbezogene Daten nutzen?
• Workshop mit Beispielen: Einsatzbereiche für KI-Systeme im betrieblichen/öffentlichen Bereich mit Risikobewertung und Anwendung der KI-VO und der DSGVO
• Checkliste für den Einsatz und die Risikobewertung
• 10 wichtige Datenschutzregeln für KI-Systeme
• Datenrichtigkeit, Personenbezug, Zweckbindung, Informationspflichten, Datenschutzfolgenabschätzung
• Orientierungshilfen der Aufsichtsbehörden
• Navigator KI und Datenschutz als Informationsquelle aus erster Hand
• Checkliste DSGVO für KI-Systeme/KI-Modelle

Referent: 

Heiko Behrendt
ISO 27001 Auditor Datenschutz- und IT-Sicherheitsexperte einer Landes-Prüfbehörde