Was Unternehmen zur KI-Nutzung wissen müssen
Heute wollte ich eigentlich über das „KI Legal Event“ Webinar von Digital Beat zum AI Act schreiben – bis ich am Nachmittag in das nächste KI-Rabbithole namens ComfyUI für generative Bild- und Videoerstellung gerutscht bin. Damit ich mich schnell wieder in meine Nerdhöhle zurückziehen kann, hier die wichtigsten Punkte aus dem Webinar in kompakter Form.
Datenschutz und KI: Die wichtigsten Punkte aus dem Vortrag von Christian Solmecke (WBS Legal)
Rechtsanwalt Christian Solmecke fasste in zehn Minuten die wichtigsten Datenschutz-Aspekte im Zusammenhang mit KI zusammen und gab einen Überblick über die Orientierungshilfe der Datenschutzkonferenz (DSK).
Die zentralen Erkenntnisse:
- Orientierungshilfe der DSK: Unternehmen sollten sich an der 15-seitigen Orientierungshilfe der DSK orientieren, um KI rechtskonform zu nutzen.
- Zweckbestimmung vor dem Einsatz: Der KI-Einsatz muss einen klar definierten, rechtmäßigen Zweck haben. Bestimmte Einsatzfelder wie Mitarbeiterbewertungen oder biometrische Überwachung sind unzulässig.
- Personenbezogene Daten: Auch wenn keine direkten personenbezogenen Daten vorliegen, muss geprüft werden, ob die KI dennoch einen Personenbezug herstellen kann.
- Letztentscheidung bleibt menschlich: Entscheidungen mit Auswirkungen auf Menschen dürfen nicht ausschließlich von einer KI getroffen werden.
- Geschlossene vs. offene Systeme: Die DSK bevorzugt geschlossene Systeme. Unternehmen, die Cloud-KI nutzen, müssen Datenschutzaspekte wie die Datenübermittlung in Drittländer berücksichtigen.
- Transparenz und Information: Unternehmen müssen klar kommunizieren, wie KI-Entscheidungen zustande kommen. Die KI darf nicht mit Ein- und Ausgabedaten trainiert werden.
- DSGVO-Konformität:
- KI-Prompts sollten nicht gespeichert werden.
- Betroffene müssen Löschrechte haben, auch wenn dies technisch herausfordernd ist.
- Datenschutzbeauftragte sollten involviert sein.
- Eine Datenschutz-Folgenabschätzung ist Pflicht.
- Umgang mit sensiblen Daten: Für besonders kritische Daten (z. B. Gewerkschaftszugehörigkeit, religiöse Ansichten) sind strengere Einwilligungen erforderlich.
- Technische Sicherheit: Das Bundesamt für Sicherheit in der Informationstechnik (BSI) bietet hilfreiche Empfehlungen zur sicheren KI-Nutzung.
- Schulungen: Mitarbeiter sollten für Datenschutz im KI-Kontext sensibilisiert werden.
Die 3 kritischen Pflichten aus dem AI Act
Laut Digital Beat bringt der AI Act drei zentrale Pflichten für alle, die KI beruflich nutzen:
1. Dokumentationspflicht
- Jede KI-Nutzung muss nachvollziehbar dokumentiert werden.
- Ein einfacher Screenshot reicht nicht mehr aus.
2. Kompetenznachweis
- KI-Qualifikationen werden Pflicht – sowohl für Selbstständige als auch für Angestellte.
- Bei Verstoß droht persönliche Haftung.
3. Prozesskontrolle
- Jeder KI-Prompt muss überprüfbar sein.
- DSGVO-Konformität wird strenger kontrolliert.
- Compliance-Dokumentation wird verpflichtend.
Was bedeutet das für verschiedene Berufsgruppen?
- Angestellte:
- Müssen ihre KI-Nutzung dokumentieren.
- Arbeitgeber verlangen Nachweise über KI-Kompetenzen.
- Outputs müssen nachvollziehbar sein.
- Selbstständige:
- Tragen die Verantwortung für ihre eigene KI-Compliance.
- Kunden können Nachweise zur Einhaltung der Richtlinien fordern.
- Prozesse müssen wasserdicht sein.
- Führungskräfte & Unternehmer:
- Tragen die Verantwortung für ihr gesamtes Team.
- Müssen sicherstellen, dass alle Mitarbeiter nachweisbare KI-Kompetenzen haben.
- Dokumentationspflicht liegt bei ihnen.
Fazit
Der AI Act bringt klare Regelungen zur Nutzung von KI, insbesondere im Hinblick auf Datenschutz und Compliance. Unternehmen müssen sich auf strengere Dokumentationspflichten, Schulungen und Kontrollmechanismen einstellen. Wer KI nutzt, sollte sich frühzeitig mit den neuen Anforderungen auseinandersetzen, um keine rechtlichen Risiken einzugehen.
So, genug Rechtliches für heute – jetzt geht’s zurück in die ComfyUI-Welt!