KI - der rechtliche Rahmen

Es kommt zu einem Arbeitsunfall im Unternehmen. Bei den Ermittlungen zum Unfallhergang stellt sich heraus: Die Gefährdungsbeurteilung wurde mit KI erstellt und ist lückenhaft beziehungsweise fehlerhaft. Und jetzt? Raphael Kowollik, KI-Experte bei der BGHW, sagt: „Der Einsatz von KI entbindet den Arbeitgeber nicht von seiner Verantwortung für Arbeitssicherheit.“ Diese Aussage ergibt sich aus dem Arbeitsschutzgesetz (§ 3 ArbSchG), der Betriebssicherheitsverordnung und der DGUV Vorschrift 1. Der Arbeitgeber ist zur Auswahl sicherer, geeigneter Arbeitsmittel verpflichtet, das betrifft auch KI-Systeme. Der Arbeitgeber muss zudem gewährleisten, dass menschliche Kontrolle jederzeit möglich ist. Pflichten bestehen auch für die Fachkraft für Arbeitssicherheit. Sie kann haftungsrechtlich mitverantwortlich sein, wenn sie den Einsatz von KI im Unternehmen unzureichend begleitet oder ihre Sicherheitsbedenken nicht thematisiert. Eine Haftung des Softwareanbieters ist beispielsweise denkbar, wenn es infolge fehlerhafter Programmierung oder Verbreitung einer falschen Gebrauchsanweisung zu Fehlfunktionen der Software kommt. 

Datenschutz und KI

Die Verwendung personenbezogener Daten in der KI unterliegt vollständig den Vorgaben der Datenschutz-Grundverordnung (DSGVO). Das beinhaltet unter anderem die Pflicht zur Transparenz und Sicherstellung von Betroffenenrechten wie Auskunft, Berichtigung und Löschung von Daten. „Personenbezogene Daten sollten nicht in KI-Systemen landen, deren Trainingsfunktion nicht kontrollierbar ist“, sagt Kowollik. Viele technische Schutzmaßnahmen, die solche Daten schützen sollen, anonymisieren sie nicht wirklich. Kowollik nennt als Beispiel die Pseudonymisierung von Kundendaten – also das Ersetzen identifizierender Merkmale durch Kennziffern oder Platzhalter. „Sobald eine Re-Identifikation der betroffenen Personen theoretisch möglich ist, gelten die Daten weiterhin als personenbezogen“, so Kowollik. 

Ein laufender Prozess 

Seit Februar 2025 müssen Unternehmen sicherstellen, dass Mitarbeitende, die mit KI arbeiten, entsprechende Kompetenzen mitbringen. Im Rahmen der EU-Verordnung vom 1. August 2024 sollen weitere Richtlinien schrittweise ausgerollt werden. Kowollik sagt: „Beim Thema KI ist auch rechtlich viel in Bewegung und der Normungsprozess dauert länger als geplant. Es entstehen zwangsläufig Fragen zur Haftung, dem Datenschutz und mehr.“ Mitgliedsbetriebe sollten daher wissen: Sie können sich bei Unsicherheiten an die BGHW wenden.