KI-Trainingsdaten – eine haftungsrechtliche Einordnung

Der AI-Act fokussiert grds auf trainierte KI-Systeme, enthält aber auch Vorgaben für Daten, mit denen das KI-System trainiert wird (Trainingsdaten). Art 10 AI-Act normiert für KI-Hochrisikosysteme bestimmte Qualitätskriterien, denen Trainingsdaten entsprechen müssen.¹¹Die Datensätze müssen insb relevant, hinreichend repräsentativ und im Hinblick auf den beabsichtigten Zweck so weit wie möglich fehlerfrei und vollständig sein (Abs 3). Außerdem für für die Trainings-, Validierungs- und Testdatensätze bestimmte geeignete Datenverwaltungs- und -managementpraktiken vorgeschrieben (Abs 2). Der Hintergrund davon ist, dass die Trainingsdaten maßgeblich für die vom KI-System produzierten Ergebnisse sind. Das betrifft nicht nur die Genauigkeit der Vorhersagen der KI, sondern insb auch die Vermeidung von Bias: „Schlechte“ Trainingsdaten können zu einem falschen Output des KI-Systems führen, was sich auch in einer Diskriminierung bestimmter Personengruppen manifestieren kann.²²Auf den Punkt gebracht: „Garbage in, garbage out“. Trainingsdaten wohnt daher ein Schädigungspotential inne. Sowohl für Geschädigte als auch für Anbieter von KI-Systemen stellt sich damit die Frage, was bei einem durch Trainingsdaten verursachten Schadenfall gilt und wie Ansprüche durchgesetzt bzw abgewehrt werden können. Damit befasst sich dieser Beitrag anhand eines Beispielfalls. Abgestellt wird dabei auf die (aus gegenwärtiger Sicht) bevorstehende Rechtslage, insb die Richtlinie über KI-Haftung³³Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates zur Anpassung der Vorschriften über außervertragliche zivilrechtliche Haftung an künstliche Intelligenz vom 28.09.2022, https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX%3A52022PC0496 , (aufgerufen 07.03.2024). sowie die aktualisierte Produkthaftungs-RL⁴⁴Vorschlag für eine Richtlinie des Europäischen Parlaments und des Rates über die Haftung für fehlerhafte Produkte vom 28.09.2022, https://eur-lex.europa.eu/legal-content/DE/TXT/PDF/?uri=CELEX:52022PC0495 , (aufgerufen 07.03.2024)..