Am 02.02.2025 sind die ersten Regelungen der KI-Verordnung (AI-Act) in Kraft getreten. Diese betreffen auch Kfz-Betriebe, die KI-Systeme einsetzen. Betriebe brauchen mangels einer Regelung in der Verordnung keine unmittelbaren Sanktionen zu befürchten, wenn sie Art. 4 der KI-Verordnung noch nicht umsetzen.
• Art. 4 der KI-Verordnung fordert, dass Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen, um ein ausreichendes Niveau an KI-Kompetenzen bei ihren Beschäftigten sicherzustellen. Dies umfasst Fähigkeiten, Kenntnisse und das Verständnis, die es den Beschäftigten ermöglichen, KI-Systeme sachkundig einzusetzen und sich der Chancen und Risiken von KI bewusst zu sein.
• Entscheidet sich der Betrieb
o bei der Analyse von komplexen Daten moderner Fahrzeuge KI-Plattformen zu nutzen, welche OBD-Codedaten mit globalen Datenbanken verknüpfen, um genaue Diagnosen zu ermöglichen oder gar
o zu einer Nutzung von Augmented Reality (AR) für Reparaturen, d.h. Mechaniker können mithilfe einer AR-Brille Diagramme und Anweisungen direkt auf Fahrzeugkomponenten einblenden, so dass eine schnelle Identifizierung defekter Teile und eine Schritt-für-Schritt-Anleitung zur Durchführung von Reparaturen möglich ist, werden KI-Kompetenzen des Mitarbeiters, welche ihm einen besonnenen und stets kritischen Umgang mit dem ihn unterstützenden Hilfsmittel der KI vermitteln sollen, besonders relevant.
• Art. 4 wurde jedoch nicht als eine konkrete Verpflichtung, sondern vielmehr als ein Appell an die Arbeitgeber ausgestaltet. Ein Verstoß gegen diese Norm ist daher weder bußgeld- noch strafbewehrt.
• Wichtig: Das Unterlassen von Maßnahmen nach Art. 4 kann jedoch als eine Sorgfaltspflichtverletzung angesehen werden, welche im Falle eines eingetretenen Schadens möglicherweise eine Schadensersatzpflicht des Betriebes auslösen kann.
Beispiel:
Ein Reparaturbetrieb setzt ein KI-System zur automatisierten Diagnose von Fahrzeugproblemen ein. Das KI-System analysiert die Fahrzeugdaten und gibt eine Empfehlung für durchzuführende Reparaturen und Wartungsarbeiten ab. Der Reparaturbetrieb hat bisher jedoch keine Maßnahmen ergriffen, um sicherzustellen, dass die mit dem KI-System arbeitenden Mitarbeiter über notwendige KI-Kompetenzen verfügen, d.h. es wurden im Betrieb insbesondere keine Schulungen durchgeführt, keine Leitlinien bereitgestellt und keine Zertifizierungsprogramme angeboten.
Am Tag X stellt das KI-System eine falsche Diagnose. Der sich ausschließlich auf die Empfehlung des KI-Systems verlassende Mechaniker führt infolge der Empfehlung eine unnötige und teure Reparatur durch, welche das Problem des Kunden jedoch nicht löst. Der Kunde ist nicht verhandlungsbereit und klagt gegen den Reparaturbetrieb wegen der ihm unnötig entstandenen Kosten und der Verzögerung bei der Behebung des tatsächlich vorliegenden Problems.
Hinweis: Bei Eintritt eines solchen Falles ist eine Haftung des Reparaturbetriebs nicht auszuschließen.
Dem Betrieb könnte bei Eintritt eines solchen Falles gem. Art. 4 eine Sorgfaltspflichtverletzung vorgeworfen werden, welche die Grenzen einer leicht fahrlässigen Begehungsweise durch den Mechaniker überschreiten könnte. Eine solche vorgeworfene Sorgfaltspflichtverletzung könnte ihre Begründung in dem Umstand finden, dass der Betrieb keine Maßnahmen ergriffen hat, um ein ausreichendes Niveau an KI-Kompetenzen bei ihren Beschäftigten sicherzustellen, so dass diese sich der möglichen Risiken und Schäden bei einer KI-Nutzung bewusst sind.
Bei Vorliegen der Kenntnisse hätte der Mechaniker sich nicht blind auf die KI-Empfehlung verlassen, sondern eine eigene Prüfung auf Schlüssigkeit der KI-Empfehlung durchführen müssen. Dies wiederum hätte den Vorwurf einer Sorgfaltspflichtverletzung ausgeschlossen.
Es wird daher empfohlen, dass Kfz-Betriebe trotz der fehlenden Sanktionen in der Verordnung prüfen, ob dennoch erforderliche Maßnahmen zur Schulung und Weiterbildung ihrer Beschäftigten im Hinblick auf KI-Kompetenzen ergriffen werden sollten.
Solche Schulungsmaßnahmen können vom Betrieb z.B. wie folgt ausgestaltet werden:
• Angebot und Durchführung von internen Schulungen und Workshops, die von internen oder externen Experten (idealerweise regelmäßig) durchgeführt werden, um das Wissen und die Fähigkeiten der Mitarbeiter im Umgang mit KI-Systemen zu erweitern.
• Nutzung von Online-Kursen und E-Learning-Plattformen, die speziell auf KI-Kompetenzen ausgerichtet sind, um ein zeitlich flexibles und selbstgesteuertes Lernen zu ermöglichen.
• Teilnahme an anerkannten Zertifizierungsprogrammen, die den Beschäftigten fundierte Kenntnisse und praktische Fähigkeiten im Bereich KI vermitteln.
• Praxisorientiertes Lernen in Teams, d.h. Förderung des praxisorientierten Lernens durch die Zusammenarbeit in divers zusammengesetzten Teams, um den Austausch von Wissen und Erfahrungen zu erleichtern.
• Erstellung oder Nutzung von vorhandenen KI-Guidelines und Handbüchern, die als Referenzmaterial für den sachkundigen Einsatz von KI-Systemen dienen und dem Beschäftigten vom Betrieb bereitgestellt werden.
Fazit:
Die Umsetzung von Art. 4 der KI-Verordnung stellt für unsere Betriebe keine unmittelbare Verpflichtung dar und ist nicht bußgeld- oder strafbewehrt. Betriebe, die KI-Systeme einsetzen, sollten jedoch die Bedeutung von Schulungsmaßnahmen für ihre Mitarbeiter nicht unterschätzen. Trotz der fehlenden Sanktionen kann das Unterlassen solcher Maßnahmen als eine Sorgfaltspflichtverletzung gewertet werden, was im Schadensfall zu einer Schadensersatzpflicht führen könnte. Es ist daher empfehlenswert, seinen Beschäftigten proaktiv Schulungen und Weiterbildungsprogramme anzubieten, um ein ausreichendes Niveau an KI-Kompetenz sicherzustellen und Risiken bei der Anwendung von KI-System zu minimieren.