Gemäß dem AI Act zählt der Automotive-Bereich zu KI-Hochrisikosystemen. Daraus resultiert eine Anpassung vorhandener Typgenehmigungsvorschriften. Der AI Act sieht vor, dass diese Rechtsakte in Zukunft geändert oder delegierte Rechtsakte oder Durchführungsrechtsakte erlassen werden. Dabei sollen die Anforderungen an Hochrisiko-KI-Systeme aus dem AI Act berücksichtigt werden.
Die technischen und regulatorischen Besonderheiten des Sektors müssen beachtet und bestehende Governance-, Konformitätbewertungs- und Durchsetzungsmechanismen berücksichtigt werden. Das bewährte System der neutralen Drittprüfung durch Technische Dienste sollte fortgeführt werden. Herstellerselbsterklärungen zur Sicherheit von KI im Fahrzeug sind nicht ausreichend. Eine unabhängige Drittprüfung muss das Anlernen der KI-Systeme absichern.
Das Anlernen der Systeme kann auch weiterhin durch Datenerhebungen aus dem Fahrzeugumfeld erfolgen, die Systeme dürfen das Erlernte jedoch nicht eigenständig im Feld umsetzen. Bevor das Erlernte auf die Fahrzeugsysteme übertragen wird, muss es unabhängig verifiziert und durch den Hersteller freigegeben werden.
Das ist zu tun
- Normen und Standards in das EU-Regelwerk integrieren
- KI-Normen und -Standards unabhängig prüfen
- Qualität von KI-Systemen gewährleisten