Der TÜV-Verband hat eine gesetzliche Regulierung von Produkten und Anwendungen mit Künstlicher Intelligenz (KI) gefordert, um die Sicherheit von Menschen und den Schutz der Umwelt auch in der digitalen Welt gewährleisten zu können. „Sind beim Einsatz von Künstlicher Intelligenz die Gesundheit von Menschen oder ihre elementaren Grundrechte in Gefahr, sollten KI-Systeme bestimmte Sicherheitsanforderungen erfüllen müssen“, sagte Marc Fliehe, Leiter Digitalisierung und Cybersecurity beim TÜV-Verband. Das gelte zum Beispiel für automatisierte Fahrzeuge, medizinische Diagnosen, mit Menschen interagierende Roboter oder Entscheidungssysteme, die Personen betreffen.
„Unser Ziel ist es, den breiten Einsatz von Künstlicher Intelligenz zu fördern und gleichzeitig die damit einhergehenden Gefahren zu verringern“, betonte Fliehe. Aufgrund der unerschöpflichen Vielfalt möglicher KI-Anwendungen sei klar, dass nicht alle KI-Systeme die gleichen Anforderungen erfüllen müssen. Daher sollten KI-gestützte Systeme in Risikoklassen eingeteilt und nach ihrem Gefährdungspotenzial reguliert werden. Die Maßnahmen können von einem vollständigen Regulierungsverzicht über formelle Anforderungen wie Transparenzpflichten und – im nächsten Schritt – Zulassungsverfahren vor der Markteinführung bis zu einem Verbot bestimmter, besonders gefährlicher oder ethisch fragwürdiger KI-Anwendungen reichen. Der TÜV-Verband unterstützt damit die Pläne der EU-Kommission, die einen europäischen Rechtsrahmen für KI-Systeme schaffen will und ihre Vorstellungen im „Weißbuch zur Künstlichen Intelligenz“ zusammengefasst hat.
Hintergrund der Regulierungsbestrebungen ist die zunehmende Digitalisierung und Vernetzung der Welt. Fahrzeuge, Maschinen, Geräte und Produkte aller Art verfügen über digitale Funktionen und treffen autonom Entscheidungen, die Menschen schützen, aber auch in Gefahr bringen können. Darüber hinaus können KI-Systeme falsche Vorhersagen treffen oder Menschen diskriminieren, wenn sie fehlerhaft programmiert oder trainiert worden sind. Der TÜV-Verband hat deshalb folgende Forderungen an die Politik formuliert:
- Rechtsrahmen KI-tauglich machen
Der europäische Rechtsrahmen trägt den Herausforderungen durch KI nicht ausreichend Rechnung. Grundlegende Anforderungen an KI-gestützte Anwendungen sollten sowohl übergreifend als auch sektorspezifisch formuliert werden. - KI-gestützte Anwendungen in Risikoklassen einteilen
Für die Einteilung in Risikoklassen müssen eindeutige Kriterien definiert werden. Die Risikobewertung bildet die Grundlage für weitere Vorgaben an das jeweilige KI-System. - Vertrauen durch unabhängige Drittprüfung schaffen
Bei KI-gestützten Anwendungen mit hohem Risiko sollte eine unabhängige Konformitätsbewertung erfolgen. So wird überprüft, ob die Anwendungen die gesetzlich formulierten Anforderungen erfüllen und in der Nutzung sicher sind. - Verfahren der Konformitätsbewertung weiterentwickeln
Die Methoden der Konformitätsbewertung müssen mit der technologischen Entwicklung Schritt halten. Dafür müssen zum Teil völlig neue Verfahren und Methoden gefunden werden. - Europäische Datenstrategie sinnvoll gestalten
Daten spielen im Zusammenhang mit Künstlicher Intelligenz eine herausragende Rolle. So ist die Verfügbarkeit sowie die Qualität der Daten ausschlaggebend für die Entwicklung und den Einsatz KI-gestützter Anwendungen. Eine zielführende KI-Regulierung setzt daher eine europäische Datenstrategie voraus.
