29.02.2020

Europäische Kommission veröffentlicht White Paper zu Künstlicher Intelligenz (KI)

Im Rahmen der öffentlichen Konsultation veröffentlichte die Europäische Kommission am 19.02.2020 ihr „White Paper on Artificial Intelligence - A European Approach to excellence and trust“.

Dabei handelt es sich um ein Grundlagenpapier u.a. zur Schaffung eines künftigen regulatorischen Rahmens für den Themenbereich Künstliche Intelligenz (KI). Im White Paper werden unterschiedliche Aspekte von KI diskutiert; bspw. wird auf die Minimierung von Risiken für Verletzungen von Grundrechten, Datenschutz, Sicherheit sowie auf Haftungsfragen beim Einsatz von KI eingegangen.

In diesem Zusammenhang wird erwähnt, dass bereits heute eine Vielzahl unterschiedlicher Rechtsgrundlagen auf KI anwendbar seien (z.B. Datenschutzrecht wie die EU DSGVO, Konsumentenschutzrecht wie z.B. die Richtlinien 2005/29/EC oder 2011/83/EC und Diskriminierungsverbote wie bspw. die Richtlinien 2000/43/EC, 2000/78/EC, 2004/113/EC, 2006/54/EC).

Mit Blick auf KI-spezifische Risiken müsse der regulatorische Rahmen jedoch angepasst werden. Dabei soll ein risikobasierter Ansatz gewählt und lediglich KI-Anwendungen mit sog. „hohem Risiko“ zusätzlich reguliert werden. Ob eine KI-Anwendung ein „hohes Risiko“ beinhaltet oder nicht, bestimmt sich nach dem betroffenen (a) Sektor und dem jeweiligen (b) Einzelfall. Danach sollen das Gesundheitswesen, Transport, Energie und bestimmte Bereiche der öffentlichen Verwaltung grundsätzlich als Sektoren mit „hohem Risiko“ gelten. Werden in einem solchen Sektor KI-Anwendungen eingesetzt, muss zusätzlich eine (potentiell negative) Auswirkung auf die betroffenen Personen vorliegen (wie z.B. rechtliche Konsequenzen oder physische bzw. psychische Beeinträchtigungen), damit von einem "hohen Risiko" gesprochen werden kann; als konkretes Beispiel wird der Einsatz von KI-Anwendungen im Bewerbungsprozess erwähnt.

Die künftige Regulierung für KI-Anwendungen mit „hohem Risiko“ soll sich u.a. auf die Guidelines der High Level Export Group stützen und voraussichtlich rechtliche Vorgaben u.a. zu folgenden Hauptaspekten beinhalten:

(i) Trainingsdaten

(ii) Aufbewahrung von Daten und Aufzeichnungen

(iii) Vorzulegende Informationen (Transparenz)

(iv) Robustheit und Genauigkeit

(v) Menschliche Aufsicht

(vi) Besondere Anforderungen an bestimmte KI-Anwendungen (z.B. biometrische Fernidentifikation)

(vii) Einhaltung und Durchsetzung

Die öffentliche Konsultation für das White Paper zu KI läuft bis 19.05.2020. Anschliessend werden die entsprechenden Eingaben ausgewertet, in die Neufassung des „koordinierten Plans für Künstliche Intelligenz“ der Europäischen Union aufgenommen und voraussichtlich Ende 2020 veröffentlicht.

Michal Cichocki
© LawBlogSwitzerland.ch
Maira Gall