Das Ministerkomitee des Europarates verabschiedete am 8. April 2020 Leitlinien mit Empfehlungen zur Beschaffung, Entwicklung sowie Verwendung von KI-Systemen.
Danach sollen Behörden der Mitgliedsstaaten des Europarates (die Schweiz ist seit 1963 Mitgliedsstaat) bei der Beschaffung, Entwicklung sowie Verwendung von insbesondere algorithmenbasierten KI-Systemen die Einhaltung von Menschenrechten gemäss Europäischer Menschenrechtskonvention (EMRK) wie z.B. das Recht auf ein faires Verfahren, das Recht auf Privatsphäre und Datenschutz, die Gedanken-, Gewissens- und Religionsfreiheit, die Freiheit der Meinungsäusserung und die Versammlungsfreiheit, das Recht auf Gleichbehandlung sowie wirtschaftliche und soziale Rechte erkennen und ausschliessen.
Darüber hinaus sehen die Leitlinien vor, dass dieselben Behörden aufgrund ihrer Regelungsbefugnis wirksame und vorhersehbare Rechts-, Regulierungs- und Kontrollrahmen schaffen, um Menschenrechtsverletzungen auch im privaten Bereich aufzudecken, zu verhindern, zu untersagen und schliesslich zu beheben.
Zu diesem Zweck ist unter anderem die vorgängige Durchführung einer sog. Grundrechtsfolgenabschätzung vorgesehen. Diese soll entlang des gesamten Life Cycles von KI-Systemen sicherstellen, dass bspw. bei der Auswahl, beim Sammeln, Auswerten, im Design oder im Betrieb keine Menschenrechtsverletzungen stattfinden.
Ferner werden in den Leitlinien Grundsätze wie Transparenz, Verantwortlichkeit, Rechenschaftspflicht, wirksame Rechtsbehelfe etc. erläutert. Des Weiteren wird die Schaffung von mehr Wettbewerb zwecks Verhinderung einer möglichen Abhängigkeit von wenigen, grösseren Anbietern von KI-Systemen empfohlen.
Erwähnenswert ist die Betonung der informationellen Selbstbestimmung durch „Verschleierung“: danach sollen sich betroffene Personen bspw. durch technische Massnahmen selber gegen die Aufnahme in Datenpools schützen dürfen, bspw. indem sie selber gewisse Aktivitäten vor maschineller Auslesbarkeit verschleiern.
Die vorliegenden Leitlinien sind nicht verbindlich. Ende 2019 wurde jedoch vom Europarat eine Initiative zur Erarbeitung einer KI-Konvention gestartet. Diese ist, sobald sie voraussichtlich 2021 vorliegt, für die unterzeichnenden Mitgliedsstaaten verbindlich. Die Europäische Union arbeitet derzeit ebenfalls an einem Rechtsrahmen für KI-Systeme.
Michal Cichocki
Danach sollen Behörden der Mitgliedsstaaten des Europarates (die Schweiz ist seit 1963 Mitgliedsstaat) bei der Beschaffung, Entwicklung sowie Verwendung von insbesondere algorithmenbasierten KI-Systemen die Einhaltung von Menschenrechten gemäss Europäischer Menschenrechtskonvention (EMRK) wie z.B. das Recht auf ein faires Verfahren, das Recht auf Privatsphäre und Datenschutz, die Gedanken-, Gewissens- und Religionsfreiheit, die Freiheit der Meinungsäusserung und die Versammlungsfreiheit, das Recht auf Gleichbehandlung sowie wirtschaftliche und soziale Rechte erkennen und ausschliessen.
Darüber hinaus sehen die Leitlinien vor, dass dieselben Behörden aufgrund ihrer Regelungsbefugnis wirksame und vorhersehbare Rechts-, Regulierungs- und Kontrollrahmen schaffen, um Menschenrechtsverletzungen auch im privaten Bereich aufzudecken, zu verhindern, zu untersagen und schliesslich zu beheben.
Zu diesem Zweck ist unter anderem die vorgängige Durchführung einer sog. Grundrechtsfolgenabschätzung vorgesehen. Diese soll entlang des gesamten Life Cycles von KI-Systemen sicherstellen, dass bspw. bei der Auswahl, beim Sammeln, Auswerten, im Design oder im Betrieb keine Menschenrechtsverletzungen stattfinden.
Ferner werden in den Leitlinien Grundsätze wie Transparenz, Verantwortlichkeit, Rechenschaftspflicht, wirksame Rechtsbehelfe etc. erläutert. Des Weiteren wird die Schaffung von mehr Wettbewerb zwecks Verhinderung einer möglichen Abhängigkeit von wenigen, grösseren Anbietern von KI-Systemen empfohlen.
Erwähnenswert ist die Betonung der informationellen Selbstbestimmung durch „Verschleierung“: danach sollen sich betroffene Personen bspw. durch technische Massnahmen selber gegen die Aufnahme in Datenpools schützen dürfen, bspw. indem sie selber gewisse Aktivitäten vor maschineller Auslesbarkeit verschleiern.
Die vorliegenden Leitlinien sind nicht verbindlich. Ende 2019 wurde jedoch vom Europarat eine Initiative zur Erarbeitung einer KI-Konvention gestartet. Diese ist, sobald sie voraussichtlich 2021 vorliegt, für die unterzeichnenden Mitgliedsstaaten verbindlich. Die Europäische Union arbeitet derzeit ebenfalls an einem Rechtsrahmen für KI-Systeme.
Michal Cichocki