Back to top

Ethik und Künstliche Intelligenz: EU-Pilotprojekt startet im Sommer

16.04.2019

Die EU-Kommission hat am 8. April 2019 ihren Leitfaden "Ethics guidelines for trustworthy AI" veröffentlicht. Er war zuvor von einer Expertengruppe erarbeitet worden. Der Leitfaden befasst sich unter anderem mit Fragen des Datenschutzes, der Diskriminierungsfreiheit und der Transparenz. Im Sommer 2019 möchte die EU-Kommission den Leitfaden einem ersten Praxistest unterziehen. Sie startet ein Pilotprojekt, bei dem interesierte Institutionen gebeten werden, ihre KI-Entwicklungen anhand des Leitfadens zu prüfen. Parallel zum Projekt will die EU-Kommission weitere Gespräche mit Interessengruppen führen. Die Ergebnisse der Gespräche und des Pilotversuches werden bis Ende 2019 ausgewertet und dienen der Expertrengruppe für eine eventulle Überarbeitung des Leitfaden bis Anfang 2020. Anschließend will die EU-Kommission über weiter Schritte beraten. Interessierte Unternehmen können der europäischen KI-Allianz beitreten, um über die Entwicklungen und den Start des Pilotprojekts informiert zu werden.

Grundsätze des vertrauenswürdigen Einsatzes von KI

Aus Sicht der Experten besteht der vertrauenswürdige Einsatz von Künstlicher Intelligenz (KI) aus drei Grundsätzen:

1) Die Einhaltung von Gesetzen und Vorschriften sollte sichergestellt werden.

2) Die Einhaltung ethischer Grundsätze und Werte sollte sichergestellt werden.

3) Sowohl aus technischer als auch aus sozialer Sicht sollte sichergestellt werden, dass KI-Systeme auch bei guten Absichten keinen unbeabsichtigten Schaden anrichten.

Jede Komponente ist notwendig, aber nicht ausreichend, um den vertrauenswürdigen Einsatz von KI zu erreichen. Im Idealfall korrespondieren alle drei Komponenten miteinander und ergänzen sich. Stehen diese drei Grundsätze im Spannungsfeld zueinander, sollte versucht werden, dies zu beseitigen.

Anforderungen an einen vertrauenswürdigen Einsatz von KI

Im Leitfaden werden sieben Anforderungen aufgeführt, die KI-Systeme erfüllen sollten, um einen vertrauenswürdigen Einsatz zu gewährleisten. Den sieben Anforderungen wird eine sogenannte KI-Bewertungsliste zur Seite gestellt, die bei der Anwendung helfen kann.

1) Menschliches Handeln und Kontrolle: KI-Systeme sollten ein gerechtes Gesellschaftssystem ermöglichen, indem sie Grundrechte einhalten und Freiheit nicht einschränken.

2) Stabilität und Sicherheit: Eine vertrauenswürdige KI erfordert, dass die Algorithmen sicher und zuverlässig sind, um Fehler oder Inkonsistenzen während aller Lebensphasen von KI-Systemen zu vermeiden.

3) Datenschutz und Datenverwaltung: Die Bürger sollten die volle Kontrolle über ihre eigenen Daten haben. Dabei dürfen die sie betreffenden Daten nicht dazu verwendet werden, sie zu schädigen oder zu diskriminieren.

4) Transparenz: Die Rückverfolgbarkeit von KI-Systemen sollte gewährleistet sein.

5) Vielfalt, Anti-Diskriminierung und Fairness: KI-Systeme sollten gesellschaftliche Vielfalt berücksichtigen und die Zugänglichkeit sicherstellen.

6) Gesellschaftliches und ökologisches Wohlbefinden: KI-Systeme sollten eingesetzt werden, um den positiven sozialen Wandel zu fördern sowie Nachhaltigkeit und ökologische Verantwortung zu stärken.

7) Verantwortlichkeit: Es sollten Mechanismen geschaffen werden, um die Verantwortung und Rechenschaftspflicht für KI-Systeme und deren Ergebnisse zu gewährleisten.

 

Ansprechpartner

Daniela Beaujean

Mitglied der Geschäftsleitung / Recht und Regulierung, Justiziarin

Tim Steinhauer

Referent Medienverantwortung und Programm