Eine vertrauenswürdige KI muss alle geltenden Gesetze und Vorschriften einhalten und eine Reihe von Anforderungen erfüllen. Spezifische Bewertungslisten sollen dazu beitragen, die Erfüllung der einzelnen Kernanforderungen zu überprüfen.
Aufbauend auf der Arbeit der im Juni 2018 eingerichteten Gruppe unabhängiger Experten leitete die Europäische Kommission eine Pilotphase ein, um sicherzustellen, dass die ethischen Leitlinien für die Entwicklung und Nutzung künstlicher Intelligenz in der Praxis umgesetzt werden können. Die Kommission fordert die Industrie, Forschungseinrichtungen und Behörden auf, die von der hochrangigen Expertengruppe erstellte detaillierte Bewertungsliste zu testen, die die Leitlinien ergänzt. Diese Pläne zählen zu den Zielen der im April 2018 vorgestellten KI-Strategie, die darauf abzielt, die öffentlichen und privaten Investitionen in den nächsten zehn Jahren auf mindestens 20 Milliarden EUR jährlich zu steigern, mehr Daten verfügbar zu machen, Talente zu fördern und Vertrauen zu schaffen.
Der für den digitalen Binnenmarkt zuständige Vizepräsident, Andrus Ansip, erklärte dazu: „Ich begrüsse die Arbeit unserer unabhängigen Experten. Die ethische Dimension der KI ist kein Luxus oder ergänzender Zusatz. Nur mit Vertrauen wird unsere Gesellschaft in vollem Umfang von den Technologien profitieren können. Bei einer ethisch vertretbaren KI gibt es nur Gewinner und sie kann zu einem Wettbewerbsvorteil für Europa werden: eine Führungsrolle beim Aufbau einer menschenzentrierten KI, der die Menschen vertrauen können.“ Mariya Gabriel, EU-Kommissarin für die digitale Wirtschaft und Gesellschaft, ergänzte: „Wir gehen einen wichtigen Schritt hin zu einer ethisch vertretbaren und sicheren KI in der EU. Wir verfügen nun über eine solide Grundlage, die auf den Werten der EU fusst und sich aus einem umfassenden und konstruktiven Engagement vieler Interessenträger, darunter Unternehmen, Wissenschaft und Zivilgesellschaft, ableitet. Wir werden diese Anforderungen nun in die Praxis umsetzen und gleichzeitig eine internationale Diskussion über eine auf den Menschen ausgerichtete KI fördern.“
KI kann für ein breites Spektrum von Bereichen wie Gesundheitsversorgung, Energieverbrauch, Sicherheit von Kraftfahrzeugen, Landwirtschaft, Klimawandel und Management finanzieller Risiken von Nutzen sein. Sie kann auch helfen, Betrug und Bedrohungen der Cybersicherheit zu erkennen, und versetzt die Strafverfolgungsbehörden in die Lage, Kriminalität wirksamer zu bekämpfen. Allerdings bringt die KI auch neue Herausforderungen für die Zukunft der Arbeit mit sich und wirft rechtliche und ethische Fragen auf.
Die Kommission verfolgt einen dreiteiligen Ansatz: die Festlegung von Kernanforderungen an eine vertrauenswürdige KI, die Einleitung einer gross angelegten Pilotphase, um Rückmeldungen von den Interessenträgern einzuholen, und die Arbeit an einem internationalen Konsens über den Aufbau einer menschenzentrierten KI.
Sieben Voraussetzungen für eine vertrauenswürdige KI
Eine vertrauenswürdige KI muss alle geltenden Gesetze und Vorschriften einhalten und eine Reihe von Anforderungen erfüllen. Spezifische Bewertungslisten sollen dazu beitragen, die Erfüllung der einzelnen Kernanforderungen zu überprüfen:
- Vorrang menschlichen Handelns und menschlicher Aufsicht: KI-Systeme sollten gerechten Gesellschaften dienen, indem sie das menschliche Handeln und die Wahrung der Grundrechte unterstützen‚ keinesfalls aber sollten sie die Autonomie der Menschen verringern, beschränken oder fehlleiten.
- Robustheit und Sicherheit: Eine vertrauenswürdige KI setzt Algorithmen voraus, die sicher, verlässlich und robust genug sind, um Fehler oder Unstimmigkeiten in allen Phasen des Lebenszyklus des KI-Systems zu bewältigen.
- Privatsphäre und Datenqualitätsmanagement: Die Bürgerinnen und Bürger sollten die volle Kontrolle über ihre eigenen Daten behalten und die sie betreffenden Daten sollten nicht dazu verwendet werden, sie zu schädigen oder zu diskriminieren.
- Transparenz: Die Rückverfolgbarkeit der KI-Systeme muss sichergestellt werden.
- Vielfalt, Nichtdiskriminierung und Fairness: KI-Systeme sollten dem gesamten Spektrum menschlicher Fähigkeiten, Fertigkeiten und Anforderungen Rechnung tragen und die Barrierefreiheit gewährleisten.
- Gesellschaftliches und ökologisches Wohlergehen: KI-Systeme sollten eingesetzt werden, um einen positiven sozialen Wandel sowie die Nachhaltigkeit und ökologische Verantwortlichkeit zu fördern.
- Rechenschaftspflicht: Es sollten Mechanismen geschaffen werden, die die Verantwortlichkeit und Rechenschaftspflicht für KI-Systeme und deren Ergebnisse gewährleisten.
Grosspilotprojekt mit Partnern
Im Sommer 2019 wird die Kommission eine Pilotphase unter Beteiligung eines breiten Spektrums von Interessenträgern einleiten. Unternehmen, öffentliche Verwaltungen und Organisationen können schon jetzt der Europäischen KI-Allianz beitreten. Sie werden dann benachrichtigt, wenn das Pilotprojekt beginnt. Darüber hinaus stehen die Mitglieder der hochrangigen Expertengruppe für KI bereit, um dabei zu helfen, den einschlägigen Interessenträgern in allen Mitgliedstaaten die Leitlinien näher zu bringen und zu erläutern.
Ein internationaler Konsens über eine menschenzentrierte KI
Die Kommission möchte diesen Ansatz im Bereich der KI-Ethik auch weltweit zur Geltung bringen, denn Technologien, Daten und Algorithmen kennen keine Grenzen. Zu diesem Zweck wird die Kommission die Zusammenarbeit mit gleich gesinnten Partnern intensivieren und weiterhin eine aktive Rolle bei internationalen Diskussionen und Initiativen wie der G7 und G20 spielen. An der Pilotphase werden sich auch Unternehmen aus anderen Ländern und internationale Organisationen beteiligen.
Die nächsten Schritte
Im Anschluss an die Pilotphase wird die KI-Expertengruppe Anfang 2020 die Bewertungslisten für die Kernanforderungen überprüfen, wobei sie sich auf die eingegangenen Rückmeldungen stützen wird. Auf der Grundlage dieser Überprüfung wird die Kommission sodann das Ergebnis bewerten und die nächsten Schritte vorschlagen. Um die ethisch vertretbare Entwicklung der KI zu gewährleisten, wird die Kommission darüber hinaus bis Herbst 2019 Folgendes tun: Einrichtung mehrerer Netze von KI-Spitzenforschungszentren; Beginn der Einrichtung von Netzen digitaler Innovationszentren; Einstieg in Gespräche mit den Mitgliedstaaten und Interessenträgern, um ein Modell für eine gemeinsame Datennutzung und die bestmögliche Verwendung gemeinsamer Datenräume zu entwickeln und umzusetzen.
Hintergrund
Die Kommission fördert und intensiviert die Zusammenarbeit auf dem Gebiet der KI in der gesamten EU, um die europäische Wettbewerbsfähigkeit zu steigern und das auf europäischen Werten beruhende Vertrauen zu stärken. Nach ihrer im April 2018 veröffentlichten KI-Strategie für Europa setzte die Kommission die hochrangige Expertengruppe für KI ein, die aus 52 unabhängigen Experten aus Wissenschaft, Industrie und Zivilgesellschaft besteht. Diese Expertengruppe veröffentlichte im Dezember 2018 einen ersten Entwurf der Ethik-Leitlinien, gefolgt von einer Konsultation der Interessenträger und von Treffen mit Vertretern der Mitgliedstaaten, um Rückmeldungen einzuholen. Diese Arbeit folgt auf den mit den Mitgliedstaaten koordinierten Plan zur Förderung der Entwicklung und Nutzung künstlicher Intelligenz in Europa, der ebenfalls im Dezember 2018 vorgestellt wurde.
