In Europa geht es im regulatorischen Bereich vorwärts: Die Europäische Kommission hat einen Vorschlag für ein Gesetz über Künstliche Intelligenz vorgelegt.

Autorin: Lea Leibundgut

Mit der Entwicklung und dem Einsatz von Künstlicher Intelligenz (KI) findet der nächste grosse Technologiesprung in der digitalen Welt statt. Aktuell werden enorme Geldsummen in die neue Technologie investiert und Anwendungen wie beispielsweise der Chatbot «ChatGPT» oder das Programm «DALL-E 2» gewinnen zunehmend an Bedeutung. Immer mehr Produkte, die auf KI-Systemen basieren, werden auf dem Markt eingeführt. Normen und Regulierungen setzen oft erst dann ein, wenn eine Technologie etwas ausgereifter ist und erste rechtliche und auch ethische Fragen auftauchen. Eine grosse Herausforderung ist es, international anerkannte und allgemein akzeptierte Normen und Standards zu erarbeiten.

Künstliche Intelligenz – ein rasant wachsender Markt

Im Jahr 2019 investierte Microsoft eine Milliarde Dollar in das US-amerikanische Unternehmen OpenAI. OpenAI ist das Unternehmen, welches hinter ChatGPT steht, dem Chatbot, der aktuell durch seine Sprachverarbeitung und Textausgabe KI-interessierte Menschen begeistert und Bildungsinstitutionen besorgt. Vor Kurzem hat Microsoft angekündigt, die Partnerschaft mit OpenAI mit einem Multimilliarden-Dollar-Investment zu erweitern.

Die Stanford Universität schätzt im Artificial Intelligence (AI) Index Report 2022, dass sich die privaten Investitionen im Bereich KI im Jahr 2021 auf 93,5 Milliarden Dollar belaufen – mehr als doppelt so viel, wie die gesamten privaten Investitionen im Jahr 2020. Das Programm «Digitales Europa», das auf den Aufbau der strategischen digitalen Kapazitäten der EU und die Erleichterung des breiten Einsatzes digitaler Technologien ausgerichtet ist, hat ein Gesamtbudget von ca. 7,5 Milliarden Euro.

Es braucht Normen für die KI-Systeme

In der Schweiz hat der Bund bereits 2019 in seinem Bericht «Internationale Gremien und Künstliche Intelligenz» festgehalten, dass sich die internationale Nachfrage nach ethischen Prinzipien sowie gemeinsamen internationalen Normen und Leitlinien für KI-Systeme häufen. So erstaunt es nicht, dass sich nebst der UNO auch die EU, die OECD, der Europarat sowie internationale technische Normengremien mit den internationalen Rahmenbedingungen rund um den Einsatz von KI befassen. Dabei geht es um Fragen der Transparenz, Nachvollziehbarkeit sowie Verantwortlichkeiten von KI.

Doch mit der schnellen KI-Entwicklung können die multilateralen und internationalen Regulierungsprozesse kaum Schritt halten. Erschwerend kommt hinzu, dass KI nicht nur einen, sondern gleich mehrere Rechtsnormen tangiert, unter anderem die Menschenrechte. Treiber der technischen Entwicklung sind grosse Technologieunternehmen, welche durch ihre internationale Tätigkeit und wirtschaftlichen Interessen eigene Standards etablieren können.

Vorschlag der EU-Kommission und Positionierung der Schweiz

In der EU wird seit mehreren Jahren an der Regulierung von KI gearbeitet. Der Europarat setzt sich für ein bindendes, internationales Übereinkommen ein. Seit April 2021 liegt ein EU-Vorschlag für eine Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz und zur Änderung bestimmter Rechtsakte der Europäischen Union vor. Die Ziele des Vorschlags sind, dass KI oder Produkte mit integrierter KI für die Marktzulassung einer Risikobewertung unterzogen werden müssen. Dabei wird die KI oder das mit KI versehene Produkt in folgende drei Risikoklassen eingeteilt:

unannehmbares Risiko
hohes Risiko
geringes oder minimales Risiko

KI, die ein unannehmbares Risiko darstellen, erhalten keine Marktzulassung. Solche, die ein hohes Risiko darstellen, müssen ein Konformitätsbewertungsverfahren durch eine öffentliche, notifizierte Stelle durchlaufen. Dabei wird geprüft, ob die Hochrisiko-KI-Systeme die Grundrechte der Europäischen Union einhalten.

Als nicht EU-Mitglied stellt sich für die Schweiz die Frage, wie man sich zum Vorschlag der Europäischen Kommission positioniert. Fachpersonen (Braun Binder et al., 2021) sehen einen Lösungsansatz in einer punktuellen Anpassung der bestehenden Normen und nicht in einer Ausarbeitung eines übergreifenden KI-Gesetzes. Die Entscheidungen der Europäischen Union werden die Schweiz und ihre Wirtschaft beeinflussen. Aus diesem Grund ist es wichtig, das Schweizer Unternehmen und Behörden sich in die Ausarbeitung von technischen Normen einbringen.

ISO und europäische Normung

Seit seiner Gründung 2017 befasst sich das Komitee ISO/IEC JTC 1/SC 42 Artificial intelligence unter der organisatorischen Leitung des American National Standards Institutes (ANSI) mit der Normung rund um Künstliche Intelligenz. Bisher wurden sechs ISO/IEC-Normen und neun Technical Reports veröffentlicht. An 15 weiteren ISO/IEC-Normen, sechs technischen Spezifikationen sowie vier technischen Reporten wird zurzeit gearbeitet. An der Normung beteiligen sich unter anderem Expertinnen und Experten aus Westeuropa, China und Nordamerika.

Das Normenkomitee CEN-CLC/JTC 21 ist das Pendant zum Komitee ISO/IEC JTC 1/SC 42 auf europäischer Ebene und konzentriert sich somit auf die Erstellung von Normen und normativen Dokumenten, die den Bedürfnissen des europäischen Marktes entsprechen und die EU-Gesetzgebung, deren Politik, Grundsätze und Werte untermauern. Es ist anzunehmen, dass mit dem Vorschlag zum Gesetz über die Künstliche Intelligenz auch ein Normungsmandat an CEN und CENELEC durch die Europäische Kommission erteilt wird.

Mitwirken ist gefragt!

Möchten Sie die kommenden KI-Normen mitgestalten oder auf dem Laufenden gehalten werden? Als Mitglied im nationalen Normenkomitee INB/NK 149/UK 42 Artificial intelligence erhalten Sie Zugang und Mitspracherecht zu den Normenentwürfen von ISO, IEC und CEN/CENELEC.

* Autorin:
Lea Leibundgut
Programme Manager
Schweizerische Normen-Vereinigung (SNV)