EU-Gesetz zur künstlichen Intelligenz: der AI Act

Der Rat der Europäischen Union hat am 21.05.2024 den Artificial Intelligence Act (AI Act) verabschiedet. Die Verordnung regelt EU-weit den Einsatz und Umgang mit Tools, die künstliche Intelligenz einsetzen.

Inkrafttreten

20 Tage nach der noch ausstehenden Veröffentlichung im Amtsblatt der Europäischen Union tritt der AI Act in Kraft. Allerdings werden die meisten Regeln erst in zwei Jahren greifen.

Risikobasierter Regelungsansatz

KI-Systeme werden künftig nach ihrem Risiko bewertet und entsprechend reguliert. Sowohl Anbieter als auch Nutzer von KI-Systemen müssen diverse Auflagen erfüllen. Der AI-Act gliedert KI-Systeme in Risikoklassen:

• Ein inakzeptables Risiko stellen zum Beispiel KI-Systeme dar, die menschliches Verhalten manipulieren und Menschen schaden könnten. Hierunter fallen Anwendungen, die in Echtzeit ferne Systeme in der Öffentlichkeit erkennen und eine biometrische Identifizierung von Menschen ermöglichen. Ausnahmen bestehen zur Abwehr von Terrorismus oder um schwere Straftaten aufzuklären.
• Hochriskante KI-Systeme, z.B. in den Bereichen der kritischen Infrastruktur, Beschäftigung sowie im Gesundheits- oder Bankenwesen, müssen eine Reihe von Anforderungen erfüllen, um für den EU-Markt zugelassen zu werden.
• Für Anwendungen mit einem geringen Risiko gelten lediglich begrenzte Transparenz- und Informationspflichten über den Einsatz selbst oder darüber, dass die dargestellten Inhalte manipuliert und nicht echt sind. Hierunter fallen Systeme, die mit Menschen interagieren oder zur Erkennung von Emotionen oder zur Assoziierung (gesellschaftlicher) Kategorien anhand biometrischer Daten eingesetzt werden oder solche, die Inhalte erzeugen oder manipulieren (z.B. Spamfilter, Videospiele, Suchalgorithmen, Deep Fakes oder Chatbots).

Sanktionen bei Verstößen

Verstöße gegen die Regelungen verbotener Praktiken können Unternehmen Strafen bis zu 35 Mio. EUR oder 7% ihres weltweiten Jahresumsatzes im Vorjahr kosten. Fehlerhafte Meldungen können mit bis zu 7,5 Mio. EUR oder 1,5 % des Jahresumsatzes geahndet werden, je nachdem, welcher Betrag höher ist. Daneben können die nationalen Aufsichtsbehörden die Anbieter zwingen, nicht konforme KI-Systeme vom Markt zu nehmen. Für KMU und Start-Ups sind die Geldbußen moderater.

Handlungsgebot

Unternehmen sollten sich so früh wie möglich mit den neuen Regelungen des AI-Act befassen. Das gilt insbesondere für Anbieter von Hochrisiko-KI-Systemen. Aber auch Unternehmen, die von anderen Unternehmen bereitgestellte KI-Systeme nutzen, sollten rasch eine Bestandsaufnahme ihrer Systeme vornehmen und die entsprechenden Verpflichtungen bewerten und regeln.

Autor: RA Michael Tusch