Großer Wurf oder neues Monster?

Die europäische Verordnung über künstliche Intelligenz (KI-Verordnung) ist am 1. August in Kraft getreten. Das fast 150 Seiten starke Gesetzeswerk zielt darauf ab, die verantwortungsvolle Entwicklung und Verwendung künstlicher Intelligenz in der EU zu fördern. Aber tut sie das wirklich?
Die KI-Verordnung ist mit dem erklärten Ziel erlassen worden, europaweit klare Anforderungen festzulegen, die Entwickler und Betreiber je nach spezifischer Verwendung der KI zu erfüllen haben. Dabei sollen insbesondere die potenziellen Risiken für Gesundheit, Sicherheit und Grundrechte der EU-Bürger berücksichtigt werden. Herzstück der Verordnung sind damit einhergehend die technologieoffene, zukunftsgewandte Definition von KI sowie der risikobasierte Ansatz zur Systematisierung von KI-Systemen.

Welche KI-Systeme die EU verbietet
Letztere werden zukünftig nach den von ihnen ausgehenden Risiken beurteilt und eingestuft. KI-Systeme mit minimalem Risiko, wie beispielsweise Spamfilter, unterliegen keinen besonderen Verpflichtungen. Allerdings gibt es Transparenzpflichten: So müssen etwa Chatbots ihre Nutzer darauf hinweisen, dass sie es mit einer Maschine zu tun haben. Auch bestimmte KI-erzeugte Inhalte müssen als solche gekennzeichnet werden.
Strenge Anforderungen gelten demgegenüber für solche KI-Systeme, von denen ein hohes Risiko ausgeht. Beispielsweise solche, die im HR-Bereich oder im Bereich Bildung zum Einsatz kommen. Man denke an KI-gestützte Medizinprodukte oder autonome Fahrzeuge. Hier muss zukünftig eine Konformitätsbewertung durchgeführt werden, die Systeme müssen registriert sein und es gelten besondere Dokumentations- und Transparenzpflichten.
Schließlich gibt es KI-Systeme, denen ein unannehmbares Risiko anhaftet. Diese werden schlicht verboten. Insgesamt acht unterschiedliche Bereiche sind hiervon betroffen, darunter Systeme, die Unternehmen oder Behörden eine Bewertung von sozialem Verhalten ermöglichen (sogenanntes Social Scoring) oder unterschwellige manipulative Techniken einsetzen.
Doch bereits jetzt werden Zweifel laut, ob die EU ihre erklärtermaßen weltweite Führungsrolle einnehmen kann oder ob sich die KI-Verordnung eher als ein bürokratisches Monstrum erweisen wird.

Über KI-Einschränkungen in China und den USA
Es geht die Sorge um, dass die Anforderungen lediglich von großen Unternehmen mit großer Compliance-Abteilung erfüllt werden können, während sich kleine Start-ups unter Umständen entscheiden könnten, ihre KI-Systeme aufgrund der überbordenden Regulatorik der Verordnung mit ihrem detaillierten Pflichtenkatalog in Europa gar nicht auf den Markt zu bringen. Damit verbunden wäre ein weiterer Standortnachteil im ohnehin
eher angespannten wirtschaftlichen Weltgefüge. Im globalen Wettbewerb um digitale Technologien würde Europa noch weiter hinter die USA und Asien zurückfallen. Und das bei einer so zukunftsträchtigen Technologie wie der künstlichen Intelligenz.
Allerdings sei der Hinweis erlaubt, dass man auch in anderen Teilen der Welt die Notwendigkeit der Regulierung von KI erkannt hat: So existieren mit der executive order der Vereinigten Staaten, dem Gesetz zu automated decision-making in China und dem Artificial Intelligence and Data Act in Kanada bereits entsprechende Bestimmungen. Regulatorik wird also nicht nur in Europa für notwendig erachtet, um sowohl die Entwicklung von KI zu fördern als auch die damit verbundenen Risiken zu managen.

Allen Nörglern zum Trotz muss die KI-Verordnung ihren Praxistest erst noch bestehen. Zu begrüßen ist jedenfalls, dass die EU durch ihre Initiative einen regulatorischen Flickenteppich in Europa mit 27 einzelnen nationalen Gesetzen verhindert hat. Auch sei mit dem „Godfather“ der KI, dem Nobelpeisträger Geoffrey Hinton, daran erinnert, dass von KI auch fundamentale Risiken für die Menschheit einhergehen, die es im Zaum zu halten gilt.