Wirtschaft im Südwesten - Ausgabe Dezember'24 -Schwarzwald-Baar-Heuberg

62 IHK-Zeitschrift Wirtschaft im Südwesten 12 | 2024 SERVICE RECHT D ie europäische Verordnung über künstliche Intel- ligenz (KI-Verordnung) ist am 1. August in Kraft getreten. Das fast 150 Seiten starke Gesetzeswerk zielt darauf ab, die verantwortungsvolle Entwicklung und Verwendung künstlicher Intelligenz in der EU zu fördern. Aber tut sie das wirklich? Die KI-Verordnung ist mit dem erklärten Ziel erlassen worden, europaweit klare Anforderungen festzulegen, die Entwickler und Betreiber je nach spezifischer Ver- wendung der KI zu erfüllen haben. Dabei sollen ins- besondere die potenziellen Risiken für Gesundheit, Sicherheit und Grundrechte der EU-Bürger berücksich- tigt werden. Herzstück der Verordnung sind damit ein- hergehend die technologieoffene, zukunftsgewandte Definition von KI sowie der risikobasierte Ansatz zur Systematisierung von KI-Systemen. Welche KI-Systeme die EU verbietet Letztere werden zukünftig nach den von ihnen ausge- henden Risiken beurteilt und eingestuft. KI-Systeme mit minimalem Risiko, wie beispielsweise Spamfilter, unterliegen keinen besonderen Verpflichtungen. Aller- dings gibt es Transparenzpflichten: So müssen etwa Chatbots ihre Nutzer darauf hinweisen, dass sie es mit einer Maschine zu tun haben. Auch bestimmte KI-erzeugte Inhalte müssen als solche gekennzeichnet werden. Strenge Anforderungen gelten demgegenüber für sol- che KI-Systeme, von denen ein hohes Risiko ausgeht. Beispielsweise solche, die im HR-Bereich oder im Be- reich Bildung zum Einsatz kommen. Man denke an KI-gestützte Medizinprodukte oder autonome Fahrzeu- ge. Hier muss zukünftig eine Konformitätsbewertung durchgeführt werden, die Systeme müssen registriert sein und es gelten besondere Dokumentations- und Transparenzpflichten. Schließlich gibt es KI-Systeme, denen ein unannehm- bares Risiko anhaftet. Diese werden schlicht verboten. Insgesamt acht unterschiedliche Bereiche sind hiervon betroffen, darunter Systeme, die Unternehmen oder Behörden eine Bewertung von sozialem Verhalten er- möglichen (sogenanntes Social Scoring) oder unter- schwellige manipulative Techniken einsetzen. Doch bereits jetzt werden Zweifel laut, ob die EU ihre erklärtermaßen weltweite Führungsrolle einnehmen kann oder ob sich die KI-Verordnung eher als ein bü- rokratisches Monstrum erweisen wird. Über KI-Einschränkungen in China und den USA Es geht die Sorge um, dass die Anforderungen ledig- lich von großen Unternehmen mit großer Compliance- Abteilung erfüllt werden können, während sich kleine Start-ups unter Umständen entscheiden könnten, ihre KI-Systeme aufgrund der überbordenden Regulatorik der Verordnung mit ihrem detaillierten Pflichtenkatalog in Europa gar nicht auf den Markt zu bringen. Damit ver- bunden wäre ein weiterer Standortnachteil im ohnehin eher angespannten wirtschaftlichen Weltgefüge. Im globalen Wettbewerb um digitale Technologien würde Europa noch weiter hinter die USA und Asien zurück- fallen. Und das bei einer so zukunftsträchtigen Tech- nologie wie der künstlichen Intelligenz. Allerdings sei der Hinweis erlaubt, dass man auch in anderen Teilen der Welt die Notwendigkeit der Regu- lierung von KI erkannt hat: So existieren mit der exe- cutive order der Vereinigten Staaten, dem Gesetz zu automated decision-making in China und dem Artificial Intelligence and Data Act in Kanada bereits entspre- chende Bestimmungen. Regulatorik wird also nicht nur in Europa für notwendig erachtet, um sowohl die Entwicklung von KI zu fördern als auch die damit ver- bundenen Risiken zu managen. Allen Nörglern zum Trotz muss die KI-Verordnung ih- ren Praxistest erst noch bestehen. Zu begrüßen ist jedenfalls, dass die EU durch ihre Initiative einen re- gulatorischen Flickenteppich in Europa mit 27 einzel- nen nationalen Gesetzen verhindert hat. Auch sei mit dem „Godfather“ der KI, dem Nobelpeisträger Geoffrey Hinton, daran erinnert, dass von KI auch fundamenta- le Risiken für die Menschheit einhergehen, die es im Zaum zu halten gilt. Europas KI-Verordnung Großer Wurf oder neues Monster? Allen Vorschriften der neuen europäischen KI-Verordnung zu entsprechen, ist für kleine Unternehmen nicht einfach. Dennoch ist die Brüsseler Initiative nicht nur als bürokratische Belastung zu sehen, meint unsere Autorin Peggy Müller. Unsere Autorin Peggy Müller ist Rechtsanwältin bei Advant Beiten mit Sitz in Freiburg. Ihre Rechtsgebiete sind gewerblicher Rechtsschutz, IT und Recht der Daten sowie Vertrags- und Handelsrecht.