Am 1. August 2024 trat die europäische Verordnung über künstliche Intelligenz („KI“), bekannt als KI-Gesetz, in Kraft. Dies ist die weltweit erste Verordnung, die sich speziell mit KI befasst. Sie zielt darauf ab, innovative KI zu fördern und gleichzeitig sicherzustellen, dass diese zuverlässig, ethisch vertretbar und transparent ist.

Sobald das KI-Gesetz vollständig anwendbar ist, werden den nutzenden Unternehmen neue, je nach Risikograd ihrer Produkte mehr oder weniger strenge Compliance-Verpflichtungen auferlegt. Ab Februar 2025 werden KI-Systeme, die ein unannehmbares Risiko darstellen, verboten (z. B. die Klassifizierung von Personen nach ihrem sozioökonomischen Status, ihren Werten oder ihrer Rasse oder die Echtzeit-Gesichtserkennung auf Abstand zu Strafverfolgungszwecken).

Ab dem Sommer 2027 werden Unternehmen, die KI-Systeme mit hohem Risiko verkaufen oder bereitstellen, strenge Auflagen auferlegt, wie z. B. die CE-Kennzeichnung ihrer Produkte, die Registrierung in einer europäischen Datenbank, die Einrichtung eines KI-Risikomanagements oder die systematische Befragung von Anbietern zu ihren Produkten. Letztere werden in kritischen Infrastrukturen (z. B. in den Bereichen Verkehr, Gesundheit, Wasser-, Gas- oder Stromversorgung), in wesentlichen öffentlichen und privaten Dienstleistungen (z. B. Bonitätsbewertung durch Banken und Versicherungsgesellschaften), im Bildungswesen, im Beschäftigungsbereich oder in der Justiz eingesetzt. KI-Systeme, die das Profiling von Personen nutzen, gehören ebenfalls zur Kategorie der Hochrisikosysteme.

Die meisten anderen Bestimmungen der Verordnung treten im Sommer 2026 in Kraft. Systeme mit begrenztem Risiko wie Chatbots, Empfehlungssysteme und Deepfakes müssen die Benutzer über ihren automatisierten Charakter informieren. Spam-Filter oder KI in Videospielen, die ein minimales Risiko darstellen, unterliegen schließlich keinen besonderen Verpflichtungen, abgesehen von der empfohlenen Einführung eines Verhaltenskodexes.

Das KI-Gesetz gilt für alle juristischen Personen, die KI-Systeme entwickeln, bereitstellen oder vertreiben. Unabhängig davon, ob das Unternehmen seinen Sitz in der Europäischen Union oder im Ausland hat, unterliegt es dem KI-Gesetz, wenn seine KI-Systeme auf europäischem Gebiet vermarktet oder genutzt werden.

Die Integration dieser Maßnahmen durch ein Unternehmen verschafft diesem Unternehmen einen Wettbewerbsvorteil und schützt es vor erheblichen Strafen, da die Geldbußen bei Nichteinhaltung bis zu 15 Millionen Euro oder 3 % des weltweiten Umsatzes betragen können. Diese Obergrenzen werden für kleine und mittlere Unternehmen und Start-ups gesenkt. Zusätzlich zu diesen hohen Geldbußen kann den Unternehmen auferlegt werden, ihre KI-Systeme vom Markt zu nehmen.

Es ist daher ratsam, sich bereits jetzt auf die vollständige Anwendung der Gesetzgebung vorzubereiten. Das Erstellen einer Kartographie der KI-Systeme im Hinblick auf ihre Klassifizierung ist dabei prioritär.