Die Verordnung (EU) 2024/1689 („KI-Verordnung“) legt Regeln für die Nutzung von Künstlicher Intelligenz (KI) in der EU fest, um Innovation zu fördern und gleichzeitig Grundrechte, Sicherheit und Transparenz zu gewährleisten. Teile der Verordnung sind bereits im Februar 2025 in Kraft getreten.
Erwägungsgründe
Die Verordnung betont die Notwendigkeit einer sicheren und vertrauenswürdigen KI, die mit der EU-Grundrechtecharta im Einklang steht. Sie verfolgt einen risikobasierten Ansatz und unterscheidet zwischen verbotenen KI-Praktiken, Hochrisiko-KI-Systemen und regulierten Anwendungen. Insbesondere Hochrisiko-KI-Systeme unterliegen strengen Anforderungen hinsichtlich Transparenz, Sicherheit und Nichtdiskriminierung. Zudem soll die Verordnung einheitliche Regeln im Binnenmarkt schaffen und eine Fragmentierung verhindern.
Pflichten nach der KI-Verordnung
Die meisten Unternehmen in Deutschland dürften aktuell keine eigenen KI-Systeme anbieten. Die Pflichten gelten jedoch auch für Betreiber, also für Unternehmen, die KI-Systeme von Dritten nutzen. Artikel 4 der KI-Verordnung schreibt vor, dass Anbieter und Betreiber von KI-Systemen Maßnahmen ergreifen müssen, um sicherzustellen, dass ihr Personal sowie weitere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über ein ausreichendes Maß an KI-Kompetenz verfügen.
Handlungsbedarf für Unternehmen
Die KI-Verordnung schreibt derzeit keine konkreten Schulungsmaßnahmen oder Dokumentationspflichten vor. Wie die geforderte KI-Kompetenz der Mitarbeitenden sichergestellt wird, bleibt daher den Unternehmen selbst überlassen.
Zunächst sollten Unternehmen prüfen, ob und in welchem Umfang KI-Systeme in ihrem Unternehmen eingesetzt werden und welche Risiken damit verbunden sind. Anschließend sollten Mitarbeitende, die mit KI-Systemen arbeiten oder in Zukunft arbeiten werden, gezielt geschult werden, um ihre KI-Kompetenz zu fördern und ein Bewusstsein für die Fähigkeiten, aber auch Grenzen von KI-Systemen zu entwickeln.
Aus Haftungsgründen kann es zudem sinnvoll sein, interne KI-Richtlinien zu erstellen, die einen klaren Rahmen für den sicheren und verantwortungsvollen Umgang mit KI-Systemen im Unternehmen vorgeben.
Benötigen Sie Unterstützung oder Beratung zu diesem Thema? Sprechen Sie uns gerne an.
