Europäische KI Verordnung
Mit großer Mehrheit hat das EU-Parlament am 13. März 2024 die sogenannte KI Verordnung („AI Act“) beschlossen. Mit 523 Stimmen votierten die Abgeordneten mehrheitlich für den Entwurf, der tags zuvor im Parlament debattiert wurde. Vorausgegangen waren kontroverse Trilog Verhandlungen, in denen im Dezember ein Kompromiss über die Regulierung erreicht werden konnte. Die EU nimmt für sich selbst eine Vorreiterrolle in Anspruch, um einen weltweiten Standard im Bereich der Regulierung künstlicher Intelligenz zu setzen. Der umfassende AI Act basiert im Grundsatz auf einem Risikobewertungsmodell, der verschiedene Konsequenzen je nach Risikoeinschätzung für Systeme im Bereich künstlicher Intelligenz vorsieht.
Was auf Unternehmen jetzt zukommt
Aus der Einführung des Risikobewertungsmodells folgen verschiedene Kategorien, in die die KI-Systeme künftig einsortiert werden:
Nicht akzeptable Risiken: KI-Systeme, die in diese Kategorie fallen, werden künftig verboten. Bereits existierende Systeme werden innerhalb der EU vom Markt genommen werden müssen. Dies betrifft insbesondere manipulative KI-Systeme, die darauf gerichtet sind, informierte Entscheidungen zu verhindern. Auch hiervon umfasst sind KI-Systeme, die im Bereich der biometrischen Kategorisierung angesiedelt sind oder mit Gesichtserkennung aus Internet-Datenbanken oder Überwachungskameras arbeiten.
Hoch-Risiko-Systeme: Diese Tools unterliegen hohen Compliance Anforderungen. Dies betrifft nicht nur Unternehmen, die diese Systeme entwickeln, sondern auch solche, die sie vertreiben oder anwenden. Dies wird auch Unternehmen betreffen, die ihren Mitarbeitenden solche KI-Systeme zur Arbeitserleichterung zur Verfügung stellen.
KI-Systeme, die nicht in diese Kategorien fallen, unterliegen ebenfalls der Regulierung durch den AI Act. Sie lösen unter anderem Transparenzanforderungen aus.
Die Einführung umfassender Neuregelungen stellt viele Unternehmen vor die Frage, was sich nunmehr konkret ändert. Für Unternehmen, die ihren Mitarbeitenden KI-Systeme für die Erbringung ihrer Arbeitsleistung zur Verfügung stellen, ergeben sich aus dem AI Act zahlreiche Verpflichtungen. Nur einige sollen hier herausgestellt werden:
Transparenzpflichten: Beim Einsatz von KI-Systemen ist deren Nutzung gegenüber den Personen, etwa Mitarbeitenden oder Bewerber:innen, die mit den so generierten Inhalten konfrontiert werden, offenzulegen.
Schulungspflichten in Bezug auf Hoch-Risiko-KI: Unternehmen sind verpflichtet, sicherzustellen, dass Mitarbeitende, die Kontrolle über Hoch-Risiko-KI ausüben, zureichende Kompetenzen aufweisen und Schulungen erhalten.
Überwachungspflichten: Unternehmen sind beim Einsatz von Hoch-Risiko-KI darüber hinaus verpflichtet, zu überprüfen, ob die Systeme unter Berücksichtigung der für sie erstellten Gebrauchsanweisungen verwendet werden.
Noch ausstehend ist die förmliche Annahme des AI Acts durch den Rat und das Berichtigungsverfahren des Parlaments, in dem eine abschließende Prüfung durch Sprach- und Rechtssachverständige erfolgt. Der AI Act wird nach seiner finalen Veröffentlichung im Amtsblatt der EU schrittweise in Kraft treten. Verbotene KI-Systeme sind innerhalb von sechs Monaten nach Inkrafttreten des AI Acts abzuschalten.
Unternehmen, in denen KI-Systeme bereits heute zum Einsatz kommen, sind gut beraten, diese Systeme bereits heute auf ihre Konformität mit dem Vorgaben des AI Acts zu überprüfen. Auch die Einführung von Handlungsvorgaben zum Einsatz der Systeme für die Mitarbeitenden bietet sich an, um den Mitarbeitenden einen klaren Handlungsspielraum zu geben. Nicht zuletzt sollten Unternehmen bereits heute Schulungsmaßnahmen zum richtigen Einsatz von KI für ihre Mitarbeitenden in Betracht ziehen.
Wir beraten derzeitig weltweit Unternehmen bei der Einführung von KI-Systemen in Bezug auf alle damit verbundenen rechtlichen Aspekte.
Sie haben weitere Fragen zu diesem Thema?
Auch interessant
Darf der Betriebsrat bei der Nutzung von ChatGPT mitbestimmen? NEIN sagt das Arbeitsgericht Hamburg!
Februar 2024
- Pia Scheer
- Ulrike Schulke