Nach rekordverdächtigen Verhandlungen ist der EU die Quadratur des Kreises für das weltweit erste umfassende Regelwerk für Künstliche Intelligenz gelungen. Es kursieren bereits einige Berichte darüber, was vereinbart wurde. Nach der grundsätzlichen Einigung werden in den nächsten Wochen weitere Details und technische Texte ausgearbeitet, denn es ist zu erwarten, dass sich Details noch ändern werden. Anwendbar wird es voraussichtlich erst ab 2026 sein. Parallel dazu läuft der Aufruf zum KI-Pakt, der Unternehmen bei der Planung der im KI-Gesetz vorgesehenen Maßnahmen unterstützen soll.
Ein kurzer Überblick
… über die wichtigsten Elemente der vorläufigen Einigung. Im Vergleich zum ursprünglichen Kommissionsvorschlag lassen sich die wichtigsten neuen Elemente der vorläufigen Einigung wie folgt zusammenfassen:
- Regeln für KI-Modelle mit großen Auswirkungen, die in Zukunft zu systemischen Risiken führen könnten, sowie für KI-Systeme mit hohem Risiko
- ein überarbeitetes Governance-System mit einigen Durchsetzungsbefugnissen auf EU-Ebene
- Erweiterung der Verbotsliste, jedoch mit der Möglichkeit der biometrischen Fernidentifizierung durch Strafverfolgungsbehörden im öffentlichen Raum, vorbehaltlich der Einhaltung von Schutzmaßnahmen
- Besserer Schutz der Rechte durch die Verpflichtung der Betreiber von KI-Systemen mit hohem Risiko, eine Folgenabschätzung in Bezug auf die Grundrechte durchzuführen, bevor ein KI-System in Betrieb genommen wird.
Weitere Details in der EU AI ACT Pressemitteilung
Informationspflicht und öffentliche Dienstleistungen
Anbieter von allgemeinen KI-Systemen wie ChatGPT müssen allen nachgelagerten Wirtschaftsakteuren, die eine Anwendung entwickeln, die in die Hochrisikokategorie fällt, alle erforderlichen Informationen zur Verfügung stellen, damit diese ihren Verpflichtungen aus dem KI Act nachkommen können.
Verpflichtung für öffentliche und private Einrichtungen, die wesentliche öffentliche Dienstleistungen erbringen, wie Krankenhäuser, Schulen, Banken und Versicherungen, die Hochrisikosysteme einsetzen, eine Folgenabschätzung in Bezug auf die Grundrechte durchzuführen.
KI-Pakt der EU
Während einige Bestimmungen der KI-Gesetzgebung bereits kurz nach Verabschiedung der Verordnung anwendbar sein werden, werden andere (z. B. einige Anforderungen an KI-Systeme mit hohem Risiko) erst nach einer Übergangszeit (d. h. zwischen dem Inkrafttreten und dem Zeitpunkt der Anwendbarkeit) gelten.
Vor diesem Hintergrund initiiert die Kommission den KI-Pakt, mit dem sie eine freiwillige Selbstverpflichtung der Industrie anstrebt, das KI-Gesetz zu antizipieren und mit der Umsetzung seiner Anforderungen vor dem gesetzlichen Stichtag zu beginnen.
Jetzt starten, KI einführen und weiterentwickeln
Es ist daher jedem Unternehmen, das KI im Unternehmenskontext einsetzen möchte, zu empfehlen, die Entwicklung kontinuierlich zu verfolgen und insbesondere mögliche Hochrisikoanwendungen wie im HR-Bereich laufend zu bewerten. Mit 506 CompanyGPT evaluieren wir gemeinsam mit unseren Kundinnen und Kunden je nach Einsatzzweck laufend, ob und wenn ja, in welcher Form eine Anwendung der EU AI ACT notwendig ist.