Firmenkunden
Kontakt

Was bringt die neue KI-Verord­nung?

Künstliche Intelligenz hat spätestens durch Modelle wie ChatGPT globale Aufmerksamkeit erlangt. Die neue KI-Verordnung der EU ist die weltweit erste umfassende gesetzliche Regelung für KI. Warum das auch Ihr Unternehmen schützt. 

KI-gestützte Systeme können in Bereichen wie Geschäftsreisen, Personalwesen, Kundenservice oder Lieferkettenmanagement wertvolle Zeit und Ressourcen einsparen.

Sie kann z. B. riesige Datenmengen in Echtzeit analysieren und so tiefere Einblicke in Geschäftsprozesse, Markttrends oder Kundenverhalten ermöglichen.

Europäische Verordnung seit August 2024

Die europäische Verordnung 2024/1689 über künstliche Intelligenz (KI-Verordnung, KI-VO oder auch AI Act) ist am 1. August 2024 in Kraft getreten.

Fragen wie diese soll die neue KI-Verordnung beantworten:

  • Wie schütze ich mein Unternehmen,  Mitarbeitende und Kund:innen? 
  • Sind Systeme von externen Dienstleistern wirklich sicher? Und wer kontrolliert das?

Mit ihr gibt es zum ersten Mal ein Kontrollgremium und einen Sicherheitsrahmen.

Wozu dient die neue KI-Verordnung?

Das Hauptziel der KI-VO ist es, Künstliche Intelligenz zu regulieren und ein rechtliches Regelwerk zu schaffen, das die Chancen von KI fördert und gleichzeitig aber potenzielle Risiken minimiert. Außerdem soll der Schutz von Grundrechten sichergestellt werden. Kurz zusammengefasst geht es um:

  • Sicherheit und Vertrauenswürdigkeit
    Der AI Act soll sicherstellen, dass KI-Systeme sicher und transparent sind und keine Risiken für die Gesellschaft oder Einzelpersonen darstellen.
  • Förderung von Innovation
    Gleichzeitig möchte die EU mit dem AI Act einen Raum schaffen, in dem KI-Innovation gefördert wird, indem ein klarer rechtlicher Rahmen etabliert wird.
  • Schutz der Grundrechte
    Datenschutz, Nicht-Diskriminierung und Fairness sind zentrale Aspekte. KI-Systeme sollen die Rechte der Menschen respektieren, insbesondere in Bezug auf persönliche Daten und Diskriminierungsfragen.

An wen richtet sich die KI-Verordnung?

An Anbieter:innen und Betreiber:innen von KI-Systemen. Aber auch, wenn Ihr Unternehmen lediglich diese Systeme nutzt, ist das Gesetz für Sie relevant: Sie partizipieren, da alle KI-gestützten Anwendungen, die Sie als Arbeitgeber nutzen, dem neuen Gesetz unterliegen.

Wie funktioniert die KI-VO?

Es gibt 3 Risikoeinstufungen:

1. Minimales Risiko

Die meisten KI-Systeme, wie zum Beispiel Empfehlungssysteme und Spamfilter, fallen in diese Kategorie. Diese Systeme unterliegen wegen ihres geringen Risikos für die Rechte und die Sicherheit der Bürger:innen im Rahmen der KI-Verordnung keinen besonderen Verpflichtungen.

2. Hohes Risiko

Zum hohen Risiko zählen KI-Systeme, die die Sicherheit der Menschen oder ihre Grundrechte gefährden. Zum Beispiel:

  • in Bereichen wie Straßenverkehr und Wasser-, Gas-, Wärme- und Stromversorgung
  • im Personalmanagement und zur Analyse, Bewertung und Filterung von Bewerbenden
  • KI-Systeme, die zur biometrischen Identifizierung, Kategorisierung und Emotionserkennung verwendet werden, soweit sie nicht verboten sind

3. Unannehmbares Risiko

Eine sehr begrenzte Zahl besonders schädlicher KI-Anwendungen, die gegen die EU-Werte verstoßen, weil sie Grundrechte verletzen, wird ganz verboten. Zum Beispiel, wenn sie folgende Kriterien erfüllen:

  • Ausnutzung der Schutzbedürftigkeit von Personen, der Manipulation und dem Einsatz von Techniken zur unterschwelligen Beeinflussung
  • Bewertung des sozialen Verhaltens (Social Scoring) für öffentliche und private Zwecke
  • ungezielte Auswertung von Gesichtsbildern aus dem Internet oder von Überwachungsaufnahmen, um Datenbanken aufzubauen oder zu erweitern
  • Emotionserkennung am Arbeitsplatz, außer zu medizinischen oder sicherheitstechnischen Zwecken (z. B. zur Überwachung der Müdigkeit von Pilot:innen)
  • biometrische Kategorisierung natürlicher Personen, um daraus die ethnische Herkunft, politische Auffassungen, die Zugehörigkeit zu einer Gewerkschaft, religiöse oder weltanschauliche Überzeugungen oder die sexuelle Orientierung abzuleiten

Die EU wird detaillierte Leitlinien zu den Verboten herausgeben, bevor sie am 2. Februar 2025 aktiv angewendet werden.

Wann tritt die KI-VO in Kraft?

Die Pflichten der Verordnung greifen nach und nach bis 2026.

  • In den ersten 6 Monaten müssen die Mitgliedstaaten verbotene Systeme schrittweise abschalten.
  • Nach 12 Monaten greifen die Pflichten für KI-Systeme für Allgemeine Zwecke.
  • Nach 24 Monaten sind nahezu alle Vorschriften der KI-Verordnung anwendbar, insbesondere auch die Pflichten der Hochrisiko-KI-Systeme.

Gut zu wissen: KI-Systeme, die bereits vor Inkrafttreten der Verordnung auf dem Markt waren, fallen nur bei signifikanten Veränderungen unter die Verordnung. Anders KI-Systeme für Allgemeine Zwecke oder Systeme im Bereich großer IT-Infrastrukturen: Für sie gelten Übergangsfristen.

Wie wird die KI-VO durchgesetzt?

Die Mitgliedstaaten haben bis zum 2. August 2025 Zeit, um ihre zuständigen nationalen Behörden zu benennen, die die Anwendung der Vorschriften für KI-Systeme beaufsichtigen und die Marktüberwachung wahrnehmen werden. 

Das bei der Kommission angesiedelte KI-Amt wird die wichtigste Stelle für die Durchführung der KI-Verordnung auf EU-Ebene sein. Das Amt wird auch für die Durchsetzung der für KI-Modelle mit allgemeinem Verwendungszweck geltenden Vorschriften sorgen.

Die Mitgliedstaaten sollen Vorschriften für Sanktionen erlassen, insbesondere für Geldbußen. 

Das kann teuer werden: Schwerwiegende Verstöße gegen grundlegende Verbote, wie die Manipulation von Menschen oder die Verletzung von Grundrechten, können mit Bußgeldern von bis zu 35 Millionen Euro oder 7 Prozent des weltweiten Jahresumsatzes des Unternehmens bestraft werden.

Es gelten besondere Transparenzverpflichtungen

KI-Systeme wie Chatbots müssen Nutzer:innen deutlich darauf hinweisen, dass sie es mit einer Maschine zu tun haben. Durch KI erzeugte Inhalte (wie Deepfakes) müssen gekennzeichnet werden, und informieren, wenn Systeme zur biometrischen Kategorisierung oder Emotionserkennung genutzt werden. 

Auch synthetische Inhalte (wie Audio-, Video-, Text- und Bildinhalte) müssen künftig in einem maschinenlesbaren Format als künstlich erzeugt oder manipuliert gekennzeichnet werden und auch als solche erkannt werden können.

Sie möchten mehr über KI erfahren?