Was ist die KI-Verordnung (AI Act) und welche Unternehmen müssen sie einhalten?

Was ist die KI-Verordnung (AI Act)?

Die KI-Verordnung ist eine EU-Verordnung. Sie legt fest, welche Einsätze künstlicher Intelligenz verboten sind, welche als hochriskant gelten und welche Pflichten diejenigen haben, die KI entwickeln oder nutzen. Als Verordnung gilt sie wie die DSGVO unmittelbar in allen EU-Staaten und muss nicht erst in deutsches Recht umgesetzt werden. Deutschland hat nur ein Durchführungsgesetz erlassen, das Behörden und Verfahren regelt (dazu unten mehr).

Der amtliche deutsche Name lautet Verordnung über künstliche Intelligenz. Sie wurde am 12. Juli 2024 im Amtsblatt veröffentlicht und trat am 1. August desselben Jahres in Kraft. Seit dem 27. Juli 2026 gilt sie in der Fassung der Verordnung (EU) 2026/1744, der Digital-Omnibus-Verordnung zur KI. Diese hat mehrere Termine verschoben und ein zusätzliches Verbot eingeführt.

Der Begriff „KI-System“ ist weit gefasst. Gemeint ist ein maschinengestütztes System, das mit einem gewissen Grad an Autonomie arbeitet und aus den Eingaben, die es erhält, Vorhersagen, Inhalte, Empfehlungen oder Entscheidungen erzeugt. Art. 3 Nr. 1 Ein Sprachmodell, das Kundenanfragen beantwortet, fällt darunter. Eine Tabellenkalkulation mit festen Formeln dagegen nicht.

Warum es die KI-Verordnung gibt

Die Verordnung nennt ihr Ziel selbst: Sie soll das Funktionieren des Binnenmarkts verbessern, indem sie einen einheitlichen Rechtsrahmen für KI schafft. Dieser soll eine menschenzentrierte und vertrauenswürdige KI fördern und zugleich Gesundheit, Sicherheit und Grundrechte der Menschen schützen.

Praktisch geht es um zwei Probleme. Das erste ist die Zersplitterung: Ohne gemeinsame Regeln könnte jeder Staat eigene erlassen, und wer ein Produkt mit KI verkauft, müsste 27 verschiedene Gesetze einhalten. Das zweite ist das Risiko für die Menschen. Ein System, das entscheidet, wer zum Vorstellungsgespräch eingeladen wird, wer einen Kredit bekommt oder wer von einer Kamera erkannt wird, kann diskriminieren oder sich irren, ohne dass jemand versteht, warum.

Deshalb richtet die Verordnung ihre Regeln nach dem Risiko aus. Fast alles, was Unternehmen im Alltag nutzen (Spamfilter, Übersetzungsprogramme, Schreibassistenten), fällt nicht unter die strengen Regeln. Die Pflichten steigen, je stärker ein Einsatz das Leben von Menschen beeinflussen kann, und manche Einsätze sind ganz verboten.

Die vier Risikostufen

Verbotene Praktiken

Seit dem 2. Februar 2025 ist es verboten, KI-Systeme in Verkehr zu bringen oder zu verwenden, die Art. 5 Abs. 1

• Menschen mit unterschwelligen oder täuschenden Techniken manipulieren und ihnen dadurch erheblich schaden;
• Schwächen ausnutzen, die mit dem Alter, einer Behinderung oder der sozialen oder wirtschaftlichen Lage zusammenhängen;
• Menschen sozial bewerten (Social Scoring), wenn das zu einer nachteiligen oder unverhältnismäßigen Behandlung führt;
• vorhersagen, ob jemand eine Straftat begehen wird, und sich dabei nur auf Profiling oder Persönlichkeitsmerkmale stützen;
• Gesichtsbilder ungezielt aus dem Internet oder aus Videoüberwachungsaufnahmen auslesen, um Datenbanken zur Gesichtserkennung aufzubauen;
• Emotionen am Arbeitsplatz oder in Bildungseinrichtungen erkennen, außer aus medizinischen Gründen oder Sicherheitsgründen;
• aus biometrischen Daten auf ethnische Herkunft, politische Meinungen, Gewerkschaftszugehörigkeit, Religion oder sexuelle Orientierung schließen;
• Menschen im öffentlichen Raum in Echtzeit biometrisch aus der Ferne identifizieren, um Straftaten zu verfolgen, abgesehen von eng begrenzten Ausnahmen.

Die Digital-Omnibus-Verordnung zur KI, der bereits verabschiedete Teil des Digital Omnibus, hat ein weiteres Verbot hinzugefügt, das ab dem 2. Dezember 2026 gilt. Es betrifft Systeme, die intime oder sexuell explizite Bilder, Videos oder Tonaufnahmen einer identifizierbaren Person ohne deren Einwilligung erzeugen, und Systeme, die Darstellungen sexuellen Missbrauchs von Kindern erzeugen.

Im Mittelstand stößt man am ehesten auf das Verbot der Emotionserkennung. Eine Software, die die Stimme der Callcenter-Beschäftigten auswertet, um ihren Gefühlszustand zu messen, oder Kameras, die die Stimmung der Belegschaft „ablesen“, sind verboten.

Hohes Risiko

Als hochriskant gelten KI-Systeme, die als Sicherheitsbauteil bereits regulierter Produkte dienen (Maschinen, Spielzeug, Medizinprodukte und andere), und Systeme, die in den acht Bereichen des Anhangs III eingesetzt werden: Art. 6 und Anhang III

1. Biometrie;
2. kritische Infrastruktur;
3. allgemeine und berufliche Bildung;
4. Beschäftigung, Personalmanagement und Zugang zur Selbstständigkeit;
5. Zugang zu grundlegenden privaten Dienstleistungen und zu grundlegenden öffentlichen Diensten und Leistungen, etwa Kredite sowie Lebens- und Krankenversicherungen;
6. Strafverfolgung;
7. Migration, Asyl und Grenzkontrolle;
8. Rechtspflege und demokratische Prozesse.

Es gibt eine Ausnahme: Ein System aus Anhang III ist nicht hochriskant, wenn es nur eine eng begrenzte Verfahrensaufgabe erledigt, das Ergebnis einer bereits abgeschlossenen menschlichen Tätigkeit verbessert, Muster erkennt, ohne die menschliche Bewertung zu ersetzen, oder eine Bewertung lediglich vorbereitet. Betreibt das System allerdings Profiling von Personen, ist es immer hochriskant. Art. 6 Abs. 3

Unternehmen, die selbst keine KI entwickeln, haben mit Hochrisiko-KI meist im Recruiting zu tun. Eine Software, die Bewerbungen sortiert oder Bewerberinnen und Bewerber bewertet, gehört zu Bereich 4.

Transparenz

Bei manchen Systemen, die nicht hochriskant sind, müssen die Menschen informiert werden. Diese Regeln gelten seit dem 2. August 2026: Art. 50

• Wer einen Chatbot anbietet, muss ihn so gestalten, dass die Nutzer erkennen, dass sie mit einer Maschine kommunizieren, sofern das nicht ohnehin offensichtlich ist.
• Wer KI anbietet, die Text, Bilder, Audio oder Video erzeugt, muss diese Inhalte maschinenlesbar kennzeichnen. Für Systeme, die schon vor dem 2. August 2026 auf dem Markt waren, gilt eine Übergangsfrist von vier Monaten bis zum 2. Dezember 2026.
• Wer Emotionserkennung oder biometrische Kategorisierung einsetzt (dort, wo sie nicht verboten ist), muss die betroffenen Personen informieren.
• Wer Deepfakes veröffentlicht, muss offenlegen, dass der Inhalt von KI erzeugt oder verändert wurde. Dasselbe gilt für KI-generierte Texte, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren sollen, außer ein Mensch hat sie geprüft und jemand trägt die redaktionelle Verantwortung.

Minimales Risiko

Darunter fallen alle übrigen Systeme. Für sie gibt es keine besonderen Pflichten, abgesehen von der KI-Kompetenz, die für alle gilt (siehe unten).

Und Modelle wie GPT oder Gemini?

Für KI-Modelle mit allgemeinem Verwendungszweck, also die großen Modelle, auf denen Werkzeuge wie ChatGPT aufbauen, gelten seit dem 2. August 2025 eigene Regeln. Sie richten sich an die Entwickler der Modelle, nicht an das Unternehmen, das das Werkzeug nutzt.

Welche Unternehmen die KI-Verordnung einhalten müssen

Die KI-Verordnung erfasst die gesamte Wertschöpfungskette. Welche Pflichten Ihr Unternehmen hat, hängt von seiner Rolle darin ab. Art. 2 Abs. 1

• Anbieter: wer ein KI-System entwickelt oder entwickeln lässt und es unter eigenem Namen oder eigener Marke in Verkehr bringt oder in Betrieb nimmt, ob entgeltlich oder unentgeltlich. Art. 3 Nr. 3 Bei ihm liegt der Großteil der Pflichten für Hochrisiko-Systeme.
• Betreiber: wer ein KI-System in eigener Verantwortung verwendet, außer im Rahmen einer persönlichen, nicht beruflichen Tätigkeit. Art. 3 Nr. 4 Das sind die meisten Unternehmen: Sie kaufen oder abonnieren ein Werkzeug und setzen es bei der Arbeit ein.
• Einführer, Händler und Bevollmächtigte von KI-Systemen, die von außerhalb der EU kommen.

Auf die Größe kommt es nicht an. Für KMU gibt es keine Ausnahme: Ein Betrieb mit zehn Beschäftigten, der einen KI-Assistenten nutzt, ist Betreiber. Für KMU gelten lediglich niedrigere Bußgeldobergrenzen und einige Erleichterungen bei der Dokumentation.

Die Verordnung erfasst auch Unternehmen außerhalb der EU, wenn das Ergebnis ihres KI-Systems in der Union verwendet wird. Ein US-Anbieter, der Recruiting-Software an deutsche Unternehmen verkauft, muss sie einhalten.

Ausgenommen sind KI-Systeme, die nur für militärische Zwecke, die Verteidigung oder die nationale Sicherheit eingesetzt werden, KI, die nur für die wissenschaftliche Forschung entwickelt wird, die persönliche, nicht berufliche Nutzung sowie Open-Source-Systeme, sofern sie nicht hochriskant oder verboten sind und nicht unter die Transparenzpflichten fallen. Art. 2 Abs. 3, 6, 10 und 12

Was Sie heute tun müssen, wenn Sie KI nur nutzen

KI-Kompetenz, seit dem 2. Februar 2025

Ergreifen Sie Maßnahmen, damit Beschäftigte und andere Personen, die im Auftrag des Unternehmens mit KI arbeiten, sachkundig damit umgehen. Berücksichtigen Sie dabei ihre Vorkenntnisse, den Einsatzkontext und die Menschen, die von der KI betroffen sind. Art. 4 Die Digital-Omnibus-Verordnung zur KI hat den Wortlaut abgeschwächt: Das Unternehmen muss den Aufbau dieser Kompetenz unterstützen, aber nicht bei jeder Person ein bestimmtes Niveau sicherstellen. Zugleich sind Kommission und Mitgliedstaaten jetzt verpflichtet, die Unternehmen dabei zu unterstützen, vor allem KMU.

Konkret heißt das: Halten Sie fest, welche KI-Werkzeuge im Unternehmen genutzt werden, schreiben Sie einfache Nutzungsregeln (welche Daten nie in einen Chatbot kopiert werden, wer prüft, was herauskommt) und schulen Sie die Nutzerinnen und Nutzer kurz. Bewahren Sie Nachweise darüber auf.

Transparenz, seit dem 2. August 2026

Veröffentlicht Ihr Unternehmen KI-erzeugte Bilder, Videos oder Tonaufnahmen, die echt wirken, oder KI-erzeugte Texte zu Angelegenheiten von öffentlichem Interesse ohne redaktionelle Prüfung, weisen Sie darauf hin. Läuft auf Ihrer Website ein Chatbot, lassen Sie sich vom Anbieter bestätigen, dass er die Besucher darauf hinweist, dass sie mit einer KI sprechen.

Hohes Risiko, ab dem 2. Dezember 2027

Setzen Sie KI in einem der Bereiche des Anhangs III ein, etwa im Recruiting oder bei der Bewertung von Beschäftigten, haben Sie noch ein Jahr Zeit. Ab diesem Datum müssen Sie als Betreiber Art. 26

• das System nach der Gebrauchsanweisung des Anbieters verwenden;
• Personen mit der nötigen Kompetenz und Befugnis mit der Aufsicht über das System betrauen;
• dafür sorgen, dass die Eingabedaten relevant und repräsentativ sind, soweit Sie sie kontrollieren;
• den Betrieb überwachen, die Nutzung bei einem Risiko aussetzen und dann Anbieter und Behörde informieren;
• die vom System erzeugten Protokolle mindestens sechs Monate aufbewahren;
• Arbeitnehmervertretung und betroffene Beschäftigte informieren, bevor das System am Arbeitsplatz eingesetzt wird;
• die Personen informieren, über die das System entscheidet oder bei deren Entscheidung es hilft.

Öffentliche Stellen, private Unternehmen, die öffentliche Dienste erbringen, und alle, die KI zur Kreditwürdigkeitsprüfung oder zur Preisgestaltung bei Lebens- und Krankenversicherungen einsetzen, müssen zusätzlich vor der ersten Nutzung eine Grundrechte-Folgenabschätzung durchführen. Art. 27

KI-Verordnung und DSGVO

Die KI-Verordnung lässt die DSGVO unberührt. Art. 2 Abs. 7 Verarbeitet ein KI-System personenbezogene Daten, gelten beide: Sie brauchen eine Rechtsgrundlage, einen Vertrag mit dem Anbieter und häufig eine Datenschutz-Folgenabschätzung (DSFA), und Sie müssen die betroffenen Personen informieren. Die KI-Verordnung verlangt sogar ausdrücklich, dass der Betreiber die Informationen des Anbieters für seine DSFA nutzt. Art. 26 Abs. 9

Was Sie datenschutzrechtlich prüfen sollten, bevor eine KI mit Kunden- oder Beschäftigtendaten arbeitet, erklärt der Artikel KI-Agenten und DSGVO. Die Checkliste dort gilt auch für KI-Werkzeuge, die keine Agenten sind.

Eine neue Regel der Digital-Omnibus-Verordnung zur KI berührt die DSGVO unmittelbar. Ausnahmsweise und nur, wenn es unbedingt erforderlich ist, dürfen besondere Kategorien personenbezogener Daten verarbeitet werden, um Verzerrungen (Bias) in KI-Systemen zu erkennen und zu korrigieren. Die Bedingungen sind eng: Die Daten dürfen sich nicht durch synthetische oder anonymisierte Daten ersetzen lassen, sie werden nicht an Dritte weitergegeben und sind zu löschen, sobald die Verzerrung behoben ist. Art. 4a

Die im Digital Omnibus vorgeschlagenen Änderungen an der DSGVO selbst stehen in einem eigenen Entwurf, über den noch verhandelt wird. Den aktuellen Stand finden Sie im Artikel zum Digital Omnibus.

Bußgelder

Die Bußgelder reichen bis zu folgenden Obergrenzen, wobei jeweils der höhere Betrag gilt: Art. 99 Abs. 3 bis 5

• verbotene Praktiken: bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes;
• andere Pflichten, einschließlich der Betreiberpflichten und der Transparenzpflichten: bis zu 15 Millionen Euro oder 3 %;
• falsche, unvollständige oder irreführende Angaben gegenüber Behörden: bis zu 7,5 Millionen Euro oder 1 %.

Für KMU und Start-ups gilt jeweils der niedrigere der beiden Beträge. Art. 99 Abs. 6

In Deutschland verhängen diese Bußgelder die Marktüberwachungsbehörden, jeweils für ihren Bereich. Gegen Behörden und öffentliche Stellen im Sinne des BDSG werden keine Bußgelder verhängt. § 17 KI-MIG Das deutsche Durchführungsgesetz sieht außerdem eigene Bußgelder bis zu 50.000 Euro vor, unter anderem wenn die Grundrechte-Folgenabschätzung nach Art. 27 fehlt oder wenn der Betreiber eines Hochrisiko-Systems aus Anhang III Nr. 1, 3, 4 oder 5 nicht dafür sorgt, dass eine betroffene Person die Erläuterung nach Art. 86 Abs. 1 erhält. § 15 KI-MIG

Wer in Deutschland die Aufsicht führt

Zentrale Aufsichtsbehörde für die KI-Verordnung ist die Bundesnetzagentur. Das regelt das KI-Marktüberwachungs- und Innovationsförderungsgesetz (KI-MIG), Artikel 1 des Gesetzes zur Durchführung der Verordnung (EU) 2024/1689. Der Bundestag hat es am 11. Juni 2026 beschlossen. Es wurde am 22. Juli 2026 ausgefertigt, am 28. Juli 2026 im Bundesgesetzblatt verkündet (BGBl. 2026 I Nr. 223) und ist am 29. Juli 2026 in Kraft getreten.

Die Bundesnetzagentur ist grundsätzlich Marktüberwachungsbehörde, zentrale Anlaufstelle und Beschwerdestelle. § 2 Abs. 1 KI-MIG Sie überwacht unter anderem KI im Personalmanagement, in kritischer Infrastruktur und in der Bildung, die Transparenzpflichten und die verbotenen Praktiken. Wo es schon eine Fachaufsicht gibt, bleibt sie zuständig: für KI in regulierten Produkten die bisherigen Marktüberwachungsbehörden, für KI im Zusammenhang mit regulierten Finanztätigkeiten etwa von Banken und Versicherern die BaFin, für Landesbehörden und Mediendienste die Stellen der Länder. § 2 Abs. 2 bis 8 KI-MIG Für Fragen gibt es bei der Bundesnetzagentur einen KI-Service Desk und den KI-Compliance Kompass. Mit dem Kompass bekommen Sie eine erste Einschätzung, ob und wie weit die Verordnung Ihr Unternehmen betrifft.

Für den Datenschutz bei KI-Systemen ändert sich nichts. Zuständig ist in der Regel die Datenschutzbehörde des Bundeslandes, in dem Ihr Unternehmen seinen Sitz hat, bei Telekommunikations- und Postdiensten der BfDI (Bundesbeauftragte für den Datenschutz und die Informationsfreiheit). Gemeinsame Hinweise veröffentlicht die Datenschutzkonferenz (DSK), etwa die Orientierungshilfe KI und Datenschutz vom Mai 2024. Die Marktüberwachungsbehörden müssen die Datenschutzaufsicht einbeziehen, wenn deren Zuständigkeit berührt ist. § 9 Abs. 4 KI-MIG

Häufige Fragen

Mein Unternehmen nutzt nur ChatGPT. Gilt die KI-Verordnung für uns?

Ja, als Betreiber. Heute bedeutet das vor allem KI-Kompetenz: Nutzungsregeln und eine Schulung für alle, die mit dem Werkzeug arbeiten. Veröffentlichen Sie damit erzeugte Inhalte in Fällen, die unter die Transparenzregeln fallen, kennzeichnen Sie diese zusätzlich. Die Pflichten für das Modell selbst trägt das Unternehmen, das es entwickelt.

Wurde die KI-Verordnung verschoben?

Nur teilweise. Die Digital-Omnibus-Verordnung zur KI hat die Hochrisiko-Regeln auf den 2. Dezember 2027 (Bereiche des Anhangs III) und den 2. August 2028 (KI in regulierten Produkten) verschoben. Die Verbote und die KI-Kompetenz gelten seit Februar 2025, die Regeln für Modelle mit allgemeinem Verwendungszweck seit August 2025 und die Transparenzpflichten seit August 2026.

Wir sortieren Bewerbungen mit KI vor. Was müssen wir jetzt schon tun?

Dieser Einsatz ist hochriskant, die Regeln dafür gelten allerdings erst ab dem 2. Dezember 2027. Die DSGVO verlangt aber schon heute, dass Sie die Bewerberinnen und Bewerber informieren, eine Rechtsgrundlage haben und keine Entscheidung mit erheblicher Wirkung allein der Maschine überlassen, ohne dass ein Mensch wirklich eingreift. Art. 22 DSGVO Fordern Sie beim Anbieter schon jetzt die Gebrauchsanweisung und die Informationen an, die Sie für die DSFA brauchen.

Quellen

• Verordnung (EU) 2024/1689 (Verordnung über künstliche Intelligenz), Amtsblatt vom 12. Juli 2024 (EUR-Lex). Die Ziele der Verordnung stehen in Erwägungsgrund 1.
• Verordnung (EU) 2026/1744 (Digital-Omnibus-Verordnung zur KI) vom 8. Juli 2026, Amtsblatt vom 24. Juli 2026 (EUR-Lex)
• Europäische Kommission, AI Act Service Desk, konsolidierter Text mit Stand 27. Juli 2026 (auf Englisch)
• Europäische Kommission, Regulatory framework for AI, aktualisiert am 19. Oktober 2026 (auf Englisch)
• Europäische Kommission, Enforcement of the AI Act, aktualisiert am 20. Oktober 2026 (auf Englisch)
• Europäische Kommission, Market surveillance authorities under the AI Act (auf Englisch)
• Gesetz zur Durchführung der Verordnung (EU) 2024/1689 vom 22. Juli 2026, BGBl. 2026 I Nr. 223, verkündet am 28. Juli 2026 (recht.bund.de)
• KI-MIG, aktuelle Fassung (gesetze-im-internet.de), §§ 2, 9, 15 und 17
• Deutscher Bundestag, Beschluss vom 11. Juni 2026 zur Durchführung der Verordnung über künstliche Intelligenz
• Bundesnetzagentur, Pressemitteilung vom 29. Juli 2026: Bundesnetzagentur übernimmt zentrale Rolle bei der Umsetzung der KI-Verordnung
• Bundesnetzagentur, KI-Service Desk und KI-Compliance Kompass
• Bundesministerium für Digitales und Staatsmodernisierung, Pressemitteilung vom 29. Juli 2026: Neues KI-Gesetz tritt in Kraft
• DSK, Orientierungshilfe KI und Datenschutz, Mai 2024
• Verordnung (EU) 2016/679 (DSGVO), Art. 22 und 35 (EUR-Lex)

Aktualisiert: 2. November 2026. Dieser Artikel dient der allgemeinen Information und ersetzt keine Rechtsberatung im Einzelfall.