AI Act: Was Unternehmen bei der Einführung von KI tun müssen (Zeitplan bis 2027, Pflichten, KI-Kompetenzen)

Die EU-KI-Verordnung (AI Act, Verordnung (EU) 2024/1689) gilt seit August 2024 und wird schrittweise angewandt. Im Juli 2026 hat die EU den sogenannten Digital Omnibus (Verordnung (EU) 2026/1744) verabschiedet, der einige Fristen verschoben hat – vor allem für Hochrisiko-Systeme. Für ein Unternehmen, das KI in seine Prozesse einführt, bedeutet das zweierlei: Ein Teil der Pflichten gilt bereits, für einen anderen Teil gibt es mehr Zeit, als frühere Leitfäden annahmen.

Dieser Text ordnet, was ein Unternehmen betrifft, das KI einsetzt (in der Terminologie der Verordnung: „Anwender“), welche Daten aktuell gelten und womit man beginnen sollte. Er ist keine Rechtsberatung; bei Hochrisiko-Systemen ist es sinnvoll, die Einstufung mit einer Rechtsberatung zu prüfen.

Die wichtigsten Erkenntnisse

• Verbote und KI-Kompetenzen gelten ab dem 2. Februar 2025. Jedes Unternehmen, das KI nutzt, muss seinen Mitarbeitenden ein angemessenes Kompetenzniveau zu KI sicherstellen (Art. 4).
• Transparenz gegenüber Nutzenden gilt ab dem 2. August 2026. Chatbots, Content-Generatoren und Deepfakes müssen gekennzeichnet werden.
• Hochrisiko-Systeme: Fristen verschoben. Anhang III (Recruiting, Kredit-Scoring, Bildung, Biometrie) ab 2. Dezember 2027; Anhang I (KI in regulierten Produkten, z. B. Medizinprodukte) ab 2. August 2028.
• Die meisten geschäftlichen Implementierungen sind Minimalrisiko. Dokumenten-Assistent, Wissenssuche oder Nachfrageprognosen sind in der Regel keine Hochrisiko-Systeme, unterliegen aber dennoch KI-Kompetenzen und Transparenz.
• Bußgelder bis zu 35 Mio. EUR oder 7 % des Umsatzes für verbotene Praktiken; niedrigere Schwellen für KMU und kleine Mid-Caps.

Was ist der AI Act und wen betrifft er

Der AI Act führt einheitliche Regeln für KI-Systeme in der gesamten EU ein. Die Pflichten hängen von zwei Faktoren ab: der Rolle des Unternehmens in der Wertschöpfungskette und der Risikostufe des Systems.

Im Gesetz definierte Rollen:

• Anbieter (provider): entwickelt ein KI-System und bringt es unter eigenem Namen oder eigener Marke in Verkehr.
• Anwender (deployer): setzt ein KI-System im Rahmen der beruflichen Tätigkeit ein. Das sind die meisten Unternehmen, die KI einführen.
• Einführer und Händler: bringen Systeme aus Drittstaaten auf den EU-Markt oder vertreiben sie weiter.

Die Verordnung gilt extraterritorial: Sie betrifft auch Unternehmen außerhalb der EU, wenn die Ergebnisse ihrer KI-Systeme in der Union genutzt werden.

Wichtige Regel aus Art. 25: Ein Unternehmen, das ein fremdes Hochrisiko-System unter eigener Marke einführt, es wesentlich modifiziert oder seinen Verwendungszweck auf eine Hochrisiko-Anwendung ändert, wird zum Anbieter und übernimmt dessen Pflichten.

Vier Risikostufen

Dieselbe Technologie kann je nach Anwendung in unterschiedliche Kategorien fallen. Ein Sprachmodell, das in einem Unternehmen Dokumente zusammenfasst, ist Minimalrisiko. Dasselbe Modell, eingesetzt für das Pre-Screening von Bewerbungen im Recruiting, ist ein Hochrisiko-System.

Zeitplan: was gilt bereits, was ist verschoben

Stand nach dem Digital Omnibus (Verordnung (EU) 2026/1744, in Kraft seit 27. Juli 2026):

• 1. August 2024: Inkrafttreten des AI Act.
• 2. Februar 2025: Verbote (Art. 5) und KI-Kompetenzen (Art. 4). Gelten.
• 2. August 2025: Pflichten der Anbieter von General-Purpose-AI (GPAI), Aufsichtsstruktur, Sanktionsregelungen. Gelten.
• 2. August 2026: Transparenzpflichten (Art. 50), Regulatory Sandboxes in jedem Mitgliedstaat, allgemeine Anwendung der Verordnung außerhalb von Hochrisiko-Systemen. Gelten.
• 2. Dezember 2026: Ende der Übergangsfrist für die Kennzeichnung synthetischer Inhalte in Systemen, die vor dem 2.08.2026 in Verkehr gebracht wurden; neue Verbote nach Art. 5.
• 2. Dezember 2027: Hochrisiko-Systeme gemäß Anhang III (zuvor: 2.08.2026). Systeme, die vor diesem Datum in Verkehr gebracht wurden, unterliegen den Vorschriften erst nach einer wesentlichen Änderung.
• 2. August 2028: Hochrisiko-Systeme gemäß Anhang I, also KI in Produkten, die anderen EU-Vorschriften unterliegen, z. B. Medizinprodukte, Maschinen (zuvor: 2.08.2027).
• 2. August 2030: Hochrisiko-Systeme, die von öffentlichen Stellen verwendet werden.

Die Verschiebung der Fristen ändert den Umfang der Pflichten nicht. Für ein Hochrisiko-System benötigen Dokumentation, Logging und menschliche Aufsicht Monate – 2027 ist näher, als es scheint.

Pflichten des Unternehmens, das KI einführt (Anwender)

Für jedes KI-System, unabhängig vom Risiko

KI-Kompetenzen (Art. 4). Das Unternehmen muss sicherstellen, dass Personen, die KI-Systeme bedienen, über ausreichendes Wissen zu deren Funktionsweise, Grenzen und Risiken verfügen – passend zum Kontext und zu den betroffenen Personengruppen. Die Verordnung schreibt keine Form vor; in der Praxis sind das Schulungen, interne Richtlinien und Anleitungen.

Transparenz (Art. 50). Wenn Mitarbeitende oder Kundinnen und Kunden mit einem Chatbot sprechen, müssen sie darüber informiert werden, außer wenn es offensichtlich ist. Von KI generierte Inhalte, die in Angelegenheiten von öffentlichem Interesse veröffentlicht werden, müssen als generiert gekennzeichnet werden. Deepfakes müssen gekennzeichnet werden. Systeme zur Emotionserkennung und biometrischen Kategorisierung erfordern eine Information der betroffenen Personen.

Für Hochrisiko-Systeme (Art. 26 und 27)

• Verwendung gemäß Anbieteranleitung. Der Anbieter muss eine Anleitung liefern; der Anwender muss sie befolgen.
• Menschliche Aufsicht. Das Unternehmen bestellt Personen mit Kompetenz, Schulung und Befugnissen zur Aufsicht über das System, einschließlich der Fähigkeit, Entscheidungen zu ignorieren oder zurückzusetzen.
• Eingabedaten. Soweit das Unternehmen die Eingabedaten kontrolliert, müssen sie für den Zweck des Systems angemessen und ausreichend repräsentativ sein. Das Management von Trainingsdaten ist die Pflicht des Anbieters, nicht des Anwenders.
• Monitoring und Meldung. Das Unternehmen überwacht den Betrieb des Systems; stellt es Risiken für Gesundheit, Sicherheit oder Grundrechte fest, setzt es die Nutzung aus und informiert den Anbieter sowie die Marktaufsichtsbehörde. Schwere Vorfälle sind zu melden.
• Logs. Das Unternehmen speichert automatisch generierte Logs des Systems (soweit es diese kontrolliert) mindestens 6 Monate, sofern andere Vorschriften nicht längere Fristen verlangen.
• Beschäftigte. Vor der Einführung eines Hochrisiko-Systems am Arbeitsplatz informiert das Unternehmen die Beschäftigten und ihre Vertretungen.
• Betroffene Personen. Das Unternehmen informiert natürliche Personen, dass sie einer durch ein Hochrisiko-System unterstützten Entscheidung unterliegen, und erläutert auf Anfrage die Rolle des Systems in der Entscheidung.
• Grundrechts-Folgenabschätzung (Art. 27). Pflicht für öffentliche Stellen und Erbringer öffentlicher Dienste sowie für Unternehmen, die KI zur Kreditwürdigkeitsprüfung und zur Risikobewertung in Lebens- und Krankenversicherungen einsetzen.

Ein internes Verzeichnis der KI-Systeme ist für die meisten Anwender rechtlich nicht ausdrücklich vorgeschrieben (die Registrierung in der EU-Datenbank betrifft Anbieter und öffentliche Stellen), doch ohne Inventarisierung lassen sich die übrigen Pflichten praktisch nicht erfüllen.

KI-Kompetenzen in der Praxis

Art. 4 gilt seit Februar 2025 und betrifft jedes Unternehmen, das KI nutzt – auch fertige Tools. Folgendes sollte der Kompetenzaufbau abdecken:

• Funktionsweise des Tools: was das Modell kann, was es nicht kann, woher die Daten für Antworten stammen.
• Beschränkungen: Halluzinationen, Abhängigkeit von Datenqualität, Pflicht zur Ergebnisprüfung bei Aufgaben mit Auswirkungen auf Menschen oder Finanzen.
• Daten: was nicht in öffentliche Modelle eingegeben werden darf (personenbezogene Daten, Geschäftsgeheimnisse, Kundendaten) und worin sich ein öffentlicher Chatbot vom Enterprise-Einsatz unterscheidet.
• Rolle des Menschen: wer für eine KI-gestützte Entscheidung verantwortlich ist und wann sie zu hinterfragen ist.
• Verfahren: wohin fehlerhaftes oder besorgniserregendes Systemverhalten zu melden ist.

Die Detailtiefe hängt von der Rolle ab: anders für die Geschäftsleitung, anders für die tägliche Bedienung, anders für das IT-Team im Betrieb.

Implementierung in der Praxis

Aus technischer Sicht laufen die meisten Pflichten des AI Act auf Architekturentscheidungen zu Projektbeginn hinaus. Bei der Einführung von KI-Assistenten, Agents und Wissensdatenbanken für Unternehmen setzen wir bei Startup House Prinzipien ein, die die spätere Compliance unabhängig von der Risikoklasse erleichtern:

• Antworten auf Basis verifizierter Kundendaten (RAG) mit Quellenangaben, um Halluzinationen zu begrenzen und die Nachvollziehbarkeit zu sichern.
• Integration in bestehende Zugriffsrichtlinien (u. a. Okta), damit die KI nur Daten sieht, für die der Nutzer berechtigt ist.
• Deployment in der Kundencloud und Arbeit mit Modellen zu Business-Konditionen: Kundendaten trainieren keine öffentlichen KI-Modelle.
• Logging von Anfragen und Antworten ab der ersten Version, nicht erst nach dem Go-live.
• Human-in-the-Loop dort, wo KI Entscheidungen über Menschen oder Geld unterstützt: System schlägt vor, Mensch genehmigt.
• Transparenz gegenüber Nutzenden: Der Assistent stellt sich als KI vor und informiert, wenn er etwas nicht weiß.
• Architektur, die den Modellwechsel (z. B. von OpenAI zu Anthropic) ohne Systemumbau ermöglicht, da Anforderungen an GPAI-Modelle und die Modelle selbst sich schneller ändern als Unternehmenssysteme.

Wir arbeiten nach ISO 27001 und passen Projekte an die Anforderungen regulierter Branchen an (Fintech, Healthcare, Cybersicherheit). Die Risikoklassifizierung und rechtlichen Pflichten legt der Kunde mit seiner Rechtsabteilung fest; wir liefern die technische Seite: Dokumentation, Logs, Mechanismen für Aufsicht und Transparenz.

Die Inventarisierung der KI-Systeme, die Zuweisung von Pflichten und das Fristenmanagement werden durch Compliance Copilot (Produktseite) unterstützt: ein AI-Agent von Startup House für kontinuierliches Compliance-Monitoring (u. a. DSGVO, DORA, NIST, ISO), der Lücken in Dokumentation und Prozessen aufzeigt, bevor sie ein Audit findet.

So bereiten Sie Ihr Unternehmen vor: 5 Schritte

1. Inventarisierung. Liste aller KI-basierten Tools im Unternehmen: von Chatbots im Kundenservice und KI-Funktionen in SaaS bis zu Modellen im Backend. Für jedes: Anbieter, Anwendung, wer es nutzt, welche Daten eingehen.
2. Risikoklassifizierung. Zuordnung jedes Tools zu einer der vier Kategorien nach Einsatz, nicht nach Technologie. Separat prüfen, ob das Unternehmen bei einem Tool zum Anbieter wird (eigene Marke, wesentliche Modifikation).
3. Lieferantenaudit. Für Hochrisiko-Systeme: Liefert der Anbieter Anleitung, Dokumentation und Support für Logging? Für GPAI-Tools (General-Purpose-Modelle): Schließt der Business-Vertrag Training auf Unternehmensdaten aus?
4. AI-Nutzungsrichtlinie. Regeln für Mitarbeitende: erlaubte Tools, Verbot der Eingabe sensibler Daten in öffentliche Modelle, Pflicht zur Ergebnisprüfung, Meldeweg für Probleme, Kennzeichnung KI-generierter Inhalte.
5. Kompetenzen und Verfahren. Rollengerechte Schulungen, Benennung verantwortlicher Personen für die Systemaufsicht, Verfahren für Monitoring und Incident-Meldung. Für Hochrisiko-Systeme: Roadmap zur Konformität bis Dezember 2027 (Anhang III) bzw. August 2028 (Anhang I).

Bußgelder bei Verstößen gegen den AI Act

• Bis zu 35 Mio. EUR oder 7 % des globalen Jahresumsatzes (der höhere Wert): verbotene Praktiken.
• Bis zu 15 Mio. EUR oder 3 %: Verstoß gegen sonstige Pflichten, inkl. für Hochrisiko-Systeme und Transparenz.
• Bis zu 7,5 Mio. EUR oder 1,5 %: Übermittlung falscher oder unvollständiger Informationen an Behörden.

Für KMU und Startups sowie seit dem Digital Omnibus auch für kleine Unternehmen mit mittlerer Marktkapitalisierung gelten die niedrigeren der beiden Beträge. Neben Bußgeldern kann die Aufsichtsbehörde die Stilllegung eines Systems anordnen.

Siehe auch: Wie wählt man ein Unternehmen für die KI-Einführung: Checkliste mit 20 Fragen und Vertragselementen · Microsoft 365 Copilot, ChatGPT Enterprise oder eigener KI-Assistent?

Häufig gestellte Fragen

Gilt der AI Act für kleine und mittlere Unternehmen?

Ja. Es gibt keine Ausnahme nach Unternehmensgröße; die Pflichten hängen von der Rolle und der Risikostufe des Systems ab. KMU haben niedrigere Bußgeldschwellen, vereinfachte Dokumentation für Anbieter und Zugang zu Regulatory Sandboxes, die jeder Mitgliedstaat bis August 2026 einrichten musste.

Ist die Nutzung von ChatGPT oder eines anderen Chatbots im Unternehmen mit dem AI Act vereinbar?

Die Nutzung an sich ja, sofern Art. 4 (Mitarbeiterkompetenzen) und die internen Datenschutzregeln erfüllt sind. Problematisch wird es, wenn das Unternehmen das Modell in einer Hochrisiko-Anwendung einsetzt (z. B. Bewerberauswahl) oder es in ein eigenes Produkt unter eigener Marke integriert: Dann kann es zum Anbieter werden und dessen Pflichten übernehmen.

Muss ich mein bestehendes KI-System umbauen?

Das hängt von der Kategorie ab. Minimalrisiko-Systeme erfordern keine Änderungen außer Transparenz, wenn sie mit Nutzenden interagieren. Hochrisiko-Systeme, die vor dem 2. Dezember 2027 in Verkehr gebracht wurden, unterliegen den Vorschriften erst nach einer wesentlichen Änderung; neue müssen die Anforderungen ab diesem Datum erfüllen. Systeme der verbotenen Kategorie (z. B. Emotionserkennung von Beschäftigten) mussten bis zum 2. Februar 2025 abgeschaltet werden.

Worin unterscheidet sich der Anbieter vom Anwender?

Der Anbieter erstellt das System und bringt es auf den Markt (z. B. ein Modellhersteller oder ein Unternehmen, das ein eigenes KI-Tool verkauft). Der Anwender setzt ein System in seiner Tätigkeit ein (z. B. eine Bank, die ein externes Tool zur Kreditwürdigkeitsprüfung nutzt). Konformitätsbewertung, technische Dokumentation und Registrierung liegen beim Anbieter; menschliche Aufsicht, Monitoring, Logs und Information der Beschäftigten beim Anwender.

Wie prüfe ich, ob mein System ein Hochrisiko-System ist?

Anhang III nennt Bereiche: Biometrie, kritische Infrastrukturen, Bildung, Beschäftigung und Personalmanagement, Zugang zu grundlegenden Diensten (einschließlich Kredit-Scoring und Versicherungen), Strafverfolgung, Migration, Justiz. Anhang I umfasst KI als Sicherheitskomponente regulierter Produkte (Medizinprodukte, Maschinen, Fahrzeuge). Wenn ein System in diesen Bereichen arbeitet und Entscheidungen über Personen beeinflusst, ist es ein Hochrisiko-System, es sei denn, es erfüllt nur eine eng begrenzte Hilfsfunktion (Ausnahmen in Art. 6 Abs. 3).

Was ist mit General-Purpose-AI (GPAI), die wir über API nutzen?

Pflichten für GPAI-Modelle (Dokumentation, Urheberrechtspolitik, bei systemischem Risiko zusätzliche Tests) liegen bei deren Anbietern und gelten seit dem 2. August 2025. Ein Unternehmen, das ein Modell über API nutzt, ist Anwender des darauf aufgebauten Systems – mit Pflichten abhängig vom Einsatz.

Wie beeinflusst der AI Act die Entwicklung von KI in polnischen Unternehmen?

Der AI Act reguliert die Einführung von KI-Lösungen im Business. Er ist wichtig für Innovation, Sicherheit und Kundenvertrauen. Unternehmen in Polen sollten seine Anforderungen in ihre Investitions- und Expansionsstrategie einbeziehen.

Gilt der AI Act für den Einsatz von KI im Marketing und E‑Commerce?

Ja, auch Online-Shops und Marketingagenturen müssen die einschlägigen Vorschriften beachten. KI zur Content-Erstellung, Umsatzanalyse oder Budgetoptimierung gehört meist zu Minimalrisiko-Anwendungen. Zusätzliche Pflichten können sich aus der Datennutzung und der Art der generierten Inhalte ergeben.

Wie bereitet man das Unternehmen im 4. Quartal 2026 auf die Anforderungen des AI Act vor?

Es lohnt sich, mit der Analyse verfügbarer KI-Tools und dem Testen ihrer Compliance zu beginnen. Expertinnen und Experten sollten Risiken identifizieren, Checklisten und Meldeprozesse für Warnungen ausarbeiten. Vor neuen Implementierungen sind außerdem die Mitarbeitenden zu schulen.

Regelt der AI Act den Einsatz von KI im Recruiting und bei der Festlegung von Vergütung?

Ja, KI-Systeme, die Recruiting, Mitarbeiterbewertung und Vergütungsentscheidungen unterstützen, können als Hochrisiko-Systeme eingestuft werden. Sie erfordern angemessene menschliche Aufsicht, Dokumentation und Kontrolle der Systemleistung. Das ist besonders wichtig für den Schutz von Arbeitnehmerrechten und die Transparenz von Entscheidungen.

Der Text dient nur Informationszwecken und stellt keine Rechtsberatung dar. Rechtslage: Oktober 2026, nach Inkrafttreten der Verordnung (EU) 2026/1744 (Digital Omnibus).