EU AI Act verständlich erklärt: Welche Regeln gelten für kleine Unternehmen?

Du nutzt ChatGPT für deine E-Mails, lässt künstliche Intelligenz Angebote vorbereiten oder möchtest Kundenanfragen automatisch beantworten? Dann solltest du den EU AI Act kennen. Die europäische KI-Verordnung regelt, unter welchen Voraussetzungen künstliche Intelligenz entwickelt und eingesetzt werden darf. Doch bedeutet das jetzt zusätzliche Bürokratie für jeden kleinen Betrieb? Brauchst du eine spezielle KI-Schulung oder musst du jede Anwendung dokumentieren? Die Antworten sind weniger kompliziert, als viele Schlagzeilen vermuten lassen.

Was ist der EU AI Act überhaupt?

Der EU AI Act ist eine europäische Verordnung, die einen gemeinsamen rechtlichen Rahmen für künstliche Intelligenz schafft. Offiziell handelt es sich um die Verordnung (EU) 2024/1689, die inzwischen durch weitere Rechtsakte angepasst wurde. Das Ziel besteht darin, den Einsatz von KI sicherer und vertrauenswürdiger zu gestalten. Gleichzeitig sollen Innovationen möglich bleiben und Unternehmen möglichst einheitliche Regeln innerhalb der Europäischen Union vorfinden.

Dabei verfolgt die Verordnung einen risikobasierten Ansatz.

Das bedeutet: Nicht jede KI-Anwendung wird gleich behandelt. Entscheidend ist vor allem, wofür sie eingesetzt wird und welche Risiken daraus entstehen können. Ein Programm, das Werbetexte vorschlägt, stellt normalerweise andere Anforderungen an den Schutz von Menschen als eine KI, die Bewerber für eine Arbeitsstelle bewertet. Genau dieser Unterschied ist der Kern des AI Act.

Gilt der AI Act auch für Selbstständige und kleine Unternehmen?

Ja. Die Größe deines Unternehmens allein entscheidet nicht darüber, ob die Verordnung gilt. Auch ein Einzelunternehmer oder ein kleiner Handwerksbetrieb kann unter den AI Act fallen, wenn er KI-Systeme beruflich einsetzt.

Wichtig ist zunächst die Unterscheidung zwischen zwei Rollen.

Anbieter sind vereinfacht gesagt Unternehmen, die ein KI-System entwickeln oder entwickeln lassen und es unter ihrem eigenen Namen oder ihrer Marke anbieten beziehungsweise in Betrieb nehmen.

Betreiber sind Unternehmen, die ein KI-System unter ihrer Verantwortung einsetzen. Im englischen Gesetzestext wird dafür der Begriff Deployer verwendet.

  • Wenn du beispielsweise einen externen KI-Dienst nutzt, um interne E-Mails zusammenzufassen, bist du üblicherweise Betreiber.
  • Entwickelst du dagegen eine eigene KI-Anwendung und vertreibst diese unter deiner Marke, kannst du Anbieter sein.

Bei größeren Änderungen oder einer neuen Zweckbestimmung können sich Verantwortlichkeiten verschieben. Das ist wichtig, weil Anbieter und Betreiber teilweise unterschiedliche Pflichten erfüllen müssen.

Welche KI-Anwendungen gelten als besonders riskant?

Der AI Act unterscheidet grundsätzlich zwischen verbotenen Anwendungen, Hochrisiko-KI, Systemen mit besonderen Transparenzpflichten und Anwendungen mit geringem oder minimalem Risiko.

Für kleine Unternehmen lässt sich das anhand konkreter Beispiele erklären.

KI mit geringem Risiko

Du verwendest KI, um Blogbeiträge vorzubereiten, Texte zusammenzufassen oder Ideen für Social-Media-Beiträge zu entwickeln. Solche Anwendungen gehören bei gewöhnlicher Nutzung typischerweise nicht zu den Hochrisiko-Systemen. Das bedeutet allerdings nicht, dass sämtliche anderen Gesetze entfallen. Datenschutz, Urheberrecht und allgemeine rechtliche Anforderungen bleiben relevant.

KI mit besonderen Transparenzpflichten

Du betreibst einen Chatbot auf deiner Unternehmenswebsite, der Kundenfragen direkt beantwortet. Hier können Informationspflichten gelten, damit Menschen erkennen, dass sie mit einer KI kommunizieren. Auch bestimmte künstlich erzeugte oder manipulierte Bilder, Videos und Texte unterliegen besonderen Kennzeichnungsregeln.

Hochrisiko-KI

Deutlich strenger wird es, wenn KI beispielsweise zur Auswahl von Bewerbern oder zur Bewertung von Beschäftigten eingesetzt wird. Bestimmte Systeme in den Bereichen Personalmanagement, Bildung, Kreditwürdigkeitsprüfung und anderen sensiblen Einsatzgebieten können als Hochrisiko-KI gelten. Dabei kommt es auf die konkrete Zweckbestimmung und die gesetzlichen Kriterien an. Nicht jedes Programm mit einer KI-Funktion ist automatisch ein Hochrisiko-System.

Verbotene KI-Praktiken

Bestimmte Anwendungen sind grundsätzlich untersagt. Dazu gehören beispielsweise bestimmte manipulative oder ausbeuterische KI-Praktiken sowie bestimmte Formen der biometrischen Erkennung und Kategorisierung. Die Verbote sind an konkrete gesetzliche Voraussetzungen geknüpft. Nicht jede biometrische Anwendung ist deshalb automatisch verboten. Für gewöhnliche kleine Unternehmen dürften diese Fälle selten sein. Wer jedoch KI für Mitarbeiterüberwachung oder sensible personenbezogene Bewertungen einsetzen möchte, sollte die Rechtslage besonders sorgfältig prüfen.

Welche Regeln gelten bereits im November 2026?

Der AI Act wird schrittweise angewendet.

  • Die ersten allgemeinen Bestimmungen und Verbote gelten seit dem 2. Februar 2025. Dazu gehören auch Vorgaben zur Förderung von KI-Kompetenz.
  • Seit dem 2. August 2025 gelten außerdem wesentliche Regelungen für Anbieter von KI-Modellen mit allgemeinem Verwendungszweck.
  • Am 2. August 2026 wurden weitere wichtige Vorschriften anwendbar, insbesondere bestimmte Transparenzpflichten.
  • Die umfangreichen Regeln für Hochrisiko-Systeme wurden durch die europäische Gesetzesänderung von 2026 zeitlich verschoben.
  • Für eigenständige Hochrisiko-KI-Systeme nach Anhang III ist derzeit der 2. Dezember 2027 vorgesehen. Bei Hochrisiko-KI als Bestandteil bestimmter regulierter Produkte gilt grundsätzlich der 2. August 2028.

Diese spätere Anwendung bedeutet jedoch nicht, dass andere Gesetze oder bereits geltende KI-Verbote bis dahin ausgesetzt wären.

Müssen Mitarbeiter jetzt eine KI-Schulung absolvieren?

Das Thema KI-Kompetenz ist für viele Unternehmen besonders wichtig.

Artikel 4 des AI Act verpflichtet Anbieter und Betreiber von KI-Systemen, geeignete Maßnahmen zur Förderung der KI-Kompetenz der beteiligten Personen zu ergreifen. Dazu können Mitarbeiter, aber auch andere Personen gehören, die im Auftrag des Unternehmens mit den Systemen arbeiten. Allerdings schreibt die Verordnung keine bestimmte Standardschulung und kein allgemeines staatliches KI-Zertifikat vor.

Die Maßnahmen sollen sich am jeweiligen Einsatz orientieren.

Wenn du KI ausschließlich zur Unterstützung bei einfachen Textentwürfen nutzt, benötigst du andere Kenntnisse als ein Unternehmen, das mit KI Bewerbungen bewertet.

Sinnvolle Schulungsthemen sind beispielsweise die Grenzen von KI, der Umgang mit vertraulichen Daten, das Erkennen fehlerhafter Antworten und die Bedeutung menschlicher Kontrolle.

Für kleine Unternehmen kann deshalb bereits eine kurze, praxisorientierte Einweisung mit dokumentierten Nutzungsregeln ein sinnvoller Ausgangspunkt sein.

Ob die Maßnahmen im Einzelfall ausreichen, hängt vom tatsächlichen KI-Einsatz ab.

Muss ich KI-generierte Inhalte kennzeichnen?

Hier lohnt sich eine genaue Unterscheidung.

Nicht jeder Text, bei dessen Erstellung KI verwendet wurde, muss automatisch einen sichtbaren Hinweis wie „Erstellt mit künstlicher Intelligenz“ erhalten.

Der AI Act enthält jedoch Transparenzpflichten für bestimmte Situationen.

Bei KI-Systemen, die direkt mit Menschen kommunizieren, muss grundsätzlich erkennbar sein, dass eine KI beteiligt ist, sofern dies nicht ohnehin offensichtlich ist. Die Pflicht zur entsprechenden Gestaltung trifft insbesondere den Anbieter des Systems. Betreiber können zusätzliche Offenlegungspflichten treffen, etwa bei bestimmten Deepfakes oder KI-generierten Texten, die zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht werden.

Für solche Texte sieht die Verordnung auch eine Ausnahme vor, wenn eine menschliche Überprüfung oder redaktionelle Kontrolle stattgefunden hat und eine Person beziehungsweise Stelle die redaktionelle Verantwortung trägt.

Wer KI-Bilder, Videos oder Nachrichteninhalte veröffentlicht, sollte deshalb genauer hinschauen. Die konkreten Anforderungen unterscheiden sich je nach Inhalt, Veröffentlichung und Rolle des Unternehmens. Bei einem gewöhnlichen internen Textentwurf gelten nicht automatisch dieselben Kennzeichnungspflichten wie bei einer manipulierten öffentlichen Videobotschaft.

Was bedeutet der AI Act für KI im Kundenservice?

Stell dir vor, du möchtest auf deiner Website einen intelligenten Assistenten einrichten.

Er soll Öffnungszeiten erklären, häufige Fragen beantworten und Kundenanfragen vorsortieren. Eine solche Anwendung kann grundsätzlich zulässig sein. Du solltest allerdings nachvollziehbar festlegen, welche Aufgaben der Assistent übernimmt und wann er an einen Menschen weiterleitet.

Kunden sollten erkennen können, dass sie mit einer KI kommunizieren. Außerdem muss sichergestellt sein, dass vertrauliche Daten nicht unkontrolliert an externe Dienste übertragen werden. Wenn der Assistent falsche Auskünfte gibt, können daraus geschäftliche oder rechtliche Probleme entstehen.

Deshalb sind eine geeignete Wissensgrundlage, klare Verantwortlichkeiten und regelmäßige Kontrollen wichtig. Wie solche Abläufe technisch umgesetzt werden können, erfährst du im Bereich Automatisierung & KI .

Welche Dokumentationspflichten haben kleine Unternehmen?

Eine häufige Sorge lautet, dass künftig jeder "ChatGPT"-Aufruf vollständig dokumentiert werden müsse.

Eine solche pauschale Pflicht ergibt sich aus dem AI Act nicht. Der Umfang der Dokumentation hängt von deiner Rolle, der eingesetzten KI und ihrer Risikokategorie ab.

Für Anbieter von Hochrisiko-KI gelten deutlich umfangreichere Anforderungen. Dazu gehören unter anderem technische Dokumentation, Risikomanagement, Protokollierung und Konformitätsverfahren. Betreiber von Hochrisiko-KI müssen wiederum bestimmte Vorgaben für die Nutzung, menschliche Aufsicht und Überwachung erfüllen. Soweit sie die entsprechenden Protokolle kontrollieren, können auch Aufbewahrungspflichten greifen.

Für einen kleinen Betrieb mit einfachen KI-Anwendungen ist ein übersichtliches internes Verzeichnis dennoch empfehlenswert. Darin kannst du festhalten, welche KI-Werkzeuge verwendet werden, welchen Zweck sie erfüllen, welche Daten verarbeitet werden und wer verantwortlich ist. Das ist nicht mit einer pauschal vorgeschriebenen umfangreichen AI-Act-Dokumentation gleichzusetzen. Es hilft dir aber, den Überblick zu behalten und mögliche Risiken frühzeitig zu erkennen.

AI Act und DSGVO: Was ist der Unterschied?

Der AI Act ersetzt die Datenschutz-Grundverordnung nicht.

Beide Regelwerke können gleichzeitig gelten.

  • Die DSGVO beschäftigt sich insbesondere mit dem Schutz personenbezogener Daten.
  • Der AI Act regelt dagegen Anforderungen an bestimmte KI-Systeme und ihren Einsatz.

Wenn du Kundendaten durch einen externen KI-Dienst verarbeiten lässt, musst du deshalb unter anderem prüfen, ob eine geeignete Rechtsgrundlage vorhanden ist und ob gegebenenfalls ein Vertrag zur Auftragsverarbeitung benötigt wird. Auch Zugriffsrechte, Aufbewahrung, Datenübermittlungen in Drittländer und die Sicherheit der Verarbeitung können relevant werden. Die Tatsache, dass ein KI-System nach dem AI Act kein Hochrisiko-System ist, bedeutet also keineswegs, dass du beliebige personenbezogene Daten eingeben darfst. Gerade bei Kundenakten, Mitarbeiterdaten oder sensiblen Informationen solltest du besonders vorsichtig sein.

Wie bereitest du dein Unternehmen sinnvoll auf den AI Act vor?

Du brauchst dafür nicht zwangsläufig eine umfangreiche Compliance-Abteilung.

Beginne damit, sämtliche beruflich genutzten KI-Anwendungen zusammenzutragen. Vielleicht nutzt dein Betrieb ChatGPT für Texte, einen KI-Assistenten im Kundenservice und ein Programm zur automatischen Rechnungserfassung. Prüfe anschließend für jede Anwendung, welchen Zweck sie erfüllt und ob personenbezogene oder vertrauliche Daten verarbeitet werden.

Im nächsten Schritt solltest du untersuchen, ob besondere Risiken entstehen. Ein System, das lediglich Werbetexte vorschlägt, benötigt normalerweise andere Kontrollen als eine KI, die Entscheidungen über Beschäftigte vorbereitet.

Lege danach fest, welche Aufgaben automatisiert ausgeführt werden dürfen und wo eine menschliche Freigabe notwendig ist. Schule die beteiligten Mitarbeiter entsprechend ihrer Aufgaben. Dokumentiere die wichtigsten Entscheidungen und überprüfe regelmäßig, ob sich die verwendeten Systeme oder ihre Einsatzgebiete verändert haben.

Besonders bei autonomen KI-Agenten ist das sinnvoll. Wenn ein Agent nicht nur Vorschläge erstellt, sondern selbstständig Nachrichten versendet, Daten verändert oder externe Dienste bedient, sollte klar geregelt sein, welche Berechtigungen er besitzt.

Müssen kleine Unternehmen mit hohen Strafen rechnen?

Der AI Act sieht bei bestimmten Verstößen empfindliche Sanktionen vor.

Bei verbotenen KI-Praktiken können die gesetzlichen Obergrenzen grundsätzlich bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes erreichen. Für andere Verstöße gelten teilweise niedrigere Grenzen.

Das klingt für kleine Unternehmen zunächst erschreckend. Allerdings sind die Beträge keine pauschalen Strafen, die automatisch bei jedem Fehler verhängt werden.

Die Verordnung berücksichtigt unter anderem die Art und Schwere eines Verstoßes. Für kleine und mittlere Unternehmen gelten besondere Verhältnismäßigkeitsregelungen und angepasste Obergrenzen. Du solltest die Vorschriften deshalb ernst nehmen, ohne aus Angst auf jede sinnvolle KI-Anwendung zu verzichten.

Was kostet die Umsetzung des AI Act?

Auch hier gibt es keine allgemeingültige Summe.

Ein kleines Unternehmen, das gelegentlich KI zur Textunterstützung verwendet, benötigt normalerweise wesentlich weniger organisatorischen Aufwand als ein Anbieter komplexer Hochrisiko-Systeme. Kosten können beispielsweise durch Schulungen, technische Kontrollen, Datenschutzprüfungen oder die Anpassung vorhandener Prozesse entstehen. Nicht jede Maßnahme muss jedoch teuer sein.

Eine verständliche interne Nutzungsrichtlinie, eine einfache Übersicht der verwendeten Systeme und klar festgelegte Zuständigkeiten lassen sich häufig mit überschaubarem Aufwand vorbereiten. Entscheidend ist, dass du keine aufwendigen Maßnahmen einführst, die für deinen konkreten Einsatz gar nicht erforderlich sind.

Fazit: Der EU AI Act ist kein Verbot von KI im Unternehmen

Die europäische KI-Verordnung soll den Einsatz künstlicher Intelligenz sicherer und nachvollziehbarer machen. Für kleine Unternehmen bedeutet das vor allem, sich mit den tatsächlich verwendeten Anwendungen auseinanderzusetzen. Nicht jedes KI-Werkzeug ist automatisch ein Hochrisiko-System. Und nicht jeder Betrieb benötigt umfangreiche technische Dokumentationen oder teure Zertifizierungen. Bestimmte Anforderungen gelten allerdings bereits heute. Dazu gehören insbesondere die Förderung von KI-Kompetenz, Verbote bestimmter Anwendungen und relevante Transparenzpflichten.

Die wichtigste Frage lautet deshalb nicht, ob du künstliche Intelligenz einsetzen darfst, sondern wie du sie verantwortungsvoll und rechtssicher verwendest.

Wenn du die verwendeten Werkzeuge kennst, Risiken realistisch einschätzt und klare Regeln für ihre Nutzung aufstellst, hast du bereits eine gute Grundlage geschaffen. Künstliche Intelligenz kann auch kleinen Unternehmen viel Arbeit abnehmen. Der AI Act muss dabei kein Hindernis sein, sondern kann als Anlass dienen, die eigenen digitalen Abläufe bewusster und zuverlässiger zu gestalten. Wenn du dich für technische Lösungen interessierst, findest du auf jentschel.com weitere Informationen zur KI-Automatisierung und zur Entwicklung individueller digitaler Anwendungen.

Hinweis: Dieser Beitrag dient der allgemeinen Information und stellt keine individuelle Rechtsberatung dar. Die konkreten Pflichten ergeben sich aus der Rolle des Unternehmens, dem jeweiligen KI-System, seinem Einsatzbereich und den geltenden gesetzlichen Bestimmungen.

Weiterführende offizielle Informationen

Wenn du dich genauer über die europäische KI-Verordnung und ihre Anforderungen informieren möchtest, findest du hier die entsprechenden offiziellen Informationsangebote: