Der AI Act startet: KI-Regulierung in der EU
03:52 Min.. Verfügbar bis 01.08.2027. Von Jörg Schieb, Jörg Schieb.
Mehr Regeln für KI: Was sich bei ChatGPT & Co. für uns ändert
Stand:
Am 2. August 2025 treten in der EU verbindliche Regeln für KI-Modelle mit allgemeinem Verwendungszweck in Kraft – und das betrifft direkt die Tools, die Millionen Deutsche täglich nutzen. WDR-Digitalexperte Jörg Schieb erklärt, was das konkret bedeutet.
Von 
Jörg Schieb
Dialogbox
Zu den Kommentaren [4]Millionen Deutsche nutzen mittlerweile wie selbstverständlich täglich ChatGPT oder andere Chatbots, lassen sich von KI Texte schreiben oder Bilder generieren. Doch jetzt ändert sich fundamental etwas an den Bedingungen: Die EU setzt als erste Region weltweit verbindliche Regeln für Künstliche Intelligenz (KI) – mit direkten Folgen für jeden, der KI-Tools verwendet.
Transparenzpflichten für alle großen KI-Anbieter
Der AI Act startet: Die KI-Regulierung in der EU ist nicht unumstritten
ChatGPT, Google Gemini, Meta AI und alle ähnlichen KI-Systeme müssen sich ab dem 2. August an die neue KI-Verordnung halten. Die wichtigste Neuerung: Anbieter sogenannter "General Purpose AI"-Modelle – und darunter fallen praktisch alle bekannten Chatbots – unterliegen in der EU nun verschärften Transparenzpflichten. Die Anbieter müssen künftig offenlegen, wie ihre Systeme funktionieren, mit welchen Daten sie trainiert wurden und wie sie mit Risiken umgehen.
Besonders brisant und auch aufwändig: Die Anbieter müssen öffentlich dokumentieren - die EU-Kommission hat formale Regeln vorgegeben -, welche urheberrechtlich geschützten Inhalte sie zum Training verwendet haben. Das ist relevant für jeden Content-Ersteller – von Journalisten über Fotografen bis hin zu Musikern –, dessen Werke möglicherweise ohne Einverständnis zum Training genutzt wurden.
Doch auch für normale Chatbot-Nutzer kann es relevant sein zu erfahren, mit welchen Inhalten eine KI eigentlich trainiert wurde. Es macht einen Unterschied, ob eine KI vor allem mit Comics oder mit wissenschaftlichen Texten "gefüttert" wurde.
Kennzeichnungspflicht für KI-generierte Inhalte
Social Media soll KI-Inhalte entsprechend kennzeichnen
Für Nutzer von KI-Modellen werden die Änderungen schrittweise spürbar. Bereits jetzt müssen Anbieter sicherstellen, dass Nutzer klar erkennen können, wenn sie mit einem KI-System kommunizieren – es sei denn, dies ist offensichtlich, etwa weil sie auf die Webseite eines Chatbots wie Claude oder ChatGPT gehen.
Mit Hilfe von KI generierte Bilder, Videos und Texte müssen künftig durch technische Lösungen wie Wasserzeichen oder Metadaten als künstlich erzeugt erkennbar sein. Soziale Netzwerke wie Facebook, Instagram, Youtube und Linkedin kennzeichnen solche Inhalte zunehmend gut erkennbar, um Missverständnisse zu vermeiden.
Wer etwa KI-generierte Avatars realer Personen erstellt oder KI-Texte zur Information der Öffentlichkeit nutzt, muss dies deutlich kennzeichnen. Die Kennzeichnungspflicht soll vor allem Deepfakes und Manipulation erschweren. Völlig verhindern kann diese Maßnahme Deepfakes nicht, nicht zuletzt deswegen, weil KI-Modelle aus dem Nicht-EU-Ausland, die teilweise sogar als OpenSource frei verfügbar sind, diesen Pflichten nicht unterliegen.
Widerstand und Kritik aus Silicon Valley
ChatGPT fügt mitunter unsichtbare Sonderzeichen in die generierten Texte ein
Alle großen KI-Anbieter müssen die neuen EU-Regeln befolgen – daran führt kein Weg vorbei. Zusätzlich hat die EU-Kommission einen freiwilligen Verhaltenskodex entwickelt, der die Umsetzung erleichtern soll. Hier zeigen sich jedoch deutliche Unterschiede.
Meta, der Konzern hinter Facebook und Instagram, lehnt diesen Kodex kategorisch ab. Das Unternehmen kritisiert "rechtliche Unsicherheiten" und wirft der EU vor, über das eigentliche Gesetz hinauszugehen. Joel Kaplan, Metas Chef für globale Angelegenheiten, warnte sogar, "Europa gehe den falschen Weg bei der KI". Die gesetzlichen Verpflichtungen muss Meta dennoch erfüllen.
Kooperativer zeigt sich Anthropic, der Anbieter des ChatGPT-Konkurrenten Claude: Das Unternehmen will den Verhaltenskodex unterzeichnen und signalisiert damit Bereitschaft zur Zusammenarbeit. OpenAI, das Unternehmen hinter ChatGPT, hatte zunächst sogar mit einem kompletten EU-Ausstieg gedroht, lenkte aber schnell ein.
Empfindliche Strafen als Druckmittel
Automatische Kennzeichnung von KI-Inhalten ist das Ziel
Die EU meint es ernst mit der Durchsetzung: Bei Verstößen gegen die neuen KI-Regeln drohen Geldbußen von bis zu 35 Millionen Euro oder sieben Prozent des weltweiten Jahresumsatzes – je nachdem, was höher ist. Bei Konzernen wie Google oder Meta könnten das Milliardensummen werden.
Die Überwachung erfolgt auf zwei Ebenen: Jeder EU-Mitgliedstaat muss bis zum 2. August eine Marktüberwachungsbehörde benennen, um die neuen Regeln auch wirksam durchzusetzen. Auf europäischer Ebene koordiniert das neu geschaffene EU-KI-Amt die Aufsicht.
Gestaffelte Umsetzung schafft Verwirrung
Viele Regeln greifen allerdings erst später. Während die Transparenzpflichten für KI-Anbieter ab sofort gelten, treten die meisten anderen Bestimmungen erst im August 2026 in Kraft. Für bereits verfügbare KI-Modelle wie ChatGPT gibt es sogar eine Schonfrist bis August 2027.
Diese gestaffelte Umsetzung sorgt für Verwirrung bei Verbrauchern und Unternehmen gleichermaßen. Experten kritisieren, dass die komplexe Rechtslage Innovation hemmen könnte, während andere den regulatorischen Rahmen als notwendig für Vertrauen in KI-Technologien sehen.
Europa als Vorreiter für vertrauenswürdige KI
Der AI Act startet: KI-Regulierung in der EU
Mit dem AI Act positioniert sich Europa als Vorreiter für die Regulierung Künstlicher Intelligenz. Während die USA unter Präsident Donald Trump eher auf Selbstregulierung der Industrie setzen, schafft die EU klare rechtliche Vorgaben.
Ob dieser Ansatz Innovation fördert oder bremst, wird sich zeigen. Klar ist: Die neuen Regeln werden das Verhalten der großen Tech-Konzerne beeinflussen – und damit auch die Erfahrung von Millionen KI-Nutzern in Deutschland und Europa.
Unsere Quellen:
- EU-Kommission
- Meta
- OpenAI
- Anthropic
4 Kommentare
Kommentar 4: Keine Panik schreibt am 04.08.2025, 01:05 Uhr :
Die Antwort KI nach 7,5 Millionen Jahre Rechenzeit ist 42 (Per Anhalter durch die Galaxis). Literarisch überspitzt aber für Sinnlosigkeit der KI ein gutes Beispiel. Wenn ich keine Ahnung habe würde ich mich ohnehin nicht blind auf menschliche oder künstliche „Intelligenz“ verlassen. Wenn ich etwas weiß muss ich ohnehin Antworten überprüfen. Immer muss man bedenken, was im Computer reingesteckt wurde und was warum rauskommt. Der Denkansatz der EU zu veröffentlichen was reingesteckt wurde ist prinzipiell richtig. Das mach der WDR neuerdings auch, unten sind „Unsere Quellen“ angegeben. Da kann man sehen was berücksichtigt wurde oder was nach eigener Ansicht fehlt. Ich hätte noch Chaos Computer Club gefragt und Datenschützer, aber so eine Liste ist beliebig erweiterbar. Ein „EU-KI-Amt“ neben Datenschutz ist unnötig weil man weder einer künstlichen, noch einer natürliche Intelligenz ungeprüft alles abkaufen kann. Jede Referenz auf Ergebnisse der KI, wie die Antwort 42, sind völlig wertlos.
Kommentar 3: Ex-Controller schreibt am 02.08.2025, 17:23 Uhr :
An KI glaube ich nicht. Das ist nichts weiter als eine Datenbankabfrage. Man braucht nur nicht wie früher eine starre Syntax zur Abfrage und das Ergebnis wird in lediglich Form von Sätzen gepackt. Als die EDV laufen lernte brauchte ich Stunden um Tausende von Datensätzen zu durchsuchen, heute werden Millionen von Daten in Bruchteilen von Sekunden durchsucht. Die Frage wie eine Datenbank gefüttert wird ist heute wie früher berechtigt. Aber heute wie damals darf man den Ergebnissen nicht trauen wenn man nicht genau weiß was wie verarbeitet wurde. Das war mein Job das zu prüfen, ob Datensätze und Verarbeitung zu den Ergebnissen führen kann die ausgegeben werden. Und wenn ich das Ergebnis nicht nachvollziehen kann ist weder natürliche noch künstliche „Intelligenz“ brauchbar. Suchmaschinen die nicht anonymisieren liefern immer das was man hören will, das Ergebnis ist eine nutzlose Filterblase. Und Bilder von verbesserten Bildbearbeitungsprogrammen haben gar nichts mit Intelligenz zu tun.
Antwort von Franziska 1 , geschrieben am 02.08.2025, 20:11 Uhr :
@Ex- Controller, ich musste vor Jahrzehnten mit der "SAP" ein paar Jahre arbeiten, darum kann ich bei allen was sie aussagen zustimmen, was sich im Laufe der Zeit entwickelt.
Antwort von KI Keisel , geschrieben am 03.08.2025, 03:21 Uhr :
Weil SAP ohne Drittanbieter im täglichen Workflow kaum zu gebrauchen ist. Rückständig, altmodisch. Selbst mit Hana
Kommentar 2: Brigitta S. schreibt am 02.08.2025, 13:55 Uhr :
Ich benötige übertrieben keine künstlich, intelligente Babysitter. Im Beruf wenn mit Druck nötig ja, im Privatleben fast unnötig. Wie hat man vorher ohne der gewachsenen KI gelebt? Viel entspannter als jetzt mit Digital, wo Kriminelle ihr Unwesen treiben können und auch die KI mit der Zeit überfordert wird. KI konsultiert keine aktiven Quellen, sondern reproduziert lediglich vorhandene Muster von Trainingsdaten. ChatGPT ist nicht darauf trainiert, Wahrheit von Fiktion zu unterscheiden. Sie erfindet lieber überzeugende Antworten, anstatt zuzugeben, etwas nicht zu wissen. Darum lehne ich überwiegend die Benützung von Chat& Co ab. Noch ist mein Kopf in Ordnung mich im Internet vorsichtig zu bewegen und zu texten was ich für richtig halte. Fehler macht auch die KI. Menschen können der KI, Lügen erzählen. Warum kommen noch Fehler von der KI vor? Wenn es keine neuen Daten bekommt, dann schweigt auch dieses System und antwortet nicht.
Antwort von So ein Schwachsinn , geschrieben am 02.08.2025, 15:40 Uhr :
Inkompetente Nutzung ist nicht das Problem der AI.
Antwort von Paul S. , geschrieben am 02.08.2025, 17:10 Uhr :
@So ein Schwachsinn, Sie sollten nicht die Meinung kritisch pauschalieren. ChatGPT benützen auch Schüler, wobei sie ohne Vorsicht arbeiten. Es gibt einiges was bei ChatGPT nicht richtig ist. Sie müssen bedenken, nicht alle User wollen privat ein Fachmann werden, digital. Gesetzlich ist es nicht vorgeschrieben, ChatGPT 100% zu benützen. Die EU, Europa als Vorreiter für vertrauenswürdige KI, dass ist sehr wichtig von Kindheit an bis zu den alten Menschen. Die EU legt bei ChatGPT jetzt die richtigen Gleise, wo in nächster Zeit weitere folgen. Bei ChatGPT gibt es sehr viele Dinge die zu beachten sind und Sie schreiben: Inkompetente Nutzung ist nicht das Problem? Was für eine Aufklärung darüber, die im Bach schwimmt!
Antwort von Brigitta S. , geschrieben am 02.08.2025, 17:16 Uhr :
@So ein Schwachsinn......wo ist Ihr Problem bei meiner Ansicht? Nur raus damit und bitte etwas ausführlicher über ChatGPT ?
Antwort von Franziska 1 , geschrieben am 02.08.2025, 19:43 Uhr :
@So ein Schwachsinn "....Inkompetente Nutzung ist nicht das Problem"? Dann fragen Sie mal meinen langjährigen Computer -Fachmann was er dazu zusagen hat. Er sieht die Probleme was seine Kunden bei ChatGPT haben und bei andere APPs. Wenn er sich nicht ständig weiter " Schulen" würde, dann wäre er bald weg vom Fenster als Fachmann im Internet. Es verändert sich schnell eine APP, weil die KI zu viel reguliert. Kein ausgebildeter Fachmann würde hier im Gästebuch schreiben, sagt er. Es gibt Leute, die andere für doof halten, weil sie meinen selbst professional zu sein ohne Probleme.
Kommentar 1: Gert schreibt am 02.08.2025, 13:10 Uhr :
Wenn Meta nicht mit den Regelungen einverstanden ist, müssen sie richtig sein. Insofern: Gut gemacht EU!