Grenzenlose Generierung: Die Kontroverse um Groks Deepfakes und der Konflikt mit der EU

Datum: 9. Januar 2026

Seit der Veröffentlichung der Bildgenerierungsfunktionen in Elon Musks KI-Modell „Grok“ (speziell Grok-2) im August 2024 steht die Plattform X (ehemals Twitter) im Zentrum einer hitzigen Debatte über künstliche Intelligenz, Ethik und Regulierung. Anders als Konkurrenzprodukte von OpenAI oder Google startete Grok mit minimalen Sicherheitsvorkehrungen („Guardrails“), was zu einer Flut von sexualisierten Deepfakes und politischer Desinformation führte.

Dies rief die Regulierungsbehörden der Europäischen Union auf den Plan.

Der „Wilde Westen“ der KI-Bilder

Mitte August 2024 rollte xAI, das KI-Unternehmen von Elon Musk, die Version Grok-2 für Premium-Abonnenten auf X aus. Die Technologie basiert auf dem Modell „FLUX.1“ des deutschen Start-ups Black Forest Labs. Während Konkurrenten wie Midjourney oder DALL-E 3 strikte Filter gegen Nacktheit, Gewalt und die Darstellung realer Personen (insbesondere Politiker) implementiert haben, verfolgte Grok zunächst einen libertären Ansatz.

Das Problem der sexualisierten Inhalte

Unmittelbar nach der Veröffentlichung begannen Nutzer, die Grenzen des Systems auszutesten. Das Ergebnis war eine massive Welle von KI-generierten Bildern, die oft fotorealistisch wirkten:

Non-Consensual Intimate Imagery (NCII):

Nutzer erstellten sexualisierte Bilder von Prominenten (wie Taylor Swift) und Politikern (darunter Kamala Harris und Alexandria Ocasio-Cortez). Diese Deepfakes wurden ohne Zustimmung der abgebildeten Personen generiert und verbreitet.

Fehlende Filter:

In den ersten Tagen war es möglich, mit expliziten Prompts Bilder zu generieren, die Frauen in kompromittierenden, sexualisierten oder unterwürfigen Posen zeigten. Auch urheberrechtlich geschützte Figuren (z. B. Disney-Charaktere) wurden in Drogen- oder Gewaltszenarien dargestellt.
Obwohl X in seinen Nutzungsbedingungen NCII verbietet, fehlte es der KI selbst an technischen Blockaden, um die Erstellung dieser Bilder von vornherein zu verhindern. Die Moderation erfolgte – wenn überhaupt – erst nach der Veröffentlichung durch Meldungen anderer Nutzer.

grok bildgenerator

Die Reaktion der Europäischen Union

Die EU beobachtet die Entwicklung auf X seit Längerem kritisch, insbesondere unter dem Digital Services Act (DSA), einem Gesetz, das Online-Plattformen zu strengerem Vorgehen gegen illegale Inhalte verpflichtet.

Laufende Verfahren und Warnungen

Die EU-Kommission hatte bereits vor dem Grok-Update ein Verfahren gegen X eröffnet, um zu prüfen, ob die Plattform genug gegen Desinformation und illegale Inhalte tut. Mit dem Start von Grok verschärfte sich der Ton drastisch.

Verstoß gegen den DSA: Die EU argumentiert, dass Plattformen systemische Risiken mindern müssen. Ein KI-Tool, das ungefiltert sexualisierte Gewalt oder politische Fakes erstellt, könnte als Verstoß gegen diese Sorgfaltspflicht gewertet werden.
Der Brief von Thierry Breton: Im August 2024 warnte der damalige EU-Binnenmarktkommissar Thierry Breton Elon Musk in einem offenen Brief. Er wies darauf hin, dass die Verbreitung von schädlichen Inhalten (angestachelt durch KI) reale Gewalt fördern könne (zu diesem Zeitpunkt auch im Kontext der Unruhen in Großbritannien).
Forderungen: Die EU fordert von X effektive Maßnahmen zur Moderation. Dazu gehört, dass KI-generierte Inhalte klar als solche gekennzeichnet werden müssen und dass Mechanismen greifen, die die Erstellung illegaler Inhalte (wie NCII) unterbinden.

Mögliche Konsequenzen

Sollte die EU feststellen, dass X dauerhaft gegen den DSA verstößt, drohen dem Unternehmen Strafzahlungen in Höhe von bis zu 6 Prozent des weltweiten Jahresumsatzes. Im Extremfall könnte der Dienst in der EU gesperrt werden, sollte sich das Unternehmen weigern, den Auflagen nachzukommen.

Die Höhe der Strafe hängt allerdings entscheidend davon ab, wie die Europäische Union den Begriff des „Unternehmens“ im Fall von Elon Musk auslegt. Es gibt hier zwei Szenarien, die sich massiv unterscheiden:

Szenario 1: Nur die Plattform X (Standardfall)

Normalerweise berechnet die EU Bußgelder nach dem Digital Services Act (DSA) auf Basis des Jahresumsatzes des betroffenen Dienstleisters (in diesem Fall der X Corp. bzw. xAI).
Geschätzter Jahresumsatz von X: Analysten schätzen den Umsatz von X (ehemals Twitter) für 2024/2025 auf etwa 2,5 bis 3 Milliarden US-Dollar.
Die Strafe (6 %): In diesem Fall läge die maximale Strafe bei ca. 150 bis 180 Millionen US-Dollar (ca. 140 bis 170 Millionen Euro).

Szenario 2: Das „Musk-Imperium“ (Die Drohung)

Die EU-Kommission (insbesondere unter dem ehemaligen Kommissar Thierry Breton) hat jedoch angedeutet, dass sie Elon Musks Unternehmen möglicherweise als eine wirtschaftliche Einheit betrachten könnte, da er faktisch die Kontrolle über alle ausübt. In diesem Fall würde der Umsatz aller seiner Firmen (Tesla, SpaceX, Neuralink, xAI, The Boring Company) zur Berechnung herangezogen.

Geschätzter Gesamtumsatz:

Tesla: ca. 97 Mrd. USD
SpaceX: ca. 9–15 Mrd. USD (stark wachsend durch Starlink)
X & andere: ca. 3–4 Mrd. USD
Summe: Über 110 bis 120 Milliarden US-Dollar.
Sollte die EU diesen Hebel ansetzen, könnte die Strafe auf 6,6 bis 7,2 Milliarden US-Dollar (ca. 6 bis 6,5 Milliarden Euro) ansteigen, was selbst für Elon Musk kein Pappenstiel mehr ist!

Musks Haltung vs. Realität

Elon Musk verteidigt den Ansatz von Grok oft mit dem Argument der „absoluten Redefreiheit“ und macht sich über das „Woke“-Sein anderer KIs lustig, die zu vorsichtig seien. Dennoch zwang der öffentliche Druck und die drohende Regulierung xAI zu Anpassungen.

Kurz nach der ersten Welle der Empörung implementierte xAI stillschweigend einige Filter. Prompts, die explizit nach Nacktheit verlangten, wurden teilweise blockiert. Allerdings berichten Sicherheitsforscher und Nutzer weiterhin, dass diese Filter durch kreative Formulierungen („Jailbreaks“) leicht umgangen werden können.

grok bildgenerator

Fazit

Der Fall Grok zeigt mal wieder exemplarisch das Spannungsfeld zwischen technologischem Fortschritt und gesellschaftlicher Verantwortung. Während die Technologie beeindruckende Bilder liefert, hat die fehlende Sicherheitsarchitektur zu einer neuen Welle sexualisierter Gewalt im Netz geführt.

Die EU hat sich hierbei als weltweit strengste Regulierungsinstanz positioniert, die versucht, Tech-Milliardäre wie Musk durch den DSA in die Schranken zu weisen.

Quellenangaben:

The Guardian (August 2024): Berichtete ausführlich über die Welle von KI-generierten Fakes kurz nach der Veröffentlichung von Grok-2, insbesondere im Hinblick auf US-Politikerinnen.
Der Spiegel (Januar 2026): Aktueller Artikel über die anhaltende Problematik, dass Grok trotz Anpassungen weiterhin für sexualisierte Bilder von Frauen und Minderjährigen missbraucht wird (Stichwort: „Jailbreaks“).
Quartz / TechCrunch (August 2024): Bestätigten die technische Basis (Partnerschaft mit Black Forest Labs) und das Fehlen initialer „Guardrails“ im Vergleich zu OpenAI oder Google.
AI Forensics (Studie): Eine oft zitierte Analyse (erwähnt in aktuellen Berichten von Der Spiegel und Deutschlandfunk), die aufzeigte, dass über 50 % der geprüften Grok-Bilder sexualisierte Darstellungen enthielten.
Thierry Breton (Offener Brief auf X, August 2024): Das Originaldokument, in dem der damalige EU-Kommissar Musk vor der Verbreitung schädlicher Inhalte warnte.
European Newsroom / EUobserver (Januar 2026): Berichten über die aktuelle Aussage der EU-Kommission, dass sie die „Fake Sexual Videos“ von Minderjährigen auf X „sehr ernst“ nimmt und dies als illegal einstuft.
Deutschlandfunk (Dezember 2025): Bestätigung der ersten bereits verhängten DSA-Strafe gegen X (120 Millionen Euro wegen Transparenzmängeln bei „Blue Checks“ und Werbedaten) – dies dient als Präzedenzfall für die drohenden höheren Strafen im Bereich Deepfakes.
Reuters / Financial Times: Haben mehrfach Analysen veröffentlicht, in denen Rechtsexperten die Möglichkeit diskutieren, dass die EU Musks Unternehmen als „wirtschaftliche Einheit“ betrachten könnte.
TechPolicy.Press: Fachpublikation, die detailliert aufschlüsselt, wie die EU-Kommission die Umsatzberechnung im „Worst-Case-Szenario“ für Tech-Giganten anwenden kann.
Offizielle DSA-Richtlinien (Europäische Kommission): Der Gesetzestext selbst legt die Obergrenze von 6 % des weltweiten Jahresumsatzes fest.