Grenzenlose Generierung: Die Kontroverse um Groks Deepfakes und der Konflikt mit der EU

Datum: 9. Januar 2026

Seit der Veröffentlichung der Bildgenerierungsfunktionen in Elon Musks KI-Modell „Grok“ (speziell Grok-2) im August 2024 steht die Plattform X (ehemals Twitter) im Zentrum einer hitzigen Debatte über künstliche Intelligenz, Ethik und Regulierung. Anders als Konkurrenzprodukte von OpenAI oder Google startete Grok mit minimalen Sicherheitsvorkehrungen („Guardrails“), was zu einer Flut von sexualisierten Deepfakes und politischer Desinformation führte.

Dies rief die Regulierungsbehörden der Europäischen Union auf den Plan.

Der „Wilde Westen“ der KI-Bilder

Mitte August 2024 rollte xAI, das KI-Unternehmen von Elon Musk, die Version Grok-2 für Premium-Abonnenten auf X aus. Die Technologie basiert auf dem Modell „FLUX.1“ des deutschen Start-ups Black Forest Labs. Während Konkurrenten wie Midjourney oder DALL-E 3 strikte Filter gegen Nacktheit, Gewalt und die Darstellung realer Personen (insbesondere Politiker) implementiert haben, verfolgte Grok zunächst einen libertären Ansatz.

Das Problem der sexualisierten Inhalte

Unmittelbar nach der Veröffentlichung begannen Nutzer, die Grenzen des Systems auszutesten. Das Ergebnis war eine massive Welle von KI-generierten Bildern, die oft fotorealistisch wirkten:

Non-Consensual Intimate Imagery (NCII):

Nutzer erstellten sexualisierte Bilder von Prominenten (wie Taylor Swift) und Politikern (darunter Kamala Harris und Alexandria Ocasio-Cortez). Diese Deepfakes wurden ohne Zustimmung der abgebildeten Personen generiert und verbreitet.

Fehlende Filter:

In den ersten Tagen war es möglich, mit expliziten Prompts Bilder zu generieren, die Frauen in kompromittierenden, sexualisierten oder unterwürfigen Posen zeigten. Auch urheberrechtlich geschützte Figuren (z. B. Disney-Charaktere) wurden in Drogen- oder Gewaltszenarien dargestellt.
Obwohl X in seinen Nutzungsbedingungen NCII verbietet, fehlte es der KI selbst an technischen Blockaden, um die Erstellung dieser Bilder von vornherein zu verhindern. Die Moderation erfolgte – wenn überhaupt – erst nach der Veröffentlichung durch Meldungen anderer Nutzer.

grok bildgenerator

Die Reaktion der Europäischen Union

Die EU beobachtet die Entwicklung auf X seit Längerem kritisch, insbesondere unter dem Digital Services Act (DSA), einem Gesetz, das Online-Plattformen zu strengerem Vorgehen gegen illegale Inhalte verpflichtet.

Laufende Verfahren und Warnungen

Die EU-Kommission hatte bereits vor dem Grok-Update ein Verfahren gegen X eröffnet, um zu prüfen, ob die Plattform genug gegen Desinformation und illegale Inhalte tut. Mit dem Start von Grok verschärfte sich der Ton drastisch.

Verstoß gegen den DSA: Die EU argumentiert, dass Plattformen systemische Risiken mindern müssen. Ein KI-Tool, das ungefiltert sexualisierte Gewalt oder politische Fakes erstellt, könnte als Verstoß gegen diese Sorgfaltspflicht gewertet werden.
Der Brief von Thierry Breton: Im August 2024 warnte der damalige EU-Binnenmarktkommissar Thierry Breton Elon Musk in einem offenen Brief. Er wies darauf hin, dass die Verbreitung von schädlichen Inhalten (angestachelt durch KI) reale Gewalt fördern könne (zu diesem Zeitpunkt auch im Kontext der Unruhen in Großbritannien).
Forderungen: Die EU fordert von X effektive Maßnahmen zur Moderation. Dazu gehört, dass KI-generierte Inhalte klar als solche gekennzeichnet werden müssen und dass Mechanismen greifen, die die Erstellung illegaler Inhalte (wie NCII) unterbinden.

Mögliche Konsequenzen

Sollte die EU feststellen, dass X dauerhaft gegen den DSA verstößt, drohen dem Unternehmen Strafzahlungen in Höhe von bis zu 6 Prozent des weltweiten Jahresumsatzes. Im Extremfall könnte der Dienst in der EU gesperrt werden, sollte sich das Unternehmen weigern, den Auflagen nachzukommen.

Die Höhe der Strafe hängt allerdings entscheidend davon ab, wie die Europäische Union den Begriff des „Unternehmens“ im Fall von Elon Musk auslegt. Es gibt hier zwei Szenarien, die sich massiv unterscheiden:

Szenario 1: Nur die Plattform X (Standardfall)

Normalerweise berechnet die EU Bußgelder nach dem Digital Services Act (DSA) auf Basis des Jahresumsatzes des betroffenen Dienstleisters (in diesem Fall der X Corp. bzw. xAI).
Geschätzter Jahresumsatz von X: Analysten schätzen den Umsatz von X (ehemals Twitter) für 2024/2025 auf etwa 2,5 bis 3 Milliarden US-Dollar.
Die Strafe (6 %): In diesem Fall läge die maximale Strafe bei ca. 150 bis 180 Millionen US-Dollar (ca. 140 bis 170 Millionen Euro).

Szenario 2: Das „Musk-Imperium“ (Die Drohung)

Die EU-Kommission (insbesondere unter dem ehemaligen Kommissar Thierry Breton) hat jedoch angedeutet, dass sie Elon Musks Unternehmen möglicherweise als eine wirtschaftliche Einheit betrachten könnte, da er faktisch die Kontrolle über alle ausübt. In diesem Fall würde der Umsatz aller seiner Firmen (Tesla, SpaceX, Neuralink, xAI, The Boring Company) zur Berechnung herangezogen.

Geschätzter Gesamtumsatz:

Tesla: ca. 97 Mrd. USD
SpaceX: ca. 9–15 Mrd. USD (stark wachsend durch Starlink)
X & andere: ca. 3–4 Mrd. USD
Summe: Über 110 bis 120 Milliarden US-Dollar.
Sollte die EU diesen Hebel ansetzen, könnte die Strafe auf 6,6 bis 7,2 Milliarden US-Dollar (ca. 6 bis 6,5 Milliarden Euro) ansteigen, was selbst für Elon Musk kein Pappenstiel mehr ist!

Musks Haltung vs. Realität

Elon Musk verteidigt den Ansatz von Grok oft mit dem Argument der „absoluten Redefreiheit“ und macht sich über das „Woke“-Sein anderer KIs lustig, die zu vorsichtig seien. Dennoch zwang der öffentliche Druck und die drohende Regulierung xAI zu Anpassungen.

Kurz nach der ersten Welle der Empörung implementierte xAI stillschweigend einige Filter. Prompts, die explizit nach Nacktheit verlangten, wurden teilweise blockiert. Allerdings berichten Sicherheitsforscher und Nutzer weiterhin, dass diese Filter durch kreative Formulierungen („Jailbreaks“) leicht umgangen werden können.

grok bildgenerator

Fazit

Der Fall Grok zeigt mal wieder exemplarisch das Spannungsfeld zwischen technologischem Fortschritt und gesellschaftlicher Verantwortung. Während die Technologie beeindruckende Bilder liefert, hat die fehlende Sicherheitsarchitektur zu einer neuen Welle sexualisierter Gewalt im Netz geführt.

Die EU hat sich hierbei als weltweit strengste Regulierungsinstanz positioniert, die versucht, Tech-Milliardäre wie Musk durch den DSA in die Schranken zu weisen.

Quellenangaben:

The Guardian (August 2024): Berichtete ausführlich über die Welle von KI-generierten Fakes kurz nach der Veröffentlichung von Grok-2, insbesondere im Hinblick auf US-Politikerinnen.
Der Spiegel (Januar 2026): Aktueller Artikel über die anhaltende Problematik, dass Grok trotz Anpassungen weiterhin für sexualisierte Bilder von Frauen und Minderjährigen missbraucht wird (Stichwort: „Jailbreaks“).
Quartz / TechCrunch (August 2024): Bestätigten die technische Basis (Partnerschaft mit Black Forest Labs) und das Fehlen initialer „Guardrails“ im Vergleich zu OpenAI oder Google.
AI Forensics (Studie): Eine oft zitierte Analyse (erwähnt in aktuellen Berichten von Der Spiegel und Deutschlandfunk), die aufzeigte, dass über 50 % der geprüften Grok-Bilder sexualisierte Darstellungen enthielten.
Thierry Breton (Offener Brief auf X, August 2024): Das Originaldokument, in dem der damalige EU-Kommissar Musk vor der Verbreitung schädlicher Inhalte warnte.
European Newsroom / EUobserver (Januar 2026): Berichten über die aktuelle Aussage der EU-Kommission, dass sie die „Fake Sexual Videos“ von Minderjährigen auf X „sehr ernst“ nimmt und dies als illegal einstuft.
Deutschlandfunk (Dezember 2025): Bestätigung der ersten bereits verhängten DSA-Strafe gegen X (120 Millionen Euro wegen Transparenzmängeln bei „Blue Checks“ und Werbedaten) – dies dient als Präzedenzfall für die drohenden höheren Strafen im Bereich Deepfakes.
Reuters / Financial Times: Haben mehrfach Analysen veröffentlicht, in denen Rechtsexperten die Möglichkeit diskutieren, dass die EU Musks Unternehmen als „wirtschaftliche Einheit“ betrachten könnte.
TechPolicy.Press: Fachpublikation, die detailliert aufschlüsselt, wie die EU-Kommission die Umsatzberechnung im „Worst-Case-Szenario“ für Tech-Giganten anwenden kann.
Offizielle DSA-Richtlinien (Europäische Kommission): Der Gesetzestext selbst legt die Obergrenze von 6 % des weltweiten Jahresumsatzes fest.

Beliebte Beiträge

1704, 2023

Zufallsgenerator in Excel erstellen – Mit Analysefunktion

Michael2023-07-08T16:53:08+02:0017th, April, 2023|Kategorien: Excel, Microsoft Office, Office 365, Shorts & Tutorials|Schlagwörter: Excel, Excel Tabellen|

Zufallszahlen in Excel kann man mit einer Funktion erstellen. Aber mehr Möglichkeiten gibt es durch die Analysefunktion in Excel. Die ist zwar meist versteckt, aber leicht zu aktivieren

1504, 2023

Datenbank mit Eingabemaske und Suchfunktion in Excel

Michael2023-07-08T16:53:19+02:0015th, April, 2023|Kategorien: Excel, Microsoft Office, Office 365, Shorts & Tutorials|Schlagwörter: Excel, Excel Tabellen|

So erstellen Sie eine Datenbank mit Eingabemaske und Suchfunktion OHNE VBA KENNTNISSE in Excel ganz einfach. Durch eine gut versteckte Funktion in Excel geht es recht einfach.

1204, 2023

Entwicklertools in Office 365 aktivieren
Gallerie
Entwicklertools in Office 365 aktivieren

Entwicklertools in Office 365 aktivieren

Michael2023-07-08T16:53:55+02:0012th, April, 2023|Kategorien: Shorts & Tutorials, Allgemein, Excel, Microsoft Office, Office 365, Outlook, PowerPoint, Word|Schlagwörter: Excel, Excel Tabellen, Outlook, Word, Word Briefe|

Schalten Sie die Entwicklertools in Excel, Word und Outlook frei. Erweitern Sie die Möglichkeiten mit zusätzlichen Funktionen in Office 365.

304, 2023

Text in Word diktieren und schreiben lassen

Michael2023-07-08T12:34:11+02:003rd, April, 2023|Kategorien: Word, Künstliche Intelligenz, Microsoft Office, Shorts & Tutorials|Schlagwörter: künstliche Intelligenz, Microsoft, Word, Word Briefe|

Texte in Word zu diktieren ist erheblich leichter und geht flotter als wenn Sie alles über die Tastatur eingeben müssen. Spracherkennung in Word funktioniert genauso wie externe Spracherkennungssoftware.

3103, 2023

Die 10 wichtigsten Formeln und Funktionen in Excel
Gallerie
Die 10 wichtigsten Formeln und Funktionen in Excel

Die 10 wichtigsten Formeln und Funktionen in Excel

Michael2023-07-08T16:54:14+02:0031st, März, 2023|Kategorien: Excel, Homeoffice, Microsoft Office, Office 365, Shorts & Tutorials|Schlagwörter: Excel, Excel Kalender, Excel Tabellen|

Wenn Sie Schreibtischtäter sind, dann müssen Sie zwar nicht zwingend ein Excel-Experte sein, aber es gibt ein paar Funktionen in Excel die Sie auf jeden Fall kennen sollten. Wir haben die 10 wichtigsten zusammengefasst.

2903, 2023

Kopfzeile und Fusszeile in Word – Erste Seite anders in Word
Gallerie
Kopfzeile und Fusszeile in Word – Erste Seite anders in Word

Kopfzeile und Fusszeile in Word – Erste Seite anders in Word

Michael2023-07-08T12:37:28+02:0029th, März, 2023|Kategorien: Word, Allgemein, Microsoft Office, Shorts & Tutorials|Schlagwörter: Word, Word Briefe|

So erstellen Sie Kopfzeilen auf der ersten Seite anders als auf den restlichen Seiten. Erstellen Sie auch eigene Fußzeilen in Word für Ihre Dokumente.

Grenzenlose Generierung: Die Kontroverse um Groks Deepfakes und der Konflikt mit der EU

Themenübersicht

JETZT NEU BEI UNS:

Der „Wilde Westen“ der KI-Bilder

Das Problem der sexualisierten Inhalte

Die Reaktion der Europäischen Union

Laufende Verfahren und Warnungen

Mögliche Konsequenzen

Musks Haltung vs. Realität

Fazit

Suche nach:

Auch interessant:

Neueste Beiträge:

Über den Autor:

Artikelsuche nach Kategorie:

Artikelsuche nach Stichwort:

Beliebte Beiträge

Angebote 2025/2026 in: Vorlagen

Ähnliche Beiträge

IHR FINANZ-COCKPIT

Neueste Beiträge:

Alles fürs Büro

Suche nach Kategorie:

Suche nach Stichwort:

Herbstangebote 2023

Titel

Unterstützen Sie unsere Arbeit

Neueste Artikel