Verbot der KI-Puppe „Lila“: Der Spion im Kinderzimmer

Wenn aus der besten Freundin eine Abhöranlage wird: Die Bundesnetzagentur greift bei vernetztem Spielzeug durch. Warum die KI-Puppe „Lila“ verboten wurde und was Eltern jetzt tun müssen.

In den Regalen der Spielwarengeschäfte wirken sie harmlos: Puppen wie „Lila“, die dank Künstlicher Intelligenz (KI) und Internetverbindung Fragen beantworten, Geschichten erzählen und scheinbar echte Gespräche mit Kindern führen können. Doch hinter den großen Augen und dem weichen Haar verbirgt sich oft Technik, die Datenschützer und Sicherheitsbehörden alarmiert. Die Bundesnetzagentur hat die KI-Puppe „Lila“ nun offiziell als „versteckte Sendeanlage“ eingestuft und verboten.

Für Eltern hat das drastische Konsequenzen: Der Besitz ist strafbar, das Spielzeug muss vernichtet werden.

Die Technik hinter dem Verbot: Wie „Lila“ funktioniert

„Lila“ gehört zur Kategorie der sogenannten Smart Toys. Anders als klassische Puppen verfügt sie über ein eingebautes Mikrofon und eine Bluetooth-Schnittstelle. Um zu funktionieren, verbindet sich die Puppe drahtlos mit einer App auf einem Smartphone oder Tablet, das wiederum Zugriff auf das Internet hat.

Wenn ein Kind der Puppe eine Frage stellt („Lila, wie ist das Wetter?“), wird das Gesprochene aufgenommen und über die App an einen Server des Herstellers gesendet. Dort analysiert eine Spracherkennungssoftware die Frage, sucht die Antwort im Netz und sendet diese als Text zurück an die App, die sie dann über den Lautsprecher der Puppe ausgibt.

Das rechtliche Problem: § 90 TKG

Das Verbot stützt sich auf Paragraf 90 des Telekommunikationsgesetzes (TKG). Dieser verbietet die Herstellung, den Vertrieb und den Besitz von Sendeanlagen, die ihrer Form nach einen anderen Gegenstand vortäuschen (z. B. eine Puppe) und geeignet sind, das nicht öffentlich gesprochene Wort unbemerkt abzuhören.

Die Bundesnetzagentur argumentiert im Fall „Lila“ – ähnlich wie im historischen Fall der Puppe „Cayla“ – folgendermaßen:

Vortäuschung: Die Sendeanlage (Mikrofon und Bluetooth-Sender) ist in einer Puppe versteckt und von außen nicht als technisches Gerät erkennbar.
Abhörfähigkeit: Da die Bluetooth-Verbindung der Puppe oft nicht ausreichend gesichert ist, können Dritte sich unbemerkt verbinden.

Sicherheitslücke Bluetooth: Jeder kann mithören

Das Hauptproblem bei „Lila“ ist die fehlende Authentifizierung bei der Bluetooth-Kopplung. In Tests wurde festgestellt, dass sich jedes Bluetooth-fähige Gerät in einer Reichweite von etwa zehn Metern (teilweise auch durch Wände hindurch) mit der Puppe verbinden kann, ohne dass eine PIN eingegeben oder ein Bestätigungsknopf an der Puppe gedrückt werden muss.

Das Szenario ist beängstigend: Ein Nachbar oder eine Person, die vor dem Haus steht, könnte sich mit der Puppe im Kinderzimmer verbinden. Über das Mikrofon könnte der Angreifer Gespräche im Kinderzimmer belauschen (Babyphone-Funktion) oder sogar über den Lautsprecher der Puppe direkt mit dem Kind sprechen – und das völlig unbemerkt von den Eltern.

Konsequenzen für Eltern: Zerstörungspflicht

Da der Besitz von verbotenen Sendeanlagen in Deutschland strafbar ist (es drohen theoretisch Freiheitsstrafen oder hohe Geldbußen), fordert die Bundesnetzagentur Käufer der Puppe auf, diese unschädlich zu machen.

Das bedeutet konkret:

Vernichtung der Elektronik: Es reicht nicht aus, die Batterien zu entfernen. Das elektronische Innenleben (insbesondere das Sendemodul und Mikrofon) muss physisch zerstört werden.
Nachweis: In der Vergangenheit verlangte die Behörde oft einen Nachweis der Vernichtung (z. B. ein Foto der zerstörten Bauteile) und eine Bestätigung der Abfallentsorgungsstation.

Der reine Puppenkörper (Kopf, Arme, Beine) darf theoretisch behalten werden, solange die Technik restlos entfernt wurde. Ein Weiterverkauf, etwa über eBay oder Kleinanzeigen, ist streng verboten und wird von den Plattformen meist blockiert.

Fazit: Augen auf beim Spielzeugkauf

Der Fall „Lila“ zeigt erneut, dass die Digitalisierung des Kinderzimmers Risiken birgt. Eltern sollten vor dem Kauf von Smart Toys genau prüfen:

Benötigt das Spielzeug eine Internetverbindung?
Gibt es ein Mikrofon oder eine Kamera?
Wie ist die Verbindung gesichert (z. B. Bluetooth-Pairing nur per Knopfdruck am Gerät)?
Wo werden die Daten gespeichert und verarbeitet?

Solange Hersteller Sicherheit nicht als oberste Priorität behandeln, bleibt das klassische, unvernetzte Spielzeug oft die sicherere Wahl für die Privatsphäre der Familie.

Quellen & Weiterführende Informationen

1. Offizielle Warnung und Vorgehen der Bundesnetzagentur (Vorbild für den Fall)

Bundesnetzagentur: „Bundesnetzagentur zieht Puppe ‚Cayla‘ aus dem Verkehr“. Hier wird bestätigt, dass Spielzeug, das funkfähig ist und zur heimlichen Bild- oder Tonaufnahme geeignet ist, in Deutschland verboten ist.

2. Die Rechtsgrundlage (§ 90 TKG)

Gesetze im Internet (Bundesministerium der Justiz): § 90 Telekommunikationsgesetz (TKG) – Missbrauch von Sende- oder sonstigen Telekommunikationsanlagen. Der Paragraph regelt das Verbot von Sendeanlagen, die einen anderen Gegenstand vortäuschen.

3. Technische Analyse und Sicherheitslücken (Bluetooth)

Verbraucherzentrale: „Vorsicht bei Smart Toys: Die Risiken von vernetztem Spielzeug“. Erläutert die Problematik ungesicherter Bluetooth-Verbindungen und die Gefahr der Spionage im Kinderzimmer.
Netzpolitik.org: „Schnüffelpuppe ‚My Friend Cayla‘ in Deutschland verboten“. Detaillierte Hintergründe zum Gutachten, das zum Verbot führte.

4. Hinweise zur Vernichtung

Stiftung Warentest: „Vernetztes Spielzeug: So schützen Sie Ihre Kinder“. Gibt praktische Tipps, worauf beim Kauf zu achten ist und wie mit verbotenen Gegenständen umzugehen ist.