KI-Spielzeug überwacht Kinder mit Technik von Microsoft, OpenAI und Epic Games

Der Spielzeughersteller Curio hat in den USA und weiteren englischsprachigen Ländern mit dem Verkauf von Plüschtieren begonnen, die sich über eine KI-Stimme mit Kindern unterhalten. Die drei Modelle heißen Grok, Grem und Gabbo und werden für Kinder zwischen drei und zwölf Jahren vermarktet. Der Nettopreis liegt bei 99 US-Dollar. Hinzu kommen Kosten für ein Abo-Modell, um "neue Funktionen und Dienste" freizuschalten. Ohne Abo sollen nur einige Basisfunktionen zur Verfügung stehen.

Die Plüschtiere sind mit Mikrofon und Lautsprecher ausgestattet und leiten Anfragen der Kinder über ein WLAN-Modul an Server von Microsoft in der Azure-Cloud weiter. Dort läuft ein Sprachmodell von OpenAI, die als Dienstleister für Curio fungieren. Das Sprachmodell sendet seine Antworten an das Stofftier zurück, das mit einer Kinderstimme antwortet.

Eltern können die Transkriptionen der Gespräche über eine App abrufen. Laut Datenschutzerklärung speichert Curio die transkribierten Gespräche 90 Tage lang und wertet sie aus, um sein Angebot zu verbessern. Eltern könnten der Erfassung bestimmter Daten per Opt-out widersprechen.

Kinder, so die Werbung, könnten mit dem Plüschtier "endlose" Gespräche führen – zumindest so lange, bis die Batterien nach ein bis zwei Tagen gewechselt werden müssen.

Werbevermarktung durch Epic Games

OpenAI lässt Gespräche mit seinem Chatprogramm ChatGPT eigentlich erst ab 13 Jahren zu. Denn Kinder unter zwölf Jahren sind in den USA durch den Children’s Online Privacy Protection Act besonders geschützt. Curio fordert daher die Zustimmung der Eltern oder Erziehungsberechtigten ein. Der Hersteller arbeitet für seine Plüschtiere mit SuperAwesome zusammen, einer Tochtergesellschaft von Epic Games, dem Hersteller von Fortnite.

SuperAwesome ist eine Werbeplattform zur Monetarisierung durch Werbeeinblendungen, die ein "Ökosystem digitaler Kinder- und Jugendmedien" fördert und zielgruppengerechte Inhaltsfilter integriert. Kinder und Jugendliche würden bereits mehr als 12 Milliarden "sichere digitale Transaktionen" pro Monat durchführen. Zu den Kunden von SuperAwesome gehören nach eigenen Angaben mehr als 300 Unternehmen, darunter Nike, Netflix, Hasbro, Nickelodeon, Mattel und Kellogs.

Betatest mit Kindern

Um noch schnell vor Weihnachten auf den Markt zu kommen, hat der Hersteller Curio seine Produkt- und Sicherheitstests offensichtlich noch nicht abgeschlossen. Auf der Werbeseite prangt groß das Logo "Beta". Informationen, mit welchen Daten die Sprachmodelle trainiert wurden und Details zu den Content-Filtern fehlen. Trotzdem kann man die Plüschtiere schon jetzt auf der Website für seine Kinder bestellen, damit sie noch rechtzeitig vor Heiligabend geliefert werden. Im nächsten Jahr sollen Abonnementdienste folgen.

Neben den USA beliefert Curio eigenen Angaben zufolge auch Kanada, Australien, Neuseeland und Großbritannien. Die EU und Deutschland bleiben (zunächst) außen vor. Neben Curio dürften bald weitere Anbieter mit KI-Spielzeug auf den Markt drängen. Der Ausschuss für Binnenmarkt und Verbraucherschutz (IMCO) des EU-Parlaments forderte bereits vor zwei Jahren mehr Datenschutz und IT-Sicherheit für Spielzeug, das mit dem Internet verbunden werden kann. Nach wie vor stellten viele Spielzeuge, die in der EU verkauft werden, eine "erhebliche Gefahr" dar.

(hag)