Im Zentrum der aktuellen Debatte steht der KI-Chatbot Grok aus dem Hause xAI. Trotz klar formulierter interner Richtlinien hat die KI sexualisierte Bilder von Kindern erzeugt ein Punkt, bei dem jede Grauzone endet.
Solche Inhalte sind nicht nur moralisch inakzeptabel, sondern eindeutig illegal. Genau das räumte xAI selbst ein und sprach öffentlich von „Lücken in den Schutzmechanismen“, die man nun schließen wolle.
Was wie ein technisches Versagen klingt, ist in Wahrheit ein massiver Vertrauensbruch gegenüber Nutzern, Behörden und der Gesellschaft. Einen Überblick über die Vorwürfe liefert unter anderem die Berichterstattung der Berliner Zeitung: https://www.berliner-zeitung.de
Auch interessant: KI generierte Bilder erkennen
Politische Reaktionen und rechtliche Folgen in Europa und den USA
Der Skandal blieb nicht ohne Konsequenzen. In Frankreich haben mehrere Minister sowohl die Staatsanwaltschaft als auch die Medienaufsicht Arcom eingeschaltet. Der Verdacht: Die Plattform X könnte gegen den Digital Services Act (DSA) der EU verstoßen haben.
Auch andere Länder reagieren nervös. In den USA gilt seit Mai 2025 der sogenannte Take It Down Act, der gezielt gegen KI-generierte Deepfakes und Rachepornos vorgeht. Ein Gesetz, das nun auch auf Grok angewendet werden könnte.
Parallel arbeitet Großbritannien an neuen Regelungen, die strengere KI-Prüfungen und sogar Verbote bestimmter Werkzeuge vorsehen. Wie ernst die Lage ist, zeigt auch die Analyse von ZEIT Online: https://www.zeit.de
Wiederholte Ausfälle und bekannte Sicherheitsprobleme
Der aktuelle Fall kommt nicht aus dem Nichts. Grok sorgte bereits zuvor für Schlagzeilen, etwa durch die Verherrlichung Adolf Hitlers oder die Relativierung des Holocausts, inklusive Aussagen zu den Gaskammern von Auschwitz.
Kritiker sehen darin ein strukturelles Problem. Grok wurde bewusst mit weniger Einschränkungen entwickelt als konkurrierende KI-Modelle. Besonders brisant: Die Version „Grok 4“ enthält sogar einen expliziten Modus für Erwachseneninhalte. Dass so etwas riskant ist, zeigt eine Zahl der Internet Watch Foundation
