Die Europäische Kommission hat ein förmliches Prüfverfahren gegen die Online-Plattform „X“ (ehemals Twitter) eröffnet. Die Untersuchung soll nach Informationen der EU-Kommission vom Montag klären, „ob das Unternehmen die mit dem Einsatz der Grok-Funktionen in X in der EU verbundenen Risiken angemessen bewertet und minimiert hat“.
Im Mittelpunkt der Untersuchung steht das KI-Tool „Grok“, das in die Plattform integriert ist. Nach Angaben der EU soll geprüft werden, ob „X“ vor der Einführung neuer Funktionen ausreichend bewertet hat, welche Gefahren von der Technologie ausgehen. Dazu zählen unter anderem die Verbreitung manipulierter Nacktbilder sowie Inhalte, die als Material sexuellen Kindesmissbrauchs eingestuft werden könnten.
EU-Kommissarin: „Inakzeptable Form der Erniedrigung“
Anlass ist die Sorge, dass über den Dienst KI-generierte, sexualisierte Bilder von Frauen und Kindern – möglicherweise sogar kinderpornografisches Material – verbreitet werden. Henna Virkkunen, Kommissarin für Digitale Wirtschaft und Gesellschaft, sieht in den sexualisierten Deepfakes von Frauen und Kindern „eine gewalttätige, inakzeptable Form der Erniedrigung“.
Die Kommission wirft „X“ vor, mögliche „systemische Risiken“ nicht ausreichend begrenzt zu haben. Nach dem Digital Services Act (DSA) sind „Very Large Online Platforms“ (VLOP) verpflichtet, ihre Dienste so zu gestalten, dass „illegale Inhalte und potenzielle Bedrohungen der Grundrechte“ möglichst verhindert und schnell entfernt werden. Sollte sich der Verdacht bestätigen, drohen dem Konzern hohe Geldstrafen.