KI: EU geht gegen Elon Musks Chatbot Grok vor
Chatbot Grok: Wegen sexualisierter Inhalte in der Kritik. Foto: REUTERS
Brüssel. Die EU geht härter gegen Elon Musks Social-Media-Plattform X und den dort nutzbaren KI-Chatbot Grok vor. Das teilte die EU-Kommission am Montag mit. Das Handelsblatt hatte zuvor exklusiv darüber berichtet.
Dafür eröffnet die Kommission ein weiteres Verfahren unter dem Digital Services Act (DSA). Unter der Androhung einer Sperre will sie Musks Unternehmen xAI dazu bringen, eine Funktion im europäischen Raum zurückzuziehen, mit der Grok sexualisierte Bilder und Videos von echten Personen erstellt.
Eine hochrangige EU-Beamtin sprach am Montag von „offensichtlich illegalen Inhalten“. EU-Technologie-Kommissarin Henna Virkkunen sagte am Montag: „Nicht einvernehmliche sexuelle Deepfakes von Frauen und Kindern sind eine gewalttätige, inakzeptable Form der Erniedrigung.“
Außerdem weitet die EU-Kommission ein bereits laufendes Verfahren zum Empfehlungssystem von X aus. Die Kommissionsbeamten verdächtigen Musk, den Algorithmus zu manipulieren, um gezielt bestimmte Meinungen zu verstärken und andere Inhalte zu unterdrücken. Studien legen eine solche Manipulation des Algorithmus nahe. Das Verfahren wurde im Dezember 2023 eröffnet.
Trump ist gegen Digitalgesetzgebung der EU
Ursprünglich wollte die EU-Kommission das Verfahren zu Grok bereits am vergangenen Montag eröffnen. Dann stoppte jedoch das Kabinett von EU-Kommissionspräsidentin Ursula von der Leyen (CDU) den Prozess aus Sorge vor einer Reaktion des US-Präsidenten Donald Trump. Das Handelsblatt hatte exklusiv darüber berichtet.
Nacktbilder – EU will härter gegen „Ausziehfunktion“ von Grok vorgehen
Trump hatte am vorangegangenen Wochenende einigen EU-Ländern gedroht, zusätzliche Zölle zu verhängen, sollte es keinen Deal bei der von ihm geplanten Annexion von Grönland geben. Die Kommission hatte gefürchtet, Trump mit einem Verfahren gegen Grok zusätzlich zu verärgern.
In der Vergangenheit hatte Trump das Vorgehen der EU gegen US-Digitalkonzerne verurteilt und angekündigt, notfalls die Maßnahmen mit Handelssanktionen zu kippen. Auch die US-Konzerne sprachen immer wieder von einem „Zoll“, den die EU ihnen auferlege. Mittlerweile hat Trump seine Zoll-Drohung in Zusammenhang mit Grönland wieder zurückgenommen.
Dennoch kommt das Verfahren zu einem heiklen geopolitischen Moment. Denn die EU steht zwischen den Interessen der Unternehmen, die bereits unter den aktuellen US-Zöllen leiden, und politischen Forderungen nach einem härteren Auftreten gegenüber Trump. Die EU müsse ihre Gesetze durchsetzen und dürfe sich nicht einschüchtern lassen, argumentiert die EU-Abgeordnete Alexandra Geese (Grüne).
In der Plenardebatte in Straßburg vergangene Woche richtete sie deutliche Worte an EU-Kommissionspräsidentin von der Leyen: „Schämen Sie sich“, rief Geese und bezog sich direkt auf die Berichterstattung des Handelsblatts, dass von der Leyens Kabinett die Entscheidung hinauszögert. Eine hochrangige EU-Beamtin sagte am Montag, die Plenardebatte habe verdeutlicht, dass die Kommission nun handeln müsse.
„Es ist richtig, dass die Europäische Kommission nun endlich in einem formalen Verfahren die Einhaltung der Regeln des Gesetzes über digitale Dienste überprüft“, sagte Andreas Schwab, EU-Abgeordneter der CDU, am Montag. In den vergangenen Monaten hätten sich zu viele Anzeichen ergeben, dass X und Grok die Regeln zur Einhaltung der Meinungsfreiheit sowie zum Schutz der Persönlichkeitsrechte nicht einhielten.
Auch die EU-Abgeordnete Geese begrüßte die Entscheidung. Sie erwarte „harte Maßnahmen und schnelle Entscheidungen“. Millionen von Frauen und viele Kinder hätten einen Schaden erlitten, der nie wieder gutzumachen sei.
Der deutsche Digitalminister Karsten Wildberger (CDU) sagte dem Handelsblatt: „Es ist inakzeptabel, dass Frauen und Minderjährige wiederholt Opfer sexualisierter Deepfakes werden, während Plattformen untätig bleiben.“ Der Schritt der Kommission sei daher richtig.
DSA wäre rechtliche Grundlage für Sperre
Mit dem DSA will die EU illegalen Inhalten auf sozialen Plattformen Einhalt gebieten. Das Gesetz verpflichtet Plattformen außerdem dazu, für mehr Transparenz zu sorgen und Forschern Zugang zu Daten zu geben. Halten Plattformen sich nicht an die Vorgaben, kann die EU Strafen in Höhe von sechs Prozent des weltweiten jährlichen Umsatzes verhängen – oder Dienste in der EU sperren.
Im Dezember hatte die EU-Kommission bereits eine Strafe gegen X in Höhe von 120 Millionen Euro verhängt. Grund dafür waren Verstöße bei den Transparenzregeln für Werbung, der unzureichende Zugang zu Daten und die irreführende Gestaltung der blauen Haken für verifizierte Konten. Bislang hat das Unternehmen die Strafe noch nicht bezahlt, sowohl die US-Regierung als auch Musk hatten sie im Dezember kritisiert. Die EU-Beamtin sprach am Montag von „work in progress“.
Bezüglich Grok hat X zwar Maßnahmen ergriffen, um die kritisierte Funktion einzuschränken, diese gehen jedoch der EU-Kommission zufolge nicht weit genug. Zunächst teilte Musks Unternehmen mit, dass nur noch zahlende Abonnenten die kritisierte Funktion nutzen könnten. Mittlerweile hat xAI technologische Schranken eingeführt, sodass Bilder von Kindern nicht mehr sexualisiert werden könnten. Allerdings können weiterhin Bilder erwachsener Menschen ohne deren Einwilligung sexualisiert bearbeitet werden.
Politikwissenschaftler Felix Kartte sieht für die EU auch eine strategische Bedeutung: „Indem sie ihre Regeln allen US-Drohungen zum Trotz durchsetzt, zeigt sie: In Europa wird der Schutz der Schwächsten durch Gesetze und Institutionen garantiert, statt von den Launen eines mächtigen CEOs abzuhängen.“
Andere Länder gehen bereits deutlich härter gegen X vor. Malaysia und Indonesien haben den Chatbot gesperrt, Großbritannien prüft aktuell, die nicht einvernehmliche Erstellung sexualisierter Bilder unter Strafe zu stellen.
Die EU-Kommission kann unter dem DSA Sperren verhängen, wenn eklatant gegen die Regeln verstoßen wird und unmittelbare Gefahr besteht. Diese Möglichkeit nutzte sie bereits gegen die Video-App Tiktok Lite: 2024 eröffnete die EU-Kommission ein Verfahren gegen den chinesischen Betreiber der App, Bytedance, weil ihr Belohnungssystem gezielt die Onlinesucht von Kindern fördere und deren Gesundheit gefährde.
Wer sich auf der App anmeldete, mehrere Stunden Videos schaute und Freunde einlud, erhielt als Belohnung digitale Münzen. Die Punkte konnten gegen Gutscheine eingetauscht und beispielsweise für Einkäufe im Internet genutzt werden. Die Kommission drohte mit einer Sperre, daraufhin zog der chinesische Anbieter die App vom europäischen Markt zurück.
