Die EU-Kommission hat eine Untersuchung gegen die Plattform X eingeleitet, die ehemals Twitter hieß und nun zu Elon Musk gehört. Es geht dabei um die sogenannten Bikini-Bilder, die User sich vom KI-Chatbot Grok machen lassen. Der Chatbot ermöglicht es, Fotos von Personen so verändern zu lassen, dass sie knapp bekleidet, nackt oder auf eine andere Weise sexualisiert dargestellt werden.
Nach der Einschätzung der Kommission in Brüssel sind dies Risiken, die EU-Bürgerinnen und -Bürger ersten Gefahren aussetzen. Das offizielle Verfahren soll nun klären, ob das Unternehmen des Rechtsextremen Musk bei dem Einfügen des KI-Chatbots Grok in die Plattform X solche Risiken ausreichend untersucht und bewertet und angemessene Vorkehrungen getroffen hat.
Dazu sind Unternehmen in der Europäischen Union (EU) nach den Regeln des Digital Services Act (DSA) verpflichtet. Danach müssen die Plattformen Sicherheitssysteme etablieren, die Minderjährige vor Risiken bewahren und gegen illegale Inhalte vorgehen. Plattformen müssen genug gegen die Verbreitung von solchen Inhalten unternehmen. Auch müssen sie diese Risiken im Zusammenhang mit geschlechterspezifischer Gewalt und bezüglich negativer Folgen für die physische und psychische Gesundheit minimieren.
Die EU-Kommission sammelt nun weitere Beweise für das angenommene Fehlverhalten der Plattform und bewertet deren Rückmeldungen. Am Ende dieses Verfahrens müsste X am Ende wieder Millionen von Euro Strafe zahlen.
Quelle: ARD
