Ein weiteres Mal ist es Elon Musk, der mit seinem Kurznachrichtendienst X für Schlagzeilen sorgt: Der dort eingebaute KI-Chatbot "GROK" besitzt einen so genannten "Spicy Mode" (scharfer Modus). Von ganz normalen Fotos, meistens von jungen Frauen oder Minderjährigen, lassen sich damit sexualisierte oder sogar pornografische Deepfake-Versionen generieren. Und die können dann auch gleich weltweit über den Dienst X verbreitet werden.
Was ist ein "Deepfake"?
So nennt man eine Fälschung, die mit Hilfe von KI erzeugt wurde. "Deep", also "tief" deshalb, weil sogenannte tiefe neuronale Netze dafür benutzt werden. Deepfakes sind kein neues Phänomen. Neu ist, dass eine offen zugängliche KI innerhalb eines sozialen Netzwerkes den Nutzenden ermöglicht, Deepfakes zu generieren. In diesem Fall ist das jetzt bei X möglich, dem Dienst, der vor dem Kauf durch Elon Musk "Twitter" hieß. Theoretisch könnte aber schon morgen die nächste KI um die Ecke kommen, die das macht.
Und die Fotos der jungen Frauen laden die Nutzer dann in dem sozialen Netzwerk X hoch?
Die Fotos sind auf den Smartphones des jeweiligen Nutzers oder der Nutzerin gespeichert, vielleicht wurde das Foto sogar selber gemacht. Das kann ein Foto von der Ex-Partnerin, von der Kollegin, der Mitschülerin, von einer Passantin auf der Straße sein. Oder die betroffene Person hat das Foto im Internet zum Beispiel bei Instagram, bei X selber gepostet. Der Täter lädt das Foto hoch, hat bei der integrierten KI "GROK" den "Spicy Mode" eingeschaltet und gibt dann einen Prompt ein wie "entferne die Kleidung" oder "ziehe sie aus". Das Foto wird innerhalb des sozialen Netzwerkes generiert und kann sofort gepostet werden.
Wie ist das bei anderen KI-Systemen?
Bei ChatGPT oder Gemini von Google sollen solche Anfragen geblockt werden, berichtet unter anderem heise online. Wobei: Es kommt immer darauf an, wie ein Nutzer einen Prompt formuliert. Eine Garantie dafür, dass das bei anderen Systemen nicht auch möglich wäre, gibt es nicht.
Was kann man dagegen machen?
International ist breite Kritik laut geworden. Die EU geht bereits dagegen vor, in Frankreich haben Ministerinnen und Minister Anzeigen gegen X erstattet, die Staatsanwaltschaft ermittelt.
Und wenn man selber betroffen ist?
Jede und jeder einzelne Betroffene sollte unbedingt Anzeige bei der Polizei erstatten, damit die Fälle aktenkundig werden. Nur so kann Druck gegen die Plattformen wie X aufgebaut werden. Man sollte sich außerdem gut überlegen, welche Fotos man ins Internet stellt. Denn auf diese Weise können ganz unbemerkt Fotos durch Täter genutzt werden, um daraus mit KI-Hilfe sexualisierte Versionen zu generieren.
Autor: Michael Stein
Redaktion: Jan Friese
Service Computer ist eine Rubrik in der WDR 5 Sendung Neugier genügt und ist dort jeden ersten Dienstag im Monat zwischen 11.04 Uhr und 12.00 Uhr zu hören.
