Künstliche Intelligenz birgt Gefahren und bringt auch Chancen
"KI ist nicht nur Bedrohung, sondern auch eine Chance"
Stand:
Tatort Internet: Betrügerischen Shops, Fake-Profile, Phishing-Mails und Rache-Pornos. Online werden Straftaten begangen - und die rasende Weiterentwicklung künstlicher Intelligenz nutzt auch Kriminellen. Was sind die Gefahren und Möglichkeiten der KI? Ein Interview mit dem Chef der Zentral- und Ansprechstelle Cybercrime Nordrhein-Westfalen Markus Hartmann.
Der Fall: Todesfalle Fake-Profil
Im Juni 2022 wird die 17-jährige Carina S. aus Iserlohn-Letmathe nach einem Spaziergang mit ihrem Hund vermisst. Was tagelang niemand ahnt ist, dass sie eine Verabredung im Wald mit einer unbekannten Person aus dem Internet hatte. Ihr Ex-Freund, der die Trennung nicht verkraftet hatte, hatte sich ein Fake-Profil gemacht und sich als alte Schulfreundin von Carina ausgegeben. Nach einer verbalen Auseinandersetzung erdrosselt er sie und verbrennt ihre Leiche in einem Waldstück bei Hamm.
Markus Hartmann ist Chef einer Abteilung der Staatsanwaltschaft Köln, die ausschließlich im Feld Internetkriminalität ermittelt. Die "ZAC NRW" - die Zentral- und Ansprechstelle Cybercrime Nordrhein-Westfalen. Wir haben mit ihm über noch unbekannte Schattenseiten des Internets, die Gefahren und auch Möglichkeiten von KI geredet.
Kriminelle Trends im Netz
Lokalzeit: Was sind im Jahr 2025 die für Sie besorgniserregenden Trends Krimineller im Netz?
Markus Hartmann: Wir haben viel qualifiziertere Cyberangriffe auf kritische Infrastrukturen, zum Beispiel Krankenhäuser, Firmen oder Forschungseinrichtungen. Wir haben eine Verdreifachung der Verfahren bei herausgehobenen Cyberdelikten im Vergleich zum Vorjahr. Dabei gibt es ein breites Dunkelfeld, denn lange nicht alle Unternehmen bringen einen Cyberangriff zur Anzeige. Geschätzt etwa 80 bis 90 Prozent der Fälle erreichen uns gar nicht. Und Cyberkriminelle vernetzen sich. Sie teilen sich die Aufgaben auf: Einer entwickelt eine Schadsoftware, der Zweite hackt sich in Netze, ein Dritter kümmert sich mit Fake Profilen um die Erpressung der Opfer.
Markus Hartmann leitet die ZAC NRW - die Zentral- und Ansprechstelle Cybercrime Nordrhein-Westfalen
Lokalzeit: Dabei sind falsche Profile ja kein neues Phänomen.
Hartmann: "Fake Profile" sind so alt wie das Internet selbst. Ganze Generationen von Fake-Shops, in denen Dinge angeboten wurden, die gar nicht existierten, legen es darauf an, dass man eine Legende eines Geschäfts virtualisiert. Bei personengebundenen Accounts sehen wir zuletzt aber, dass die Qualität der Fakes viel besser wird. Ein Fake-Profil ist ja schon gegeben, wenn man sich irgendwo mit einem Namen anmeldet, der nicht der richtige Name ist. Das ist aber noch nicht glaubwürdig. Solange dazu keine konsistenten Bilder da sind, kein Lebenslauf, kein Hintergrund, keine Story.
Lokalzeit: Klingt aufwendig.
Hartmann: Man kann mit der generativen KI heute schlüssige Bildersets generieren, die einen echten, lebendigen Account vorgaukeln, mit einer perfekten Hintergrundgeschichte.
Lokalzeit: Wo wird das derzeit viel genutzt?
Hartmann: Gerade sehen wir vor allem einen Bereich, bei dem künstliche Intelligenz genutzt wird, um Personen zu diskreditieren: Unter dem Stichwort "Rache-Pornografie". Da werden Clips mit KI so verfremdet, dass die Gesichter echter Personen hineinmontiert werden. Trotzdem muss man festhalten: KI ist nicht zu verteufeln. Wir sehen es neutral, als ein Werkzeug. Und natürlich benutzen es daher auch Kriminelle.
Wie Kriminelle KI nutzen
Lokalzeit: Wie sieht es beim organisierten Verbrechen aus?
Hartmann: Denken Sie an Betrug. Früher haben wir oft gesagt "Gucken Sie genau, wenn Sie E-Mails lesen - wie sind die geschrieben? Sie erkennen an der Rechtschreibung, dass es keine echte E-Mail, sondern Phishing ist". Heute können wir diesen Tipp nicht mehr geben, weil Cyberkriminelle mit Hilfe von KI eine völlig fehlerfreie E-Mail in fremder Sprache schreiben können.
Lokalzeit: Wann fordert Sie der Einsatz von KI als Ermittler besonders heraus?
Hartmann: Im Bereich Kindesmissbrauch. Da werden inzwischen Bilder nach den Präferenzen der jeweiligen Nutzer künstlich generiert. Das ist insofern ein Problem, als wir immer davon ausgehen müssen, dass es sich um einen echten Missbrauch handelt. Wenn wir aber viele Ressourcen in einen Fall investieren, bei dem ein künstlich generiertes Bild so echt aussieht, dass wir annehmen, es sei echt - und am Ende ist es doch nur ein KI-Fake, dann haben wir eine Fehlgewichtung. Dann werden riesige Ressourcen investiert, die anderswo fehlen.
Lokalzeit: Wie bereiten Sie sich auf das vor, was technologisch womöglich erst noch bevorsteht?
Hartmann: Heute erkennt man "Deepfakes" oft noch an Details wie komischen Händen oder falschen Lichtverhältnissen. Aber das wird sich schnell ändern. Wir brauchen automatisierte Prüfverfahren. Problematisch ist auch, dass unsere Strafprozessordnung KI noch gar nicht kennt. Es gibt keine festen Regeln für den Umgang mit KI-generierten Beweismitteln. Das kann vor Gericht zu Problemen führen, wenn etwa ein Anwalt behauptet, das auf einem Beweisvideo sei nicht wirklich sein Mandant.
Wie glaubwürdig ist es also noch, was ich meine zu sehen? Wir sind mit einigen Universitäten im Austausch, wo wir genau diese Frage klären wollen: Was können wir eigentlich dagegen technisch setzen, um belastbar und zuverlässig sagen zu können? Echtes Foto oder Fake-Foto?
Cyberangriff: Was tun?
Lokalzeit: Wie real ist die Gefahr, dass jemand unerlaubt Zugriff auf mein Smartphone oder meinen PC bekommt?
Hartmann: Der Täter braucht im Regelfall echten Zugang auf das Handy. Ein fremder Zugriff installiert sich, jenseits der Welt der Nachrichtendienste, nicht aus dem Blauen übers Internet. Kritisch wird es bisher, wenn Täter physischen Zugriff auf meine Geräte haben. Dann lassen sich zum Beispiel Spionage-Apps unbemerkt installieren. Solche gibt es sogar in den App-Stores. Die sind auf dem Handy des eigentlichen Nutzers so gut versteckt, dass der sie nicht bemerkt.
Lokalzeit: Was, wenn mir im Internet Betrug oder Belästigung widerfährt - wie sollte ich reagieren?
Hartmann: Aus Sicht von uns Ermittlern ist es positiv, dass niemand komplett anonym im Netz unterwegs ist. Es gibt immer Spuren. IP-Adressen, Gerätekennungen, Verbindungsdaten. Trotzdem ist für Betroffene schnelles Handeln wichtig. Wer den Eindruck hat, betrogen oder belästigt zu werden, sollte sofort zur Polizei gehen. Internetspuren sind flüchtig. Nach wenigen Tagen können sie bereits verloren sein. Wer zögert, verliert Beweise.