Service Computer : Was man besser nicht mit KI machen sollte
Die Nutzung "künstlicher Intelligenz" (KI) gehört mittlerweile für viele Menschen schon fest zum Alltag. Manche benutzen KI wie eine Suchmaschine, andere lassen sich ganze Texte schreiben, Zusammenfassungen von langen Texten erstellen oder Fotos mit beinahe beliebigen Motiven herstellen – für KI-Systeme heute kein Problem mehr. Aber es gibt es auch Bereiche, in denen man KI besser nicht einsetzen sollte.
Welche Bereiche sind das?
Manche Menschen fragen ein KI-System, um sich ein Passwort generieren zu lassen. Genau das sollte man auf gar keinen Fall tun. Um das zu verstehen, muss man sich nochmal klarmachen, wie solche KI-Chatbots funktionieren. Sie basieren auf Wahrscheinlichkeiten, also zum Beispiel: Welches Zeichen, welches Wort folgt wahrscheinlich auf das nächste? Und das ist genau das, wie Passwörter nicht aufgebaut sein sollen. Passwörter sollen möglichst Zeichen enthalten, die man nicht erraten kann, die vor allem ein Computer nicht vorhersehen kann. Denn: Hacker benutzen nun mal Computer, um Passwörter zu knacken.
Heißt das: Ein KI-Chatbot schlägt im Grunde immer die gleichen Passwörter vor?
Ein KI-Chatbot benutzt immer die gleichen Strategien bei der Erzeugung von Passwörtern. Sicherheitsforscher haben das ausprobiert. Sie haben von gängigen Chatbots Passwörter generieren lassen. Das Ergebnis war ernüchternd: Claude, Gemini und ChatGPT haben immer wieder Passwörter erzeugt, die eine ähnliche Struktur hatten: Gleiche Anfänge, immer wieder die gleichen Zeichenfolgen. Und das ist auch kein Wunder, denn künstliche Intelligenz arbeitet mit Mustern, kann Muster in riesigen Datenmengen schnell erkennen, benutzt sie aber auch selber.
Und was ist mit Passwort-Managern, die auch Passwörter generieren können?
Für die meisten Passwortmanager gilt das zum Glück nicht, die arbeiten eher mit echten Zufallsgeneratoren. Die so entstandenen Passwörter sind dann tatsächlich nur schwer knackbar.
In welchen weiteren Bereichen sollte man besser keine KI nutzen?
Man sollte generell einer KI keine Daten zur Verfügung stellen, die sensibel sind. Bei der Formulierung von Anfragen ("Prompts") sollte man keine Kontonummern, keine Telefonnummern, Zugangscodes oder auch keine konkreten Gesundheitsdaten angeben. Man sollte auch keine urheberrechtlich geschützten Texte hochladen. Im beruflichen Kontext: Man darf keine sensiblen Daten wie Kundenlisten, Verträge o. ä. eingeben oder hochladen, um zum Beispiel daraus Zusammenfassungen machen zu lassen. Grund: Die Systeme könnten die Daten speichern und verwenden, um Antworten für andere Nutzer zu generieren.
Kann man eine KI auch als Suchmaschine nutzen?
Auch das ist keine gute Idee. Das gilt vor allem in Bereichen nicht, in denen man sich selber nicht auskennt, die Antworten der KI aber wichtig sind. Grund: Man kann dann nicht wirklich beurteilen, wie viel Unsinn die KI da ausspuckt. Die EBU (Zusammenschluss von 68 europäischen öffentlich-rechtlichen Rundfunkanbietern) hat das kürzlich genauer untersucht. Ergebnis: Knapp die Hälfte der von KI-Chatbots gegebenen Antworten enthielten "signifikante" Fehler – bei Genauigkeit, Quellenangabe, Kontext oder der Kennzeichnung von Tatsache und Meinung. Spitzenreiter dabei war übrigens ChatGPT: 51 % der Antworten enthielten wesentliche Fehler oder Ungenauigkeiten.
Gibt es eine Faustregel? Wofür kann ich KI nutzen?
KI ist ein digitales Werkzeug wie eine Textverarbeitung oder wie ein Grafikprogramm. Man sollte sich daher nie nur auf KI verlassen. Man sollte die Ergebnisse immer kritisch hinterfragen, sie nochmal prüfen und insgesamt die Verantwortung nicht aus der Hand an die KI abgeben.
Autor: Michael Stein
Redaktion: Jan Friese
Service Computer ist eine Rubrik in der WDR 5 Sendung Neugier genügt und ist dort jeden ersten Dienstag im Monat zwischen 11.04 Uhr und 12.00 Uhr zu hören.
