Die Kunst ist eine Tochter der Freiheit. – Friedrich Schiller.

Eine der Studie »Adversarial Poetry as a Universal Single-Turn Jailbreak Mechanism in Large Language Models« von Bisconti et al. zeigt, dass vielen KI-Modellen diese Freiheit zum Problem wird. Sobald Anfragen in poetischer Form gestellt werden, reagieren selbst moderne Systeme deutlich weniger zurückhaltend. Die Forschenden stellten fest, dass verseartige „adversarial poetry“-Prompts die Sicherheitstechnik verschiedener Modelle deutlich schwächen und allein durch die stilistische Tarnung wirken.

Die Ergebnisse legen nahe, dass nicht nur Inhalte, sondern auch Ausdrucksformen sicherheitsrelevant sind. Gedichte, Reime oder Metaphern erzeugen eine sprachliche Unschärfe, die viele Filter umgeht. Die Studie macht damit eine unerwartete Schwachstelle im Design aktueller KI-Systeme sichtbar und zeigt, dass Kreativität nicht nur ästhetische, sondern auch technische Folgen haben kann.

Erstmals können diese Modelle agentenhaft agieren. Sie nutzen und kombinieren eigenständig alle verfügbaren Werkzeuge innerhalb von ChatGPT – von der Websuche über die Datenanalyse mit Python bis hin zur Bildanalyse und sogar Bilderzeugung. Sie entscheiden selbst, wann und wie sie diese Tools einsetzen, um komplexe, vielschichtige Probleme zu lösen. Dazu benötigen sie mehr Bedenkzeit.

Ich habe das Gefühl, dass KI nicht wirklich schlauer wird. Sie wirkt nur so. In Wirklichkeit scheinen die Antworten immer ähnlicher zu werden.

Warum denke ich das? Die aktuellen GPTs versuchen oft, deinen Prompt auf verschiedene Arten zu verstehen. Die „KI“ prüft, was du wahrscheinlich gemeint hast. Dabei orientiert sie sich daran, was viele andere in ähnlichen Fällen gemeint haben. Dieses Prinzip gilt auch für die Antwort. Du bekommst nicht unbedingt die beste Antwort, sondern die Antwort, die statistisch am wahrscheinlichsten passt.

Das ist nicht automatisch schlecht. Es gibt Situationen, in denen genau das sinnvoll ist. Mir geht es nur darum, ein Bewusstsein dafür zu schaffen. Wer mit dem Tool arbeitet, sollte ungefähr wissen, wie es funktioniert.