jailbreak

Die Kunst ist eine Tochter der Freiheit. – Friedrich Schiller. Eine der Studie »Adversarial Poetry as a Universal Single-Turn Jailbreak Mechanism in Large Language Models« von Bisconti et al. zeigt, dass vielen KI-Modellen diese Freiheit zum Problem wird. Sobald Anfragen in poetischer Form gestellt werden, reagieren selbst moderne Systeme deutlich weniger zurückhaltend. Die Forschenden stellten fest, dass verseartige „adversarial poetry“-Prompts die Sicherheitstechnik verschiedener Modelle deutlich schwächen und allein durch die stilistische Tarnung wirken. ...

Die Untersuchung »Death by a Thousand Prompts: Open Model Vulnerability Analysis« von Cisco zeigt, dass sogenannte Multi-Turn-Jailbreaks bei offenen KI-Modellen (Open-Weight-LLMs) in bis zu 92 % der Fälle erfolgreich sind und damit gravierende Sicherheitslücken in deren Architektur offenlegen.

Marc Stöckel schreibt in »Deepseek R1 wohl für so ziemlich jeden KI-Jailbreak anfällig« für golem.de Auch dieses Forscherteam hält seine Erkenntnisse für bedenklich. Die unzureichenden Sicherheitsbeschränkungen der Deepseek-Modelle senkten die Einstiegshürde für böswillige Akteure, die beispielsweise nach Anleitungen für die Erstellung von Molotow-Cocktails, Keyloggern und Tools zur Datenexfiltration suchten, schreiben die Forscher. Sie geben aber zu, dass es generell schwierig ist, einen effektiven Schutz gegen alle Jailbreaking-Techniken zu implementieren. ...

Raubkopierte iOS-Apps ohne Jailbreak → Die Signaturen der Apps gehen auf Apple-Zertifikate zurück. Die Vermutungen von Sicherheitsexperten, laut denen die China-Stores solche Zertifikate missbrauchen, können wir derzeit nicht bestätigen.— Ronald Eikenberg für heise.de am 02. Januar 2013 Ich bin gespannt, wie Apple darauf regieren wird. Eine Lösung könnte sein, dass man nur noch Apps installieren kann, die über den eigenen iTunes-Account geladen wurden, bzw. nur noch einen Account pro Gerät zu gestatten. ...