Die Untersuchung »Death by a Thousand Prompts: Open Model Vulnerability Analysis« von Cisco zeigt, dass sogenannte Multi-Turn-Jailbreaks bei offenen KI-Modellen (Open-Weight-LLMs) in bis zu 92 % der Fälle erfolgreich sind und damit gravierende Sicherheitslücken in deren Architektur offenlegen.
Wenn ein nicht auf Technik spezialisiertes Nachrichtenportal, wie Zeit Online, über die Sicherheit von Webex-Installationen berichtet, steht Cisco vor der Herausforderung, das Ansehen von Webex wiederherzustellen. Aber das ist nicht der eigentliche Grund, warum ich auf diesen Artikel verweise. Besonders die abschließenden Abschnitte des Artikels haben bei mir für Verstimmung gesorgt. Eva Wolfangel schreibt in »Webex: Mithören, wenn Beamte sprechen« für zeit.de: Ändert sich das nach dem aktuellen Vorfall? Mit der Kommunikation zur aktuellen Sicherheitslücke seitens Cisco sei sie nicht besonders glücklich, sagt Dornheim. Aber noch sehe sie keine Alternative, zumal Cisco bisher viel für die Stadt getan habe. Eine eigene Open-Source-Lösung zu hosten, sei aufwendig und teuer: “Es ist leichter, etwas zu kaufen als die Menschen zu finden, die eine eigene Lösung betreuen können.” Schließlich müsse diese rund um die Uhr verfügbar sein. ...