Alignment

Lisa Oder, Alexandra Ketterer & Bastian Hosan schreiben in »KI-Nutzung: Eignen sich chinesische Modelle als Alternative?« für tagesspiegel.de Küsters hebt hervor, dass solche Risiken nicht nur theoretisch sind. Das zeige eine Untersuchung der Sicherheitsfirma Crowdstrike vom Ende vergangenen Jahres, auf die Küsters verweist. Demnach produzierte das Deepseek-Modell R1 unsichereren Code, sobald es annahm, für Nutzer in Tibet oder die uigurische Gemeinschaft zu arbeiten. Am Reasoning des Modells sei teils erkennbar gewesen, dass es die sichere Lösung kannte, sie aber nicht auslieferte. Für den Wissenschaftler stellt sich daher die Frage: „Wollen wir uns von Modellen abhängig machen, die so starke politische Ideologien in den Daten, in der Architektur und im Output haben, nur weil es günstiger und effizienter ist?“ ...

Die Kunst ist eine Tochter der Freiheit. – Friedrich Schiller. Eine der Studie »Adversarial Poetry as a Universal Single-Turn Jailbreak Mechanism in Large Language Models« von Bisconti et al. zeigt, dass vielen KI-Modellen diese Freiheit zum Problem wird. Sobald Anfragen in poetischer Form gestellt werden, reagieren selbst moderne Systeme deutlich weniger zurückhaltend. Die Forschenden stellten fest, dass verseartige „adversarial poetry“-Prompts die Sicherheitstechnik verschiedener Modelle deutlich schwächen und allein durch die stilistische Tarnung wirken. ...

Dieter Petereit schreibt in »OpenAI o3 und o4-mini: Warum längeres Nachdenken die KI wirklich smart macht« für t3n.de Erstmals können diese Modelle agentenhaft agieren. Sie nutzen und kombinieren eigenständig alle verfügbaren Werkzeuge innerhalb von ChatGPT – von der Websuche über die Datenanalyse mit Python bis hin zur Bildanalyse und sogar Bilderzeugung. Sie entscheiden selbst, wann und wie sie diese Tools einsetzen, um komplexe, vielschichtige Probleme zu lösen. Dazu benötigen sie mehr Bedenkzeit. ...