Risk

Andreas Donath schreibt in »Medizin-KI erfindet fiktives Körperteil« für golem.de Maulin Shah, Chief Medical Information Officer bei Providence, nennt das Problem „super gefährlich“ . Sobald KI-Systeme meistens korrekt arbeiten, sinkt die Aufmerksamkeit der Nutzer. Shah beschreibt Fälle, in denen KI falsche Informationen aus fehlerhaften Patientenakten weiterverbreitet. Wenn ein Arzt versehentlich schreibt, dass ein Krebstest negativ ausgefallen sei, lernt die KI den Fehler und wiederholt diesen. ...

Stefan Krempl schreibt in »Gutachten: US-Behörden haben weitreichenden Zugriff auf europäische Cloud-Daten« für heise.de Die Reichweite der US-Gesetze endet hier jedoch nicht. Die Jurisdiktion der Vereinigten Staaten kann laut dem Gutachten nicht nur europäische Tochtergesellschaften US-amerikanischer Unternehmen erfassen. Sie hat auch das Potenzial, rein europäische Unternehmen zu treffen, sofern diese relevante geschäftliche Verbindungen in die USA unterhalten. Damit wird die Gefahr eines indirekten oder direkten Datenzugriffs auf einen weiten Kreis von Unternehmen ausgedehnt, die im europäischen Binnenmarkt operieren. ...

Die Untersuchung »Death by a Thousand Prompts: Open Model Vulnerability Analysis« von Cisco zeigt, dass sogenannte Multi-Turn-Jailbreaks bei offenen KI-Modellen (Open-Weight-LLMs) in bis zu 92 % der Fälle erfolgreich sind und damit gravierende Sicherheitslücken in deren Architektur offenlegen.

openTalk schreibt in »Ihr Weg zur digitalen Souveränität - Mehr Kontrolle, weniger Risiko« Der erste Schritt beginnt mit einem ehrlichen Blick auf Ihre aktuelle IT-Infrastruktur. Viele Organisationen sind sich der Tragweite ihrer digitalen Abhängigkeiten nicht bewusst - bis es zu spät ist und Cyberbedrohungen oder DSGVO-Verstöße gravierende Folgen haben. Der erste Absatz trifft meine Wahrnehmung. Der Rest ist solide, bringt aber kaum neue Ideen. ...

Benjamin Stiebel und Christiane Rebhan schreiben in »Wo beim NIS-2-Gesetz noch nachgebessert werden soll« für tagesspiegel.de Zwar seien die formulierten Sicherheitsanforderungen relativ gut und ausgewogen, räumt die Abgeordnete ein. „Das Problem ist ein Wirrwarr von Ausnahmeregeln und Intransparenz, insbesondere was den Staat selbst betrifft“. So dürften die meisten Bundesbehörden auf das Risikomanagement verzichten und seien anders als andere Akteure von Bußgeldern befreit. IT-Dienstleister der öffentlichen Hand seien zudem weitgehend ausgenommen, wodurch die IT-Sicherheit insgesamt unterwandert werde. Dass die Verwaltung von Bußgeldern befreit ist, ist üblich. Auch für Datenschutzverstöße müssen Behörden nicht zahlen. ...