Vulnerabilities

Die Richtlinie »Software Bill of Materials for AI« stammt aus einem Rahmenwerk der G7-Staaten. Sie schlägt vor, ein Konzept aus der Softwareentwicklung auf KI-Systeme zu übertragen. Bei der Software Bill of Materials handelt es sich um eine Art Stückliste, die alle Bestandteile einer Software auflistet. Bei KI soll eine solche Stückliste die statischen und dynamischen Eigenschaften eines Systems erfassen. Dazu zählen die verwendeten Modelle, die Trainingsdaten und die Lernverfahren sowie Merkmale zur Sicherheit. Die Liste soll maschinenlesbar sein und sich automatisch erzeugen lassen. ...

Das Bundesamt für Sicherheit in der Informationstechnik (BSI) hat zahlreiche Sicherheitslücken in den Open-Source-Projekten Mastodon und Matrix aufgedeckt. Diese aktive Mitarbeit durch kontinuierliche Prüfung der Sicherheit in Open-Source-Projekten finde ich äußerst begrüßenswert. Stefan Krempl schreibt in »BSI deckt schwerwiegende Sicherheitslücken in Matrix und Mastodon auf« für heise.de.

Robert Lippert schreibt in »Entwickler ertrinken in technischen Schulden« für heise.de Die Ursachen für Sicherheitsprobleme sind laut Studie dabei nicht so eindeutig identifizierbar, wie viele Menschen meinen. 70,2 Prozent der untersuchten Anwendungen weisen sicherheitsrelevante Fehler in Drittanbietercode auf, wie eingebundenen Bibliotheken oder quelloffenem Code; doch auch unternehmenseigene Anwendungen sind zu 63,4 Prozent mit Fehlern ihrer Development-Teams belastet. Die Anzahl der direkten und transitiven Abhängigkeiten variiert dabei je nach Programmiersprache, wobei die “Abhängigkeiten der Abhängigkeiten” in den meisten Fällen die Lieferkette verdoppeln. Sprachen wie Java und JavaScript können die Zahl der Abhängigkeiten sogar um das Fünf- bis Sechsfache erhöhen. ...