Output wird zunehmend unsinniger

Diese Studie »AI models collapse when trained on recursively generated data« zeigt auf spannende Weise, was passiert, wenn eine KI ihre eigenen Texte als Grundlage verwendet. Wird dieser Prozess mehrfach wiederholt, also die KI immer wieder mit ihren eigenen generierten Texten gefüttert, zeigt sich spätestens beim neunten Durchlauf ein deutliches Muster: Der Output wird zunehmend unsinniger. Deshalb müssen Entwickler von KI-Modellen genau abwägen, welche Quellen wirklich wertvoll sind und welche besser vermieden werden sollten. In diesem Zusammenhang könnte der Einsatz digitaler Fingerabdrücke in Texten sinnvoll, wenn nicht sogar zwingend notwendig werden, um zu verhindern, dass KIs ihre eigenen Ergüsse fressen1. Technisch gesehen wird dies jedoch keinen vollständigen Schutz bieten können, da diese Mechanismen durch den Einsatz verschiedener GPT-Modelle umgangen werden könnten. Selbst wenn sich Anbieter von KIs auf gemeinsame Methoden für Fingerabdrücke einigen, werden wirklich freie Chatbots, die auf lokaler Hardware laufen, diese Maßnahmen immer umgehen können. ...

23. August 2024 · 1 Minute · 173 Wörter

Überzeichnet die tatsächliche Entwicklung

Axel Kannenberg schreibt in »Kein starker Trend zurück ins Büro in deutschen Firmen​« für heise.de “Diese Ergebnisse widerlegen die Auffassung, dass der Trend zurück in die Büros geht”, sagt ifo-Forscher Jean-Victor Alipour laut Mitteilung. “Die öffentliche Berichterstattung konzentriert sich auf einzelne Unternehmen, in denen Homeoffice zurückgefahren werden soll. Das überzeichnet die tatsächliche Entwicklung”, führt Alipour aus. Zu ähnlichen Ergebnissen gelangte kürzlich auch schon eine Studie des Wirtschaftsforschungsinstituts ZEW. ...

22. August 2024 · 1 Minute · 68 Wörter

Hardware aus Asien und Software aus Amerika

Amelia Andersdotter und Daniel Melin von Safespring AB schreiben in. »Für eine bessere öffentliche Beschaffung in Europa« für tagesspiegel.de Die derzeitigen Probleme sind allgemein bekannt. Europa ist völlig abhängig von Hardware aus Asien und Software aus Amerika, obwohl die EU-Kommission viele mutige Schritte unternommen hat, das zu ändern. Aber: Noch nicht einmal die europäische Kommission beschafft bisher Lösungen, die Europa von Lock-In-Effekten befreien oder die europäische Souveränität erhöhen. Wenn der Wandel also nicht an der Spitze anfängt, muss er vielleicht von unten kommen? ...

23. Juli 2024 · 1 Minute · 83 Wörter

Die Basis

Die Basis der Ethik bildet die Tugend. - »Die Dialektik der Freiheit«

13. September 2022 · 1 Minute · 12 Wörter

Automatisierte Eingabe von Befehlen

Der Sicherheitsforscher Vincent Yiu demonstriert eine Sicherheitslücke, bei der sich ein USB-Kabel zum Aufladen von Smartphones oder anderen Geräten als Tastatur an einem Computer anmeldet und beliebige Tastaturbefehle ausführen kann. Die Kabel verfügen über eine alternative Firmware und melden sich als Eingabeinterface (HID) an Computern an. Anschließend könnte eine automatisierte Eingabe von Befehlen einen Trojaner installieren, führt Yiu in einem Blogeintrag aus. – Dennis Schirrmacher am 21.08.2018 In seinem Blogpost demonstriert er das Ganze auch noch mal in einem Video. ...

20. August 2018 · 1 Minute · 80 Wörter