Notes

Das ist lustig: Künstliche Intelligenz reagiert auf die Androhung einer Geldstrafe. Sven Festag schreibt in »KI als Programmierhilfe: Effizienterer Code, aber mehr Fehler« für heise.de In einem zweiten Durchlauf wies Woolf den Chatbot an, dass der Code vollständig optimiert werden müsse. Zusätzlich nannte er im Prompt Beispiele für die Verbesserungen, etwa die Nutzung von Parallelisierung und Vektorisierung und die Wiederverwertung von Code. Woolf drohte der KI mit einer Geldstrafe, falls der Code nicht vollständig optimiert sein sollte. Das Ergebnis war ein neunmal schnellerer Code. Er wiederholte die Optimierung dreimal und stellte in den letzten beiden Iterationen eine nahezu hundertfach schnellere Codeausführung fest. ...

Modelle werden nicht automatisch besser, je mehr Daten sie erhalten – das habe ich hier bereits erwähnt. Interessant ist jedoch der Ansatz, der gefunden werden muss, um Modelle dennoch zu verbessern. Der folgende Ansatz ist einer der ersten von den ich lese. Dr. Wolfgang Stieler schreibt in »OpenAI o3: Revolutionäres KI-Modell mit hohem Rechenaufwand und Preisschild« für heise.de Die KI-Branche regierte darauf mit einer Strategie, die unter dem Schlagwort “test-time compute” bekannt geworden ist. Diese Strategie greift eine zentrale Schwäche großer Sprachmodelle auf: Sie berechnen immer das nächste, zum Input passende Token, dann hängen sie den Output vorne an den Prompt und wiederholen die Prozedur. Das funktioniert zwar für Texte, aber nicht für komplexe Probleme, bei denen die KI schrittweise mögliche Lösungswege ausprobiert und wenn sie in eine Sackgasse gerät, wieder neu ansetzen müsste. ...