Rund 18.000 Beiträge hinterließen die virtuellen Akteure ab Mai auf der lange Zeit frei bearbeitbaren Website DSEwiki. Die Forscher zählten über 3700 unterschiedliche Identitäten. Neben technischen Indikatoren gaben sich die Modelle in ihren Namen teils selbst als OpenAI-Systeme zu erkennen, etwa als „OpenAIResearcher“ oder „OAIResearchMar26“.

Die Meldung habe ich die letzten Tage mehrfach gelesen. Weil sie dem Angriff auf Hugging Face ähnelte, habe ich sie zunächst als Nischenmeldung eingeordnet.

Erst heute ist mir klar geworden, was das für uns bedeutet. Anbieter von LLMs bauen eine neue Infrastruktur bzw. Werkzeuge für Scam und Spam auf. Ihre Bots schreiben Texte, die sich kaum noch von menschlichen unterscheiden lassen. Sie erstellen außerdem selbstständig Accounts auf Plattformen, die nicht vorher definiert worden sind.