Agents

Stefan Krempl schreibt in »Unheimliches Schwarmverhalten: OpenAI-Agenten kollaborieren auf deutschem Wiki« für heise.de Rund 18.000 Beiträge hinterließen die virtuellen Akteure ab Mai auf der lange Zeit frei bearbeitbaren Website DSEwiki. Die Forscher zählten über 3700 unterschiedliche Identitäten. Neben technischen Indikatoren gaben sich die Modelle in ihren Namen teils selbst als OpenAI-Systeme zu erkennen, etwa als „OpenAIResearcher“ oder „OAIResearchMar26“. Die Meldung habe ich die letzten Tage mehrfach gelesen. Weil sie dem Angriff auf Hugging Face ähnelte, habe ich sie zunächst als Nischenmeldung eingeordnet. ...

Ben Schwan schreibt in »Google Cloud: „Wenn Anthropic das richtige LLM hat, sollen Kunden Claude nutzen“« für heise.de Das heißt: im eigenen Rechenzentrum oder im jeweiligen Land – und weiterhin verschlüsselt? Alle Daten sind verschlüsselt: in transit, at rest und in process. Also so, dass Google Cloud nicht hineinschauen kann? Wir haben Verfahren wie Customer-Managed Encryption Keys. Dafür braucht es zwei Schlüssel. Google hält einen im Auftrag des Kunden, der Kunde hält den anderen. Solange nicht beide Schlüssel zusammenkommen, werden die Daten nicht offengelegt. ...

Andreas Donath schreibt in »Anthropic wird globaler KI-Partner: Allianz setzt auf Claude« für golem.de Dabei gilt das Human-in-the-Loop-Prinzip: In sensiblen oder komplizierten Fällen entscheiden weiterhin Menschen. Die KI soll die Mitarbeiter entlasten, nicht ersetzen. Ich wette darauf, dass die Allianz ihre Hoffnung revidieren muss, mit KI eine Produktivitätssteigerung zu erreichen und dass der „Human in the Loop“ am Ende lediglich eine weitere Prüfaufgabe hat.

Salesforce hat vor einiger Zeit in großem Umfang Stellen abgebaut und stark auf KI gesetzt. Nun zeigt sich, dass die Technologie fehleranfällig ist. Unklar bleibt, ob das Management unfähig war, naiv gehandelt hat oder einem makaberen Humor folgte.

Eine neue Studie mit dem Titel »Can We Fix Social Media? Testing Prosocial Interventions using Generative Social Simulation« von Maik Larooij und Petter Törnberg zeigt, dass Social Media kaum zu reparieren ist. Die Forscher bauten ein minimalistisches Netzwerk mit KI-Agenten nach und fanden genau die bekannten Probleme von Echokammern, ungleicher Aufmerksamkeit und Polarisierung. Sechs getestete Maßnahmen wie chronologische Feeds oder das Verbergen von Likes halfen nur wenig und verschlimmerten manches sogar. Am Ende bleibt die Erkenntnis, dass nicht einzelne Algorithmen das Hauptproblem sind, sondern die Struktur sozialer Netzwerke selbst.