Automation

Matthias Böck schreibt in »Umgang mit KI: AI Bots oder das endgültige Ende des Internets« für tagesspiegel.de In einer Welt, in der Inhalte mit wenigen Prompts unbegrenzt erzeugt werden können, verliert Einzelnes an Bedeutung. Wenn alles generiert sein könnte, wird Vertrauen zur knappen Ressource. Wir orientieren uns nicht mehr an Quellen, sondern an Systemen. Und am Ende vertrauen wir vielleicht nicht dem, was wahr ist, sondern dem, was sich am plausibelsten anhört. ...

Andreas Donath schreibt in »Anthropic wird globaler KI-Partner: Allianz setzt auf Claude« für golem.de Dabei gilt das Human-in-the-Loop-Prinzip: In sensiblen oder komplizierten Fällen entscheiden weiterhin Menschen. Die KI soll die Mitarbeiter entlasten, nicht ersetzen. Ich wette darauf, dass die Allianz ihre Hoffnung revidieren muss, mit KI eine Produktivitätssteigerung zu erreichen und dass der „Human in the Loop“ am Ende lediglich eine weitere Prüfaufgabe hat.

Salesforce hat vor einiger Zeit in großem Umfang Stellen abgebaut und stark auf KI gesetzt. Nun zeigt sich, dass die Technologie fehleranfällig ist. Unklar bleibt, ob das Management unfähig war, naiv gehandelt hat oder einem makaberen Humor folgte.

Andreas Donath schreibt in »Medizin-KI erfindet fiktives Körperteil« für golem.de Maulin Shah, Chief Medical Information Officer bei Providence, nennt das Problem „super gefährlich“ . Sobald KI-Systeme meistens korrekt arbeiten, sinkt die Aufmerksamkeit der Nutzer. Shah beschreibt Fälle, in denen KI falsche Informationen aus fehlerhaften Patientenakten weiterverbreitet. Wenn ein Arzt versehentlich schreibt, dass ein Krebstest negativ ausgefallen sei, lernt die KI den Fehler und wiederholt diesen. ...

Salesforce beschreibt ein Szenario, in dem Unternehmen Anfragen weniger wichtiger Kunden an ein Large Language Model weiterleiten. LLM würden damit die Rolle übernehmen, die heute Interactive-Voice-Response-Systeme haben. Die Kunden werden das lieben. André Kramer schreibt in »Salesforce bringt Agentforce Sales als App in ChatGPT« für heise.de Die Integration beschränkt sich nicht auf Analysen. Vertriebsmitarbeiter können laut Salesforce aus dem Chat heraus Aufgaben anstoßen, etwa weniger wichtige Interessenten an automatische Kontaktprogramme übergeben oder Verkaufschancen mit einem Befehl auf „gewonnen“ setzen. ...