Andreas Donath schreibt in »Anthropic wird globaler KI-Partner: Allianz setzt auf Claude« für golem.de Dabei gilt das Human-in-the-Loop-Prinzip: In sensiblen oder komplizierten Fällen entscheiden weiterhin Menschen. Die KI soll die Mitarbeiter entlasten, nicht ersetzen. Ich wette darauf, dass die Allianz ihre Hoffnung revidieren muss, mit KI eine Produktivitätssteigerung zu erreichen und dass der „Human in the Loop“ am Ende lediglich eine weitere Prüfaufgabe hat. ...
Marc Stöckel schreibt in »OpenAI über KI-Browser: Prompt-Injection-Problem wahrscheinlich nie lösbar« für golem.de OpenAI sieht bisher keine Möglichkeit, diesen Angriffsvektor jemals vollständig zu eliminieren. “Wir gehen davon aus, dass sich Angreifer weiter anpassen werden. Prompt Injections werden, ähnlich wie Betrug und Social Engineering im Internet, wahrscheinlich nie vollständig ‘gelöst’ werden können”, schreibt das Unternehmen in seiner jüngsten Ankündigung(öffnet im neuen Fenster). ...
Andreas Donath schreibt in »Medizin-KI erfindet fiktives Körperteil« für golem.de Maulin Shah, Chief Medical Information Officer bei Providence, nennt das Problem „super gefährlich“ . Sobald KI-Systeme meistens korrekt arbeiten, sinkt die Aufmerksamkeit der Nutzer. Shah beschreibt Fälle, in denen KI falsche Informationen aus fehlerhaften Patientenakten weiterverbreitet. Wenn ein Arzt versehentlich schreibt, dass ein Krebstest negativ ausgefallen sei, lernt die KI den Fehler und wiederholt diesen. ...
Salesforce beschreibt ein Szenario, in dem Unternehmen Anfragen weniger wichtiger Kunden an ein Large Language Model weiterleiten. LLM würden damit die Rolle übernehmen, die heute Interactive-Voice-Response-Systeme haben. Die Kunden werden das lieben. André Kramer schreibt in »Salesforce bringt Agentforce Sales als App in ChatGPT« für heise.de Die Integration beschränkt sich nicht auf Analysen. Vertriebsmitarbeiter können laut Salesforce aus dem Chat heraus Aufgaben anstoßen, etwa weniger wichtige Interessenten an automatische Kontaktprogramme übergeben oder Verkaufschancen mit einem Befehl auf „gewonnen“ setzen. ...
Sheila Beladinejad schreibt in »KI-Souveränität: Roaming Free: Europas Paradoxon der KI-Souveränität« für tagesspiegel.de In Deutschland steht die Partnerschaft „Open AI for Germany” von SAP für den öffentlichen Sektor exemplarisch für dieses Problem. Vermarktet als Souveränität – „gebaut in Deutschland, für Deutschland” – entpuppt sich der Deal als Augenwischerei. Abhängigkeit von Anbietern wird als Unabhängigkeit verkauft. Der öffentliche Sektor wird aus Steuergeldern finanziert. Wenn er KI-Dienste einkauft, bezahlt er damit unmittelbar den Aufbau der Infrastruktur. Deshalb müssen auch die Vertragsbedingungen offengelegt werden – etwa die Regelungen zu Ausstiegsrechten, Interoperabilität und den Umweltauswirkungen. ...