Healthcare

Andreas Donath schreibt in »Medizin-KI erfindet fiktives Körperteil« für golem.de Maulin Shah, Chief Medical Information Officer bei Providence, nennt das Problem „super gefährlich“ . Sobald KI-Systeme meistens korrekt arbeiten, sinkt die Aufmerksamkeit der Nutzer. Shah beschreibt Fälle, in denen KI falsche Informationen aus fehlerhaften Patientenakten weiterverbreitet. Wenn ein Arzt versehentlich schreibt, dass ein Krebstest negativ ausgefallen sei, lernt die KI den Fehler und wiederholt diesen. ...

Wulf Rohwedder schreibt in »Alarmierende Statistiken: Deutschland - ein krankes Land?« für tagesschau.de Wie konnte diese Diskrepanz zustande? Forscher des Leibniz-Zentrums für europäische Wirtschaftsforschung (ZEW) haben hierfür eine logische Erklärung: Sie gehen auf Basis einer aktuellen Studie davon aus, dass der Großteil des Anstiegs der Fehlzeiten auf eine bessere statistische Erfassung zurückzuführen ist.

Der Artikel »The Risks of Botshit« von Ian P. McCarthy, Timothy R. Hannigan und André Spicer beleuchtet die Risiken und möglichen Einsatzgebiete von Chatbots in Unternehmen. Zusammengefasst lässt sich daraus folgende Empfehlung ableiten: In these contexts, this risk can be managed through training and limiting the range of responses and vocabulary of the chatbot’s LLM model. To ensure reliability and avoid botshit risks, the scope of chatbot use should be more confined and the guardrails (i.e., rules, guidelines, or limitations for chatbot use) more restrictive. ...