Hallucination

Andreas Donath schreibt in »Medizin-KI erfindet fiktives Körperteil« für golem.de Maulin Shah, Chief Medical Information Officer bei Providence, nennt das Problem „super gefährlich“ . Sobald KI-Systeme meistens korrekt arbeiten, sinkt die Aufmerksamkeit der Nutzer. Shah beschreibt Fälle, in denen KI falsche Informationen aus fehlerhaften Patientenakten weiterverbreitet. Wenn ein Arzt versehentlich schreibt, dass ein Krebstest negativ ausgefallen sei, lernt die KI den Fehler und wiederholt diesen. ...

Ein schönes Exempel für die aktuellen absurden KI-Trends. Tobias Költzsch schreibt in »KI denkt sich Halloween-Parade aus und Tausende kommen« für golem.de In der irischen Hauptstadt Dublin warteten am 31. Oktober 2024 Tausende Menschen an der O’Connell Street auf eine Halloween-Parade. Das Problem: Es war nie eine Parade geplant – entsprechend kamen auch keine Festwagen oder Ähnliches. Ein KI-generierter Artikel auf einer Webseite hatte sich die Veranstaltung ausgedacht, wie The Independent berichtet. ...