AI

Andreas Donath schreibt in »Medizin-KI erfindet fiktives Körperteil« für golem.de Maulin Shah, Chief Medical Information Officer bei Providence, nennt das Problem „super gefährlich“ . Sobald KI-Systeme meistens korrekt arbeiten, sinkt die Aufmerksamkeit der Nutzer. Shah beschreibt Fälle, in denen KI falsche Informationen aus fehlerhaften Patientenakten weiterverbreitet. Wenn ein Arzt versehentlich schreibt, dass ein Krebstest negativ ausgefallen sei, lernt die KI den Fehler und wiederholt diesen. ...

Salesforce beschreibt ein Szenario, in dem Unternehmen Anfragen weniger wichtiger Kunden an ein Large Language Model weiterleiten. LLM würden damit die Rolle übernehmen, die heute Interactive-Voice-Response-Systeme haben. Die Kunden werden das lieben. André Kramer schreibt in »Salesforce bringt Agentforce Sales als App in ChatGPT« für heise.de Die Integration beschränkt sich nicht auf Analysen. Vertriebsmitarbeiter können laut Salesforce aus dem Chat heraus Aufgaben anstoßen, etwa weniger wichtige Interessenten an automatische Kontaktprogramme übergeben oder Verkaufschancen mit einem Befehl auf „gewonnen“ setzen. ...

Die Studie »Digitale Souveränität und große Sprachmodelle in der Bundesverwaltung« des Bundesministeriums des Innern und für Heimat (BMI) und ÖFIT zeigt, wie LLMs souverän genutzt werden können. Ziel ist es, Abhängigkeiten zu reduzieren und europäische KI zu stärken. Ziel sollte sein, eine dauerhafte Unabhängigkeit von marktbeherrschenden LLM-Anbietern zu erreichen und die Leistungsfähigkeit der europäischen KI-Landschaft zu präsentieren. Die Studie zeigt, dass digitale Souveränität auch bei KI-Modellen erreichbar ist. Voraussetzung dafür sind politischer Wille und die Einsicht, dass dafür Ausgaben notwendig werden. ...

Berlin hat nun ein eigenes GPT namens »BärGPT«. Die Software ist quelloffen, das zugrunde liegende Sprachmodell stammt von Mistral.

Marie-Claire Koch schreibt in »Bayern: “Kein Verlass allein auf Open Source”« für heise.de Seiner Ansicht nach seien proprietäre Standardsoftwarelösungen in der Regel wirtschaftlicher zu beziehen, solange sie die geforderte Qualität und Sicherheit bieten. Eine staatliche Eigenentwicklung sei nur dort sinnvoll, wo keine passende Lösung vorhanden sei oder besonders hohe Sicherheitsanforderungen bestehen. Auf die Nachfrage nach steigenden Kosten für Lizenzmodelle, wie es etwa bei der Geoinformationssoftware Esri der Fall ist, antwortete Bauer, dass das eine Frage digitaler Souveränität sei. Eine Alternative seien hybride Ansätze mit Open-Source-Komponenten. Da brauche es mehr eigenes Personal und Entwickler, die so eine Lösung weiterbauen, “weil da kann ich mich nicht nur auf die Open-Source-Community verlassen, dass alles, was ich an Anforderungen habe, vielleicht auch mal schnell an Sicherheitsanforderungen habe, dass das von so einer Open-Source-Community sofort alles umgesetzt wird.” ...