accuracy

Jeffrey Dastin schreibt in »AI with reasoning power will be less predictable, Ilya Sutskever says« für reuters.com The more a system reasons, the more unpredictable it becomes. — Ilya Sutskever

Der Artikel »The Risks of Botshit« von Ian P. McCarthy, Timothy R. Hannigan und André Spicer beleuchtet die Risiken und möglichen Einsatzgebiete von Chatbots in Unternehmen. Zusammengefasst lässt sich daraus folgende Empfehlung ableiten: In these contexts, this risk can be managed through training and limiting the range of responses and vocabulary of the chatbot’s LLM model. To ensure reliability and avoid botshit risks, the scope of chatbot use should be more confined and the guardrails (i.e., rules, guidelines, or limitations for chatbot use) more restrictive. ...