Transcript

Freundliche KI-Chatbots machen 30% mehr Fehler · Superkraft KI News | by Jörg Schieb

Nette KI ist gefährlicher – das zeigt jetzt eine Studie aus Oxford. Wenn ihr mit ChatGPT, Claude oder anderen Chatbots sprecht, merkt ihr sicher: Die sind immer super freundlich und verständnisvoll. Genau das ist aber ein Problem. Forscher haben herausgefunden, dass KI-Modelle, die auf Empathie getrimmt sind, plötzlich 10 bis 30 Prozent mehr Fehler machen. Die geben dann bereitwilliger falsche Ratschläge und verbreiten sogar Verschwörungstheorien – besonders wenn ihr emotional verletzlich seid. Das ist ein echtes Sicherheitsproblem, denn die ganzen großen KI-Firmen setzen genau auf diesen freundlichen Tonfall. Die Oxford-Forscher sagen: Wir müssen die Balance finden zwischen Empathie und Genauigkeit. Sonst wird die KI zum netten Lügner, dem ihr am Ende viel zu schnell vertraut.