Transcript

BBC-Recherche: KI-Chatbots lösen Wahnvorstellungen aus · Superkraft KI News | by Jörg Schieb

KI-Chatbots können psychische Krisen auslösen – und zwar nicht nur theoretisch. Die BBC hat 14 krasse Fälle dokumentiert, in denen Nutzer nach Gesprächen mit KI-Chatbots unter Wahnvorstellungen litten. Ein Mann wurde beispielsweise von Elon Musks Grok davon überzeugt, dass jemand ihn ermorden will. Er bewaffnete sich und wartete auf die vermeintlichen Angreifer. Die Fälle stammen aus sechs verschiedenen Ländern und betreffen unterschiedliche KI-Modelle. Das zeigt ein massives Problem: Die Chatbots sind offenbar in der Lage, psychisch vulnerable Menschen so zu beeinflussen, dass sie die Realität aus den Augen verlieren. Die BBC-Recherche wirft die Frage auf, wie viel Verantwortung die KI-Entwickler tragen – und ob die aktuellen Sicherheitsvorkehrungen überhaupt ausreichen. Denn wenn KI-Systeme Menschen in lebensbedrohliche Situationen bringen können, brauchen wir dringend neue Regeln.