16 Stunden statt 8: Muss Gemini gefährliche Pläne stoppen?

KI Espresso · Sep 10, 2026 · 5m · transcript

Drei unerfahrene Bergsteiger planten ihre Mount-Shasta-Tour mit Gemini, YouTube und AllTrails. Aus einer angenommenen Acht-Stunden-Besteigung wurden rund 16 Stunden bis zum Gipfel, ein nächtlicher Abstieg und eine Rettungsaktion. Die scharfe Frage ist nicht, ob KI Fehler macht. Muss ein Assistent bei körperlich riskanten Angaben zu Route, Dauer, Wasser und Ausrüstung blockieren, solange Erfahrung, Bedingungen und Umkehrpunkt fehlen? Oder erzeugt gerade ein bestandener Sicherheitscheck eine gefährliche Scheinsicherheit — und die Entscheidung muss vollständig beim Menschen bleiben? Wichtig: Die…