ChatGPT-Fehler: Wanderer in Tatra per Helikopter gerettet
Veröffentlicht: 14.07.2026 um 16:10 Uhr, Redaktion boerse-global.de
Zwei litauische Wanderer mussten in der polnischen Tatra per Helikopter gerettet werden – weil sie einem Routenvorschlag von ChatGPT folgten. Der Vorfall am Wochenende wirft erneut grundlegende Fragen zur Sicherheit und Haftung bei KI-gestützten Empfehlungen auf.
Gefährliche Abkürzung am Berg
Am Sonntag, dem 13. Juli 2026, alarmierte die Bergwacht TOPR einen Rettungshubschrauber, um die beiden gestrandeten Touristen vom Gratübergang ?winicka ?awka zu holen. Die Hiker hatten den Chatbot von OpenAI nach einer Abkürzung zum Fünfseen-Tal gefragt. Die KI schlug einen Pfad vor, der die Wanderer in unwegsames Gelände unterhalb des Gipfels Niebieska Turnia führte. Weder vor noch zurück war ein Weiterkommen möglich – die Luftrettung blieb die einzige Option.
Der Fall reiht sich in eine wachsende Zahl ähnlicher Vorfälle weltweit ein. Bereits 2025 sorgte ein Vorfall in Kanada für Schlagzeilen, bei dem ein Chatbot gefährliche Wanderrouten empfahl. Die OECD warnt seit Längerem davor, dass KI-Tools Reisende massiv in die Irre führen können. Selbst in Tasmanien raten lokale Behörden Abenteurern inzwischen von ungeprüften digitalen Routenplanern ab.
Wenn KI zur Haftungsfalle wird
Die rasanten Entwicklungen im Bereich der Künstlichen Intelligenz bringen nicht nur neue Chancen, sondern auch komplexe rechtliche Verpflichtungen für Unternehmen mit sich. Dieser kostenlose Umsetzungsleitfaden bietet Ihnen einen kompakten Überblick über alle Anforderungen, Pflichten und Fristen des EU AI Acts. EU AI Act in 5 Schritten verstehen: Fristen, Pflichten und Risikoklassen kompakt erklärt
Doch die Risiken beschränken sich keineswegs aufs Bergsteigen. Der im Juli 2026 veröffentlichte Mills-Report der britischen Finanzaufsicht FCA zeigt ein alarmierendes Bild: Drei Viertel aller britischen Finanzfirmen nutzten bereits 2024 KI in irgendeiner Form. Das Vertrauen der Verbraucher jedoch ist fragil. Laut der Studie vertrauen 26 Prozent der britischen Erwachsenen ChatGPT bei Finanzfragen – obwohl sie im Schadensfall keinerlei rechtliche Handhabe haben.
Eine weitere Untersuchung des Journal of Financial Planning testete sieben Chatbots auf konkrete Finanzszenarien. Das Ergebnis: massive Inkonsistenzen. FĂĽr ein und dasselbe Profil schwankten die empfohlenen Notgroschen zwischen 18.000 und 34.500 Euro. Zwar gibt es spezialisierte KI-Apps wie Gilded, die beim Wechsel von teuren Fonds zu gĂĽnstigeren ETFs helfen. Doch Juristen warnen: Wer sensible Daten in KI-Tools eingibt, riskiert den Verlust des Anwaltsgeheimnisses. Gerichte sehen in der Kommunikation mit KI-Anbietern in der Regel keine vertrauliche Beziehung.
„Dr. KI" – Fluch oder Segen?
Im Gesundheitswesen breitet sich der Trend zur Selbstdiagnose per KI rasant aus – sehr zum Leidwesen der Ärzteschaft. Eine Telenor-Asia-Umfrage von 2025 ergab, dass 89 Prozent der malaysischen Internetnutzer auf KI-Tools zur Selbstdiagnose setzen. Der Präsident der malaysischen Ärztevereinigung stellt klar: KI könne klinische Urteilsfähigkeit nicht ersetzen. Die Gefahr von Fehldiagnosen und verzögerten Behandlungen sei real.
Da KI-Systeme zunehmend Einzug in den geschäftlichen Alltag halten, müssen Verantwortliche die neuen gesetzlichen Spielregeln genau kennen, um hohe Bußgelder zu vermeiden. Erfahren Sie in diesem kostenlosen Report, welche Systeme als Hochrisiko gelten und was Sie jetzt konkret für Ihre Compliance tun müssen. Kostenlosen Umsetzungsleitfaden zum EU AI Act jetzt sichern
Auf der anderen Seite zeigen KI-gestützte Psychotherapie-Apps wie Wysa und Woebot in klinischen Studien kurzfristige Erfolge bei der Linderung von Depressionen und Angstzuständen. Allerdings bleiben Datenschutzbedenken und die Frage der Krisenintervention ungelöst.
Extremisten nutzen KI für Anschläge
Sicherheitsforscher der Universität Cambridge dokumentieren zudem den Missbrauch von KI durch terroristische Organisationen. Gruppen wie Boko Haram und ISWAP versuchten demnach, Tools wie ChatGPT, Gemini und Claude für taktische Beratung zu nutzen – etwa zur Fahrzeugmodifikation oder zum Bau verbesserter Sprengsätze.
Reaktion der KI-Anbieter
Die großen KI-Labore reagieren mit verschärften Sicherheitsvorkehrungen. OpenAI hat seine Modelle aktualisiert, um Anfragen zu Selbstverletzung oder Gewalt besser zu erkennen und abzuweisen. Anthropic sperrte zwischen Juli und Dezember 2025 rund 1,45 Millionen Konten wegen Verstößen gegen die Nutzungsregeln.
Während das US-amerikanische National Institute of Standards and Technology (NIST) einen freiwilligen Risikomanagement-Rahmen für KI bereitstellt, bleibt die grundsätzliche Frage unbeantwortet: Braucht es strengere Regulierung, um gefährliche KI-Ausgaben zu verhindern – oder liegt der Schlüssel in besserer digitaler Bildung der Nutzer?
Disclaimer zu unseren Artikeln: Keine Anlageberatung, keine Kauf oder Verkaufsempfehlung. Angaben zu Kursen, Unternehmen und Märkten ohne Gewähr; Änderungen jederzeit möglich. Börsengeschäfte können zu hohen Verlusten führen. Unsere Beiträge werden ganz oder teilweise automatisiert mit Unterstützung von AI erstellt und geprüft.
