ABD’nin en zorlu zirvelerinden Mount Shasta’da, modern teknolojinin güvenilirliğine dair şok edici bir örnek yaşandı. İnsan tecrübesi yerine, yapay zeka tarafından oluşturulan rotaların ve ekipman listelerinin mutlak bir şekilde takip edildiği üç dağcı, 4 bin 322 metre yüksekliğe tırmanışta felaketle karşılaştı. Bu olay, teknolojiye aşırı güvenmenin potansiyel sonuçlarını çarpıcı bir şekilde ortaya koydu.
Grup, tırmanış planlarının tamamını yapay zeka algoritmasına dayandırdı. Uygulamaların önerileri doğrultusunda, gereğinden az yiyecek ve su ile yola çıktı. Ancak, dijital aklın “hafiflik” ve “sadelik” önermeleri, dağ ortamının zorluklarını göz ardı ederek acı bir trajediye yol açtı. İki bin 560 metreye yerleştirilen kamp alanından ayrıldıktan sonra, hava koşulları ve zamanlamadaki hatalar nedeniyle zirveye ulaşmak onlar için ciddi bir mücadele anlamına gelmişti.
Zirveye varışta yaşanan gecikme, dönüş yolunda hava kararmasıyla büyük bir belaya dönüşmüştü. Yönlerini kaybeden dağcılar, tehlikeli Mud Creek Kanyonu’na doğru kaymış, birinin dizinden ciddi yaralanmasıyla birlikte kurtarma operasyonları başlatılmıştı. Profesyonel ekiplerin de koordinasyon sorunları ve yapay zeka tarafından sağlanan yanıltıcı bilgiler nedeniyle kanyonun derinliklerinde mahsur kalmaları, durumun ne kadar kritik olduğunu bir kez daha ortaya koymuştu.
Olayın ardından, kurtulan dağcılar, yapay zekanın tavsiyelerine körü körüne uymanın ölümcül bir hata olduğunu kabul etti. Bölge yetkilileri de yapay zeka önerisinin, hayati tehlike taşıyan bir aktivitede yetersiz beslenmeyi tavsiye etmesinin “kabul edilemez bir risk” olduğunu vurguladı. Uzmanlar, teknolojik gelişmelerin, dağcılık gibi alanlarda yerel bilgi birikiminin ve deneyiminin yerini tutamayacağını, teknolojinin bir araç olarak kullanılması gerektiğini ve asla tek başına karar verici olarak görülmemesi gerektiğini sert bir şekilde uyarıyor.”} att:eyJ0eXBlIjoiYm94dXJkIiwnLlibBQVEVOQ09URU9ERVIiLjwicuJWUsoxLCJjb250aW5lIjoiaHR0cHM6Ly93d3cuZXhwZWRpYS54NjAyLjEuNy84MDc0MjM4NzE0NjQzNSIseyJGd3RyZXNzIjoiZGVzY3JpcHRpb24tYW5jeSIsInRrIjoiU3VidXNtpQAifQ==