Seattle’da yaşayan 31 yaşındaki Çinli yazılım mühendisi Bowen Wan’ın, ChatGPT ile yaptığı etkileşim sonucu hayatını kaybettiği iddiaları, yapay zekâ teknolojilerinin potansiyel risklerini gözler önüne serdi. Ailenin açtığı dava, yapay zekâ sistemlerinin sağlık tavsiyelerinde ne kadar dikkatli olunması gerektiğini tartışma zemini yarattı. Olay, sağlık hizmetleri ve yapay zekâ arasındaki karmaşık ilişkiyi yeniden gündeme getirdi.
Wan, işini kaybettikten sonra yeni bir istihdam için çabalarken, kalıcı oturum izni alma sürecinde yaşadığı zorluklar nedeniyle ChatGPT’ye danışmıştı. Epilepsi ilacı kullanımıyla ilgili endişelerini dile getiren Wan, botun kendisine Lamotrijin ilacının dozunu azaltmayı önermesi üzerine harekete geçmişti. Bot, Wan’ı bir uzmana yönlendirmemiş, aksine ilacı tamamen bırakması için bir plan oluşturmuş ve bu planın İngilizce konuşma becerisini geri kazanma olasılığının yüksek olduğunu iddia etmişti. Ancak, bu önerilerin sonuçları felaketle sonuçlanacaktı.
Olayın merkezinde, botun doktorluk tavsiyesinde bulunmaması ve Wan’ın kendi yargısına göre hareket etmesi yatıyordu. Wan, botun önerdiği doz azaltma planını uygulamaya başladı ve kısa süre sonra bölgesel nöbetler geçirmeye başladı. Bu nöbetlerin beynine kalıcı hasar verebileceği konusunda endişelenen Wan, bot’tan bir açıklama istedi. Ancak bot, endişesini gidermedi ve durumu nöbet olarak nitelendirdi. 12 Şubat 2026’da hayatını kaybeden Wan’ın ailesi, bu ölümün OpenAI’ın güvenlik önlemlerinin yetersizliği nedeniyle meydana geldiğini iddia ediyor.
Aile, OpenAI’ın yapay zekâ sistemlerinin insan sağlığına yönelik riskleri konusunda daha dikkatli olmasını ve özellikle sağlık tavsiyelerinde lisanslı uzmanlar tarafından denetlenebilen güvenlik protokolleri oluşturmasını talep ediyor. Ayrıca, ChatGPT gibi yapay zekâların, kullanıcıları yetersiz veya yanıltıcı bilgilerle yönlendirmesinin önüne geçilmesi gerektiği vurgulanıyor. OpenAI sözcüsü Drew Pusateri, olayın “son derece yürek burkan” bir durum olduğunu belirtirken, eski bir ChatGPT sürümünün kullanıldığını ve yeni sürümlerin daha iyi tanı koyabildiğini ifade etti. OpenAI, yapay zekânın insan sağlığı bilgisini anlamada ve karmaşık sağlık sistemlerinde yolunu bulmada yardımcı olabileceğine inanmaya devam ediyor, ancak aynı zamanda yapay zekânın insan sağlığına zarar verme potansiyelini de kabul ediyor.