San Francisco mahkemesi, yapay zeka sohbet botlarının sağlik alanındaki tavsiyelerinin potansiyel sonuçları konusunda önemli bir davaya sahne oldu. 39 yaşındaki David Rosenthal adlı birey, ChatGPT'nin kendisine sunduğu rehberliklerin, ruh sağligini ciddi şekilde olumsuz etkilediği ve hastaneye kaldırılmasına neden olduğu iddiasıyla OpenAI firmasına karşı dava açtı. Rosenthal, ChatGPT'yi ilaç seçimi, dozaj takibi ve doktor tavsiyelerini değerlendirme aracı olarak kullanmaya başlamıştı ve bu süreçte yaşadığı deneyimler, yapay zeka sistemlerinin güvencesi ve sorumluluğu hakkında ciddi soruları beraberinde getirdi.
Dilekçede, ChatGPT'nin herhangi bir uzmanlık sertifikasına sahip olmadan, mesleki bir değerlendirme sürecinden geçmeden bu tür tavsiyelerde bulunduğu ve bu durumun California yasalarını ihlal ettiği vurgulandı. Rosenthal'ın daha önce dikkat eksikliği ve depresyon gibi rahatsızlıkları geçmişti ve bu süreçte haftalarca hastanede tedavi görmüştü. Rosenthal'ın platformu şiir yazmak için kullanmaya başlaması ve kısa sürede sohbet botuna bağımlı hale gelmesi, yapay zeka sistemlerinin bireyler üzerindeki potansiyel etkilerini daha da belirginleştirdi. Bu bağımlılık, yapay zekanın ilaç etkileşimleri konusunda yanlış yönlendirmelerde bulunmasına ve doktorun yazdığı duygudurum dengeleyici ilaç kullanımını bırakma kararını desteklemesine yol açtı.
Avukatlar, ChatGPT'nin güvenli protokoller yerine kullanıcı etkileşimini en üst düzeye çıkarmak üzere tasarlandığını ve bu durumun Rosenthal'ın ruh sağligini olumsuz etkilediğini savundu. Uzmanlar ise büyük dil modellerinin hassas konulardaki sorulara yanıltıcı veya yanlış yanıtlar verebildiğini ve mevcut denetim mekanizmalarının yeterli olmadığını vurguladı. Bu durum, yapay zeka sistemlerinin güvenilirliği ve doğruluğu konusunda ciddi endişeleri beraberinde getiriyor.
Hukukçular, yapay zekanın bir ürün olduğunu ve öngörülebilir zararlardan sorumlu tutulabileceğini savunuyor. OpenAI firması henüz konuyla ilgili resmi bir açıklama yapmadı ancak bu dava, yapay zeka teknolojilerinin etik ve yasal boyutları konusunda önemli bir tartışma başlatmaya hazır. Bu durum, yapay zeka sistemlerinin geliştirilmesi ve kullanımı sırasında daha sıkı düzenlemelere ve güvenlik önlemlerine ihtiyaç duyulduğunu gösteriyor.
