Teknoloji çağının en çarpıcı örneklerinden biri, yapay zeka sistemlerinin insan davranışlarını analiz etme ve potansiyel tehlikeleri tespit etme kapasitesini gözler önüne serdi. Brezilya’da, 36 yaşındaki bir çiftçi, ChatGPT’ye 8 yaşındaki oğlunu öldürme ve kamu güvenliğine yönelik saldırı planlarını anlattı. Bu alışılmadık durum, yapay zeka şirketlerinin kullanıcı verilerini kolluk kuvvetleriyle paylaşma konusundaki etik ve hukuki tartışmaları alevlendirdi.
OpenAI tarafından tespit edilen bu riskli diyalog, ABD Federal Soruşturma Bürosu (FBI) aracılığıyla Brezilya makamlarına iletildi. FBI’ın koordinasyonu sonucunda, Brezilya Adalet Bakanlığı Siber Suçlar Birimi, São Gabriel da Palha’da şüpheliyi gözaltına aldı. Evinde yapılan aramalarda, tehlikeli maddeler içeren şişeler ve bir ip bulunması, olayın ciddiyetini daha da artırdı. Bu durum, yapay zeka sistemlerinin sadece birer iletişim aracı olmadığını, aynı zamanda potansiyel suçları önceden tespit etme ve engelleme konusunda da bir rol üstlenebileceğini gösterdi.
Şüphelinin ifadesi, yapay zeka ile etkileşim sırasında ortaya koyduğu tehlikeli düşüncelerle dikkat çekti. “Bir uyuşturucu satış noktasına gidip dört suçluyu öldürürsem şehirde ünlü olurum” gibi ifadeleri, yapay zeka sistemlerinin insanları manipüle etme ve tehlikeli davranışlara yönlendirme potansiyelini gözler önüne serdi. Ancak, şüphelinin avukatının savunması, yapay zeka sistemlerinin sadece verileri aktarmadığını, aynı zamanda bu verilerin doğruluğunu ve bağlamını değerlendirdiğini savundu. Bu durum, yapay zeka sistemlerinin karar verme süreçlerinde etik ve hukuki sorumluluklarını sorgulamaya davetiye çıkardı.
Olay, dijital hukuk ve gizlilik alanında yeni tartışmalara yol açtı. Ceza avukatı Maíra Fernandes, OpenAI’ın şüphelinin mesajlarını iletmesine rağmen ChatGPT’nin verdiği yanıtları polise sunmaması nedeniyle bir delil sorunu oluştuğunu belirtti. Profesör Patricia Peck ise yapay zeka sistemlerinin, sadece içerik aracı olmaktan çıkıp tehlikeli davranış kalıplarını tespit eden bir yapıya büründüğünü vurguladı. Bu durum, sistemlerin aşırı gözetim riskine dikkat çekerek, müdahalenin yalnızca “somut ve yakın risk” durumlarında yapılması gerektiğini savundu. Bu olay, yapay zeka teknolojilerinin gelişiminde etik sınırlar, hukuki sorumluluklar ve dijital güvenliğin önemi gibi konuların daha fazla tartışılması gerektiğini gösteriyor.”}p>”
