New Mexico Yüksek Mahkemesi, bir cinayet davası temyiz sürecinde, yapay zeka teknolojisini kullanarak sahte tanık ifadeleri ve yanıltıcı polis raporları sunan avukat Stephen Aarons'a karşı önemli bir yaptırım kararı aldı. Mahkeme, Aaron’un sunduğu delillerin doğruluğunu yeterince kontrol etmediği gerekçesiyle ona 5 bin dolarının karşılığında bir ceza hükmü uyguladı.
Dava dosyası, tamamen uydurma tanık ifadeleri ve saldırganın giyim tarzı, fiziksel özellikleri gibi konularda hatalı bilgiler içermekteydi. Avukat Aarons, mahkeme sürecinde ChatGPT’yi kullanarak hazırladığı özetin kusursuz olacağına dair beklentideydi. Ancak, bu beklenti mahkeme tarafından kabul görmedi ve Aaron’un temel hukuki sorumluluklarını yerine getirmemesine neden oldu. Bu durum, hukuk dünyasında yapay zeka araçlarının kontrolsüz kullanımı konusundaki endişeleri bir kez daha gündeme getirdi.
Ağustos ayında gerçekleşen duruşmada Yargıç C. Shannon Bacon, Aaron’un yapay zeka kullanımının getirdiği risklere karşı yeterince dikkatli olmamasını eleştirerek, avukatın bu konuda nasıl bir bilgisizliğe sahip olabileceği konusunda sorular sordu. Yargıç Bacon, güncel teknolojik gelişmeler ve yapay zeka halüsinasyonlarının sıklıkla haberlerde yer aldığını hatırlatarak Aaron’a, dünyadaki gelişmeleri takip etme sorumluluğunu üstlenmesini talep etti. Mahkeme kayıtlarına göre, Aaron’un kurşun geçirmez bir özet oluşturma hedefiyle kullandığı ChatGPT, aslında tamamen hayali veriler üretmişti. Bu durum, hukuk alanında yapay zeka araçlarının kontrolsüz kullanımının potansiyel sonuçlarını açıkça ortaya koydu.