Kanada'nın British Columbia eyaleti, son zamanlarda Tumbler Ridge kasabasında yaşanan ve altısı çocuk sekiz kişinin hayatını kaybettiği trajik olay sonrasında, yapay zeka geliştiricileriyle ilgili hukuki bir sürece girdi. Eyalet, OpenAI şirketinin, ChatGPT platformunda tespit ettiği şiddet eğilimlerini yetkililere bildirmemesinin, olayın önüne geçilememesinde bir kusur oluşturduğunu iddia ederek dava açtı. Bu durum, teknoloji şirketlerinin, potansiyel olarak tehlikeli davranışları önceden fark ettiklerinde, toplumsal güvenliği koruma konusunda ne kadar sorumluluk üstlenmeleri gerektiği sorusunu yeniden gündeme getiriyor.
Davanın merkezinde, 18 yaşındaki Jessie Van Rootselaar'ın eylemleri yer alıyor. Şüpheli, ChatGPT etkinliklerinde silahlı şiddet içerdiğine dair işaretlenmiş olmasına rağmen, kolluk kuvvetlerini uyarmadı. Şirket, olayın ardından özür dileyerek, bu gecikmenin üzüntü verici olduğunu ve gelecekte benzer olayların önlenmesine yönelik adımlar atacaklarını ilan etti. Ancak, eyalet yetkilileri, şirketin bu özürün yeterli olmadığını ve toplumsal güvenliği koruma konusunda daha somut adımlar atması gerektiğini vurguluyor.
Bu süreç, Adalet Bakanı Niki Sharma tarafından ABD federal mahkemesine sunulan ve teknoloji şirketlerinin sorumluluklarını tartışan önemli bir dönüm noktası olarak değerlendiriliyor. Sharma, OpenAI'nin, kurbanların ailelerinden özür dilemesinin önemli bir adım olsa da, topluluğun endişelerini gidermede yetersiz kaldığını belirtiyor. Şirketin, güvenlik önlemlerini güçlendirmesi, şeffaflığı artırması ve gelecekte benzer trajedilerin önlenmesine katkıda bulunacak somut adımlar atması gerektiği vurgulanıyor. Şirket, bu konularda gerekli adımları atmakta gecikme yaşıyor.
Davanın açılmasıyla birlikte, OpenAI'nin iletişim stratejileri ve şeffaflık konusundaki yaklaşımı da eleştiriliyor. Bakan Sharma, OpenAI'nin bu sohbetlerin içeriğini görmediğini ve şirketin bu bilgileri açıklaması talebini reddettiğini belirtiyor. Bu durum, teknoloji şirketlerinin, güvenlik ihlalleri hakkında kamuoyunu bilgilendirme konusunda ne kadar şeffaf davranmaları gerektiği sorusunu daha da derinleştirmektedir. Ayrıca, açılan davadan elde edilecek tazminatın, yeniden inşa edilecek ortaokul için kullanılacak olması, olayın yarattığı travmanın üstesinden gelmek için atılan önemli bir adım olarak kabul ediliyor.
