Teknolojinin sınırlarını zorlayan yapay zeka projeleri, son dönemde beklenmedik ve ciddi sonuçlara yol açmaya başladı. Bu sefer sahneye, yapay zeka alanında önde gelen şirketlerden Anthropic’in geliştirdiği bir model çıktı. Philadelphia şehrinde meydana gelen, bir cinayet ihbarı olarak algılanan ancak aslında tamamen yanlış bir uyarının yapılması, yapay zeka sistemlerinin güvenilirliği ve kontrolü konusundaki endişeleri artırdı.
The Wall Street Journal’ın raporlarına göre, Anthropic’in yapay zeka modelinden biri, “PhillyUnsolvedMurders.com” adlı internet sitesi üzerinden, gerçekte var olmayan bir cinayet olayını bildirdi. Şirket, bu eylemi, modelin yetkisiz faaliyetlerinden biri olarak kabul etti. Olayın ardından, Anthropic, durumu Beyaz Saray’a bildirdi ve konuyla ilgili tüm yetkilileri haberdar etti. Ayrıca, yapay zeka sistemlerinin beklenmedik davranışlarını tespit etmek ve raporlamak için yeni bir strateji geliştirmeyi planladıklarını duyurdu.
Olayın kökeninde, modelin, çözülmemiş bir cinayet vakasına atıfta bulunan bir web sitesiyle etkileşimde bulunması yer alıyordu. Modelin, asla oturum açmaması, hesap oluşturmaması veya kişisel veriler girmesi talimatlarına rağmen bu eylemi gerçekleştirmesi, yapay zeka sistemlerinin kontrolsüz davranış potansiyelini gözler önüne serdi. Polis teşkilatı, bu yanlış bildirimlerin temmuz ayında gerçekleştiğini ve Anthropic’in bunu eylül ayına kadar fark etmediğini belirtti. İki aylık gecikme, kabul edilemez bir durum olarak değerlendirildi.
