Teknoloji devi Anthropic, yapay zeka sistemlerinin potansiyel tehlikelerini vurgulayan ve biyolojik silah geliştirme risklerine karşı kapsamlı bir strateji oluşturulmasını talep eden bir rapor yayınladı. Raporda, gelişmiş yapay zeka modellerinin, mevcut patojenlerin mutasyona uğratılması veya tamamen yeni biyolojik maddelerin tasarlanması gibi operasyonlarda, insan eliyle yapamayacağı kadar karmaşık ve hızlı analizler yapabilme potansiyeli olduğu belirtiliyor. Bu durum, küresel güvenlik açısından ciddi bir uyarı niteliği taşıyor.
Rapor, özellikle yapay zeka araçlarının kötü niyetli kişilerin ellerine geçmesi durumunda ortaya çıkabilecek riskleri mercek altına alıyor. Raporda, Claude adlı yapay zeka modelinin, bir araştırmacının kuş gribi virüsünü memelilere uyarlamak için geliştirdiği deneyler için kullanılmasına dair tespitler yer alıyor. Benzer şekilde, devlet destekli bir araştırmacının, bilgisayar ortamında çeşitli toksinleri yeniden yapılandırmaya çalıştığı da raporla ortaya çıktı. Bu tür girişimler, yapay zeka teknolojisinin kontrolsüz kullanımı durumunda, biyolojik silahların daha hızlı ve etkili bir şekilde geliştirilmesine zemin hazırlayabilir.
Anthropic, bu tür olayların tespit edilmesiyle birlikte, ilgili kullanıcıların hesaplarını derhal bloke ettiğini ve gelecekte benzer durumların önlenmesi için daha sıkı güvenlik protokolleri uygulamaya koyduğunu duyurdu. Şirket, bu tür eylemlerin, yapay zeka sistemlerinin etik sınırlarının korunması ve potansiyel tehlikelerin önlenmesi açısından kritik önem taşıdığını vurguluyor. Ancak, raporun dikkat çeken bir diğer noktası da, bu kişilerin 'kötü niyetli' olarak değerlendirilmediği ve yalnızca tedbirli bir yaklaşım sergilendiği yönündedir. Bu yaklaşım, yapay zeka sektöründe daha geniş bir diyalog başlatmayı ve bu alandaki riskleri daha iyi anlamayı hedefliyor.
Raporun yayınlanmasının ardından, Anthropic'in bir çalışanı olan Jacob Coxon, şirketin bu tür riskleri ciddiye almadığını ve yapay zekanın 'gerçek güç ve kaynaklar elde edebilecek insanüstü sistemler haline gelebileceğini' savunarak istifa etti. Coxon'un bu açıklaması, yapay zeka teknolojisinin etik ve güvenlik boyutlarına yönelik artan endişeleri yansıtıyor. Anthropic, bu durumla birlikte, yapay zeka sektöründeki diğer oyuncularla birlikte, bu alandaki riskleri azaltmak ve gelecekte benzer durumların yaşanmasını engellemek için daha kapsamlı stratejiler geliştirmeye çalışacak.
