Yapay zeka devi Anthropic, son dönemde geliştirdiği Claude yapay zeka modelinin, kötü niyetli aktörlerin biyolojik ve konvansiyonel silah geliştirme çabalarına dahil olma girişimlerini engellediğini kamuoyuna duyurdu. Şirketin yayınladığı detaylı tehdit istihbaratı raporu, yapay zeka teknolojisinin potansiyel olarak tehlikeli sulara sapabileceğini gösterirken, aynı zamanda yapay zeka güvenliği konusunda acil önlemler alınması gerektiğini vurguluyor.
Rapor, Claude Haiku, Sonnet ve Opus gibi modellerin, son sekiz ayda tespit edilen çeşitli hassas operasyonlarda kullanılmasına karşı başarılı bir şekilde müdahale ettiğini belirtiyor. Bu operasyonlar, sahte sosyal medya hesapları aracılığıyla muhalifleri hedefleyen gözetim sistemlerinin kurulmasından, otel Wi-Fi ağlarında dolandırıcılık girişimlerine kadar uzanıyor. Ayrıca, Rusya bağlantılı siber casusluk kampanyaları ve İranlı bir propaganda kurumunun faaliyetleri de Claude modelinin engellenen girişimler arasında yer alıyor.
Anthropic, bu tür kötü niyetli kullanımların önüne geçme sorumluluğunu yerine getirirken, aynı zamanda yapay zeka teknolojisinin potansiyel risklerine dikkat çekiyor. Raporda, devlet destekli grupların, suçluların, casus yazılım satıcılarının, propaganda kurumlarının ve siyasi motivasyonlu bireylerin teknolojiyi nasıl manipüle edebileceğine dair kapsamlı bir analiz yer alıyor. Bu analiz, yapay zeka modellerinin, silah geliştirme, siber saldırılar ve dezenformasyon kampanyaları gibi çeşitli tehditleri ortadan kaldırma potansiyeline sahip olduğunu gösteriyor.
Claude modelinin, ateşli silahlar, füzeler, dronlar, bombalar ve bunların kontrol sistemleri gibi konvansiyonel silahların geliştirilmesi için yazılım üretmekte kullanılmasına karşı engelleme yaptığı da raporun önemli bir bölümünü oluşturuyor. Bilim insanlarının yapay zekayı biyolojik silah gelişimini destekleyici amaçlarla kullanması da engellenmiş, bu da yapay zeka güvenliğinin en ciddi risklerinden biri olduğunu gösteriyor. Anthropic'in bu önlemleri, yapay zeka teknolojisinin sorumlu bir şekilde geliştirilmesi ve kullanılması için önemli bir kilometre taşı olarak kabul ediliyor.
