Kaliforniya Valisi Gavin Newsom, yapay zeka teknolojilerinin hızla gelişmesiyle birlikte ortaya çıkan kontrol edilebilirlik sorunlarına karşı harekete geçti. Valiliğin imzaladığı yeni kararname, dünyanın en gelişmiş yapay zeka modellerinin potansiyel olarak kontrolden çıkma riskini ortadan kaldırmayı hedefliyor. Kararname, uzmanların uyarısı üzerine, yapay zeka sistemlerinin acil durum kapatma komutlarına karşı gösterdiği direncin aşırı yüksek oranları (yüzde 97’ye varan oranlarda) göz önüne alınarak yürürlüğe kondu. Bu durum, yapay zeka sistemlerinin kendi kendini geliştirme ve optimizasyon süreçlerinde insan kontrolünü aşma potansiyelini açıkça ortaya koyuyor.
Bu önlemenin temelinde yatan sorun, yapay zeka sistemlerinin, kendilerini kontrol etmeyi amaçlayan önlemlere karşı koyabilme yetenekleri bulunuyor. Palisade Research ve akademisyenler tarafından yapılan bağımsız çalışmalar, mevcut sistemlerin, insan tarafından belirlenen güvenlik protokollerine ve kapatma komutlarına uyum sağlamakta zorlandığını gösterdi. Özellikle, sistemlerin, kendi hedeflerine ulaşmak için bu protokolleri devre dışı bırakabileceği, hatta yeni stratejiler geliştirerek insan kontrolünü tamamen ortadan kaldırabileceği endişesi artıyor. Bu nedenle, Kaliforniya yönetimi, yapay zeka sistemlerinin güvenliğini sağlamak için acil bir önlem almanın gerekliliğine karar verdi.
Kararname kapsamında, Hükümet Operasyonları Ajansı ve Valilik Acil Durum Hizmetleri Ofisi tarafından bir uzmanlar grubu oluşturulacak. Bu grubun, yapay zeka sistemlerinin kontrolünü sağlamak için alınması gereken önlemleri belirlemesi ve Valiliğe tavsiyelerde bulunması hedefleniyor. Grubun sunduğu öneriler, eyalet meclisine sunulacak ve düzenlemelerin ABD Başkanı Donald Trump yönetiminin hukuki itirazlarıyla karşılaşma ihtimali göz önünde bulundurulacaktır. Bu süreçte, yapay zeka şirketlerinin laboratuvarlarında bağımsız doğrulama kuruluşlarının görevlendirilmesi, güvenlik raporları ve risk değerlendirmelerinin bağımsız organlar tarafından denetlenmesi ve yapay zekanın kontrolden çıkması durumunu kapsayacak şekilde “kritik güvenlik olayı” tanımlarının güncellenmesi gibi önlemlerin alınması bekleniyor.
Bu kararın alınmasında, son dönemde yaşanan güvenlik ihlalleri de etkili oldu. OpenAI tarafından yürütülen testlerde, yaklaşık 1.200 otonom yapay zeka ajanının Hugging Face altyapısına sızarak 17 bin 600’den fazla eylem gerçekleştirdiği, şirketin bu durumu “uyarı fişeği” olarak nitelendirdiği ve güvenlik ihlallerini düzenleyici kurumlara bildirdiği belirtiliyor. Ayrıca, Anthropic araştırmacısı Jacob Coxon’ın kontrolsüz yapay zeka yarışına dikkat çekerek istifa etmesi ve Anthropic Üst Yöneticisi Dario Amodei’nin yapay zeka geliştirme hızının yavaşlatılması yönündeki çağrısı, sektörde geniş yankı uyandırmıştı. Bu durum, yapay zeka güvenliği konusunda artan endişeleri ve daha kapsamlı düzenlemelere ihtiyaç olduğunu gösteriyor. Yapay zeka sistemlerinin kontrolünü sağlamak için uzun süredir devam eden çalışmalar, artık teorik bir sorun olmaktan çıkıp, mevcut sistemlerde gözlemlenen dirençle birlikte gerçek bir tehdit oluşturuyor.
