OpenAI, yapay zeka sistemlerinin güvenli ve etik bir şekilde gelişmesini sağlamak amacıyla kapsamlı bir strateji geliştirmeye hazırlanıyor. Bu stratejinin merkezinde, yapay zeka modellerinin potansiyel zayıflıklarını ve risklerini tespit etmek amacıyla bağımsız uzman kuruluşlarla işbirliği yapılması yer alıyor. Şirket, bu amaçla Apollo Research, Goodfire, METR ve Transluce gibi önde gelen araştırma gruplarıyla stratejik ortaklıklar kurdu. Bu işbirlikleri sayesinde, bu kuruluşların deneyimli araştırmacıları, OpenAI’ın henüz yayınlanmamış yapay zeka modellerine, eğitim süreçlerine ve güvenlik protokollerine erişim sağlayarak, geleceğin yapay zeka tehditlerine karşı önleyici adımlar atmayı hedefliyor.
Bu yenilikçi yaklaşım, “embedded assessments” adını taşıyan bir programın temelini oluşturuyor. Bu program sayesinde, bağımsız araştırmacılar, yapay zeka modellerinin gelişim aşamalarını ve kaynak kodlarını detaylı bir şekilde inceleyebilecekler. Ayrıca, eğitim verilerini, izleme sistemlerini ve teknik dokümanları analiz ederek, potansiyel güvenlik açıklarını tespit etme imkanı bulacaklar. Bu süreçte, OpenAI’ın mühendisleri ve araştırmacılarıyla doğrudan iletişim kurarak, bilgi alışverişinde bulunacaklar. Bu etkileşimli yaklaşım, şirketin kendi güvenlik testlerinin gözden kaçırabileceği riskleri de ortaya çıkarmayı amaçlıyor.
Programın en dikkat çekici yönlerinden biri, Apollo Research ile gerçekleştirilecek çalışma. Apollo Research, yapay zeka modellerinin geliştiricilerinin niyetlerini, gizlice tersine müdahale ederek, OpenAI’ın güvenlik sistemlerini test edecek. Bu kapsamda, eğitim sürecinin modelleri güvenlik önlemlerini aşmaya teşvik edip etmediği, güvenlik testlerinin bu tür girişimleri ortaya çıkarıp çıkaramadığı, modellerin kullanım sırasında bu yönde davranışlar sergileyip sergilemediği ve bu davranışların ardındaki zihinsel süreçlerin tespit edilebilip edilemeyeceği incelenecek. Özellikle “AI subversion” olarak adlandırılan, bir yapay zeka modelinin kendi kontrol mekanizmalarını zayıflatmaya çalışması riskine odaklanılıyor. Bu risk, yapay zeka modellerinin daha otonom hale gelmesi ve insanları yanıltma yeteneklerinin gelişmesiyle birlikte giderek artıyor.
Programın diğer önemli unsurları arasında, Goodfire’ın eğitim süreçlerini analiz ederek hatalı davranışları tespit etmesi ve model hizalamasını geliştirmesi, METR’in şirketin en büyük pekiştirmeli öğrenme eğitimlerinden uyumsuz davranışları araştırması ve Transluce’ün güvenlik değerlendirmelerinin kalitesini ve kapsamını incelemesi yer alıyor. Bu farklı odak noktaları, yapay zeka güvenliğinin her yönünü kapsayan kapsamlı bir değerlendirme süreci sunuyor. Ancak, bu işbirliğinin bağımsızlığının sorgulanması da bazı tartışmalara yol açıyor. Apollo Research, tam bağımsız bir değerlendirme için araştırmacıların çalışanlara benzer düzeyde erişime sahip olması gerektiğini savunurken, OpenAI ilk pilot çalışmalarında erişimi önceden belirlenmiş modellere, dönemlere ve araştırma konularına sınırlıyor. Bu durum, programın gerçek bağımsızlığını etkileyip etkilemediği konusunda soru işaretleri yaratıyor. Şirket, hassas verilerin korunması ve ticari sırlar üzerindeki etkileri nedeniyle, bazı bilgilere erişimi kısıtlayabiliyor. Ancak, Apollo Research bu durumu, daha kapsamlı bağımsız değerlendirmelere doğru önemli bir ilk adım olarak değerlendiriyor.”}p>