Yapay zeka alanındaki güvenlik kaygıları, artık dışarıdan gelen bir eleştiriyle değil, sektörün en önde gelen oyuncularından birinin içinden yükselen bir ayrılıkla yeniden alevlendi. Bu ayrılık, yapay zeka teknolojilerinin gelişim hızının, güvenlik önlemlerini göz ardı etmeye yol açtığına dair önemli bir uyarıyı da beraberinde getirdi.
27 yaşındaki araştırmacı Jacob Coxon, OpenAI’de GPT-4o’nun geliştirilmesine katkıda bulunmuş, ardından Anthropic’e katıldı. Ancak, 8 Eylül’de yaptığı istifa, Coxon’ın sadece bir şirketin politikasına karşı duyduğu rahatsızlığı değil, sektörün genelindeki rekabet ortamının güvenlik üzerindeki etkisini de ifade ediyor. Coxon’un üç yıl boyunca büyük dil modellerinin ön eğitim çalışmalarında görev yapması, yapay zeka dünyasındaki bu rekabetin ne kadar yoğun olduğunu anlamasına yardımcı oldu.
Coxon, OpenAI ve Anthropic gibi laboratuvarların, rakiplerinin önünde kalmak amacıyla modellerinin kapasitelerini sürekli olarak artırma zorunluluk içine girdiğini belirtiyor. Bu durum, güvenlik açısından kritik olan kararların, rekabet baskısı altında daha az dikkate alınmasına neden oluyor. Coxon’ın kullandığı çarpıcı ifadeye göre, şirketler “hayatımızla kumar oynuyor,” bu da yapay zeka sistemlerinin kontrolünü kaybedebileceği endişesini artırıyor.
Coxon’ın uyarılarının odak noktası, 2027’nin sonuna doğru yaşanabilecek potansiyel bir risk penceresi. Bu tarih, yapay zekânın kesin olarak kontrolden çıkacağı anlamına gelmese de, teknolojik ilerlemenin hızla devam ettiği varsayıldığında bu eşiğin aşılma ihtimali ciddi bir endişe kaynağı oluşturuyor. Özellikle, sadece sorulara yanıt veren modellerden, kendi araştırmalarını yapabilen ve yeni teknolojiler geliştirebilen sistemlere geçiş, yapay zeka alanında devrim niteliğinde bir değişim anlamına geliyor. Bu durumda, insan araştırmacıların yetenekleri değerlendirmesi, güvenlik açıklarını bulması ve gerektiğinde müdahale etmesi giderek zorlaşabilir. Laboratuvarların milyarlarca dolarlık hesaplama altyapıları kurmasının temel amacı, yalnızca daha iyi sohbet robotları geliştirmek değil, aynı zamanda insan benzeri yeteneklere sahip yapay zeka sistemleri yaratmak ve bu sistemlerin hızla gelişmesini sağlamaktır. Coxon’a göre, bu yeteneklerin geliştirilmesi kadar, bu yeteneklerin geliştirilme hızının da güvenlik kapasitesinden daha hızlı ilerleme potansiyeli, en büyük risk oluşturuyor.”}p>”p>”p>”p>”
