Yapay zeka teknolojisinin son dönemdeki patlama hızı, beraberinde önemli güvenlik kaygıları getirmiş durumda. Anthropic gibi dev yapay zeka firmalarının kurucuları, bu endişeleri gidermek için alışılmadık bir öneride bulunuyor: Yapay zeka sistemlerinin tamamen devre dışı bırakılmasını sağlayacak, üçüncü bir taraf tarafından doğrulanabilen bir ‘kapatma düğmesi’nin şirketler için zorunlu hale getirilmesi. Bu durum, yapay zeka gelişiminin kontrol altında tutulması ve toplum üzerindeki potansiyel etkilerinin değerlendirilmesi konularında yeni bir tartışma başlatıyor.
Jack Clark, Anthropic’in yedi kurucusundan biri, bu gereksinimin, gelecekte toplumun yapay zeka kullanımı konusunda kurallar oluşturma ihtimali göz önünde bulundurulduğunda kaçınılmaz olduğunu savunuyor. Clark, birçok laboratuvarın sistemlerini kapatmak için farklı yöntemlere sahip olsa da, yasa koyucuların bu konuda aktif rol oynaması gerektiğine işaret ediyor. Yapay zekanın hızla gelişimi ve insanlık için oluşturduğu riskler, sektör temsilcileri tarafından artan bir şekilde dile getiriliyor, hatta bazıları teknolojinin insanlığı yok etme potansiyeline işaret ederek alarm zillerini çalıyor.
Bu durum, özellikle Anthropic’in OpenAI ile rekabeti ve son dönemde yapay zeka güvenliği tartışmalarındaki rolüyle daha da önem kazanıyor. Geçen hafta, Anthropic’ten ayrılan bir araştırmacının gönderdiği, yapay zekanın insanlığı ortadan kaldırabileceği endişesini dile getiren mesaj, viral hale gelmiş ve kamuoyunda büyük yankı uyandırmıştı. Aynı zamanda, Anthropic bilim insanı Evan Hubinger’in, önümüzdeki on yıl içinde yapay zekanın insanlığın sonunu getirme olasılığının yüksek olduğunu belirtmesi, bu tartışmalara daha da ağırlık katmış durumda. ‘Yapay zekanın babası’ olarak kabul edilen Geoffrey Hinton’ın, yapay zekanın internete bağlı sistemleri ele geçirip insanlığa karşı kullanabileceği yönündeki uyarıları da, bu endişeleri daha da derinleştiriyor.
Yapay zeka teknolojisinin kontrolü ve güvenliği konusundaki bu karmaşık tartışmalarda, farklı görüşler ve endişeler bir araya geliyor. Bazı sektör temsilcileri, yapay zeka yok olma riski hakkında konuşmanın, iklim değişikliği konusunda klimacıya sormaya benzetilerek abartılı olduğunu savunurken, diğerleri ise bu türden uyarıların kamuoyunu bilgilendirmek ve tartışma ortamını yaratmak için gerekli olduğunu düşünüyor. Kapatma düğmesi gereksinimlerinin doğrulanabilirliği ve üçüncü taraf tarafından denetlenmesi konusundaki tartışmalar, yapay zeka etiği ve güvenliği alanında önemli bir kilometre taşı olarak kabul ediliyor.
