Yapay zeka alanında çığır açan OpenAI, yeni modeli Astra ile dikkatleri üzerine çekiyor. Ancak bu modelin kullandığı yeni akıl yürütme yöntemi, siber güvenlik uzmanları arasında büyük bir tartışma yaratıyor. Astra'nın, ‘recurrent depth’ olarak bilinen ve modelin içsel düşünce süreçlerini takip etmeyi zorlaştıran bir yaklaşım benimsediği iddia ediliyor. Bu durum, yapay zeka güvenliği alanında yeni bir risk oluştuğunu gösteriyor.
Bu karmaşık teknik, ‘opaque recurrence’ olarak da anılıyor. Modelin bilgilerini, kendi katmanları arasında döngüsel olarak dolaştırmasına olanak tanıyor. Bu sayede, model aynı problemi daha derinlemesine analiz edebiliyor, ancak bu durum, düşünce sürecinin doğal dil tabanlı ifadelerden uzaklaşmasına yol açıyor. Günümüzde, yapay zeka modellerinin karmaşık akıl yürütme süreçlerinde oluşturduğu ara düşünce adımları, araştırmacıların modelin potansiyel güvenlik açıklarını tespit etmesine yardımcı oluyor. Ancak ‘recurrent depth’ tekniği, bu izlenebilirliği ortadan kaldırarak, yapay zekanın davranışlarını denetlemeyi imkansız hale getirme riski taşıyor.
Redwood Research’ın baş bilim insanı Ryan Greenblatt, bu yaklaşımın yaygınlaşması durumunda, yapay zeka modellerinin akıl yürütmelerinin büyük bir bölümünün dışarıda gerçekleşebileceğini vurguluyor. Bu durum, güvenlik sistemlerinin modelin iç işleyişini anlamasını ve olası tehditleri tespit etmesini zorlaştıracaktır. Ayrıca, yapay zeka şirketleri arasındaki performans rekabeti, geliştiricileri daha az gözlemlenebilir mimarilere yönlendirebilir, bu da güvenlik risklerini artırabilir. Zvi Mowshowitz gibi uzmanlar, rekabetin bu türden riskleri tetikleyebileceğine dikkat çekerek, şirketlerin daha şeffaf ve izlenebilir sistemler geliştirmesi gerektiğini savunuyor.
OpenAI, bu endişelere karşı Astra’da ‘recurrent depth’ tekniğinin kullanımını sınırlamaya çalışıyor ve modelin düşünce zincirlerinin önemli bir bölümünün okunabilir kalmasını sağlıyor. Şirketin baş bilim insanı Jakub Pachocki, ilk akıl yürütme modellerinden bu yana chain-of-thought izleme yöntemlerini korumaya çalıştıklarını ve bu yaklaşımın mevcut araştırma programının temel hedeflerinden biri olduğunu belirtiyor. Ancak, bu durumun yapay zeka güvenliği alanında yeterli olmayıp olmayacağını zaman gösterecek.