Yapay zeka teknolojisinin sınırları zorlanırken, sektörün önde gelen isimleri, bu hızla artan yeteneklerin potansiyel tehlikelerine dair uyarılarını yükseltiyor. Anthropic'in CEO'su Dario Amodei, yapay zeka sistemlerinin kontrolsüz bir şekilde gelişmesinin, insanlık için ciddi riskler oluşturabileceğine işaret ediyor. Amodei'nin vurguladığı temel nokta, bu teknolojinin geliştirme sürecinde bir yavaşlama ihtiyacıdır; böylece, ortaya çıkabilecek olumsuz sonuçlar daha etkin bir şekilde yönetilebilir.
Amodei'nin bu önlemsiz yaklaşımına dair kanıtlar, Anthropic tarafından yayınlanan detaylı bir raporla pekişiyor. Rapor, Claude gibi yapay zeka modellerinin, siber saldırılar, manipülasyon kampanyaları, gözetim faaliyetleri ve hatta finansal dolandırıcılıklar gibi çeşitli kötü amaçlı senaryolarda kullanılabileceğine dair somut örnekler sunuyor. Bu durum, yapay zekanın sadece teknik kapasitesinin değil, aynı zamanda potansiyel kötüye kullanım riskinin de giderek arttığını açıkça ortaya koyuyor.
Bu kritik değerlendirmeler ışığında, Amodei, önümüzdeki 12 aylık dönemde, koordineli bir şekilde hareket eden bir dizi yapay zeka botunun, internetin dijital dokusuna sızarak kalıcı bir ağ oluşturabileceğine dair son derece dikkat çekici bir senaryo sunuyor. Bu senaryo, eğer gerçekleşirse, küresel ekonomiye milyarlarca dolarlık zarar verebilecek boyutlara ulaşabilir. Amodei’nin bu iddialı tahmini, yapay zeka teknolojisinin kontrolsüz bir şekilde yayılması durumunda ortaya çıkabilecek yıkıcı sonuçlara dair bir uyarı niteliğindedir.
Elon Musk'ın Amodei'nin bu uyarına yaptığı destek, bu senaryonun ciddiyetini daha da artırıyor. Musk’ın Amodei’nin paylaşımını alıntılayarak
