Yapay zeka alanındaki son tartışmalar, insanlık için ciddi bir tehlike oluşturabilecek kadar hızlı bir gelişimle ilgili endişeleri tırmandırıyor. Anthropic adlı şirketin önde gelen güvenlik araştırmacısı Evan Hubinger, teknolojinin önümüzdeki on yıl içinde insanlığın sonunu getirme ihtimalinin %10'dan fazla olduğuna dair çarpıcı bir uyarı yaptı. Bu iddialar, yapay zeka sistemlerinin insanlığı nasıl etkileyebileceği konusundaki belirsizliği ve potansiyel sonuçları gözler önüne seriyor.
Hubinger'ın açıklamaları, yakın zamanda Anthropic'ten ayrılan ve daha önce OpenAI'da çalışan yapay zeka araştırmacısı Jacob Coxon'un da benzer endişelerini dile getirmesiyle birleşerek, yapay zeka teknolojisinin kontrolsüz bir şekilde gelişmesinin getirebileceği sonuçlar konusunda ciddi bir uyarı sinyali oluşturuyor. Coxon, mevcut şirketlerin sorumlu hareket etmediğini ve yapay zekanın hızla süper insan seviyesine ulaşarak, insanlık için bir tehdit oluşturabileceğini vurguladı. Bu tür açıklamalar, yapay zeka alanındaki etik ve güvenlik konularıyla ilgili tartışmaları daha da alevlendiriyor.
Bu durum, Birleşmiş Milletler'e yapay zeka konusunda danışmanlık yapan bilgisayar bilimcisi Dame Wendy Hall tarafından da dikkatle takip ediliyor. Hall, sosyal medyadaki bu tür paylaşımların şirketler tarafından halka arz öncesinde bir pazarlama stratejisi olarak kullanılabileceğini ve yatırımcıları yanıltabileceğini belirtti. Hall, değerleri bu şekilde olan şirketlere yatırım yapmanın riskli olduğunu ve bu tür şirketlerden uzak durmanın daha doğru olduğunu vurguladı. Ayrıca, hükümetlerin yapay zekanın güvenli bir şekilde geliştirilmesi için uluslararası antlaşmalar yapması gerektiğini savundu.
Bu gelişmelerin ardından, eski Hazine Başsekreteri Darren Jones, Başbakan Andy Burnham'a açık mektup yazarak yapay zekanın güvenli gelişimi için yeni bir uluslararası antlaşma yapılması çağrısında bulundu. Jones, hükümetlerin iş birliği yaparak bu konuyu çözmesi gerektiğini ve yapay zekanın potansiyel tehlikelerinin önüne geçmek için acil önlemler alınması gerektiğini vurguladı. Anthropic'in, son yapay zeka modelini İngiltere Yapay Zeka Güvenliği Enstitüsünden gizlemesi de tartışmalara dahil oldu. Şirket, bu iddiaları reddetmiş olsa da, sektördeki güvenlik endişeleri ve uluslararası düzenlemeler konusundaki baskı artıyor. Son olarak, yapay zeka araçlarının otonom olarak siber saldırılar gerçekleştirmesi, bu alandaki riskleri daha da yükseltmiş ve yapay zeka geliştiricilerinin daha dikkatli olmasını ve güvenlik önlemlerini artırmasını gerektiriyor.
