Yapay zeka laboratuvarlarında güvenlik protokolleri yeniden gündeme geldi. Anthropic adlı şirketteki Uyum Bilimi Sorumlusu Evan Hubinger, sosyal medya aracılığıyla yaptığı açıklamada, meslektaşlarının ve kendisinin, yapay zekanın insanlığı ortadan kaldırabilecek bir potansiyele sahip olduğuna dair derin bir inanca sahip olduğunu dile getirdi. Bu durum, teknolojinin ilerlemesiyle birlikte ortaya çıkan etik ve güvenlik sorularını daha da belirgin hale getirdi.
Hubinger, bu konudaki kişisel öngörüsünü de paylaştı. Önümüzdeki on yıllık süre içerisinde bu riskin %10’un üzerinde gerçekleşme olasılığının yüksek olduğuna dair bir tahmin sundu. Şirketin, “süper zekâ hizalama” sorununa henüz net bir çözüm bulamadığını ve bu konuda belirsizliklerin devam ettiğini kabul etti. Mevcut yapay zeka sistemlerinin risk düzeyinin düşük olduğuna inanırken, kendi kendini geliştiren (recursive self-improvement) süper zekânın beklenilen hızda ortaya çıkabileceği konusundaki endişelerini dile getirdi.
Bu açıklamalar, kısa süre öncesine kadar Anthropic’te görev yapmış olan araştırmacı Jacob Coxon’un istifasıyla örtüşmüştü. Coxon, hem OpenAI hem de Anthropic’te ön eğitim çalışmaları yapmıştı. Şirketlerin, “kendini geliştiren süper zekâ”ya yönelik bir yarışa girdiğini ve bu durumun insanlık için ciddi bir kumar oluşturduğunu savundu. Coxon, yapay zeka geliştiricilerinin, bu teknolojinin potansiyel sonuçlarını tam olarak değerlendirmeden ilerleme kaydettiklerini, hatta bu durumun sadece bir pazarlama stratejisi olmadığını iddia etti.
Coxon’un öngörüsü, önümüzdeki yılın sonuna kadar kontrolün kaybedilebileceği en agresif senaryoların gerçekleşebileceğine işaret ediyordu. Anthropic’te risklerin farkında olunmasına rağmen, şirketin “sorumlu davranmayan diğer şirketlere karşı rekabet etmeliyiz” şeklinde bir yaklaşımla hareket ettiğini eleştirerek, yapay zeka alanındaki güvenlik ve hizalama tartışmalarının giderek daha fazla önem kazandığını vurguladı. Bu gelişmeler, yapay zeka teknolojilerinin geliştirilmesi sürecinde, güvenlik önlemlerinin ve etik ilkelerin göz ardı edilmemesi gerektiğini gösteriyor.
