Teknolojinin sınırlarını aşan ve geleceğimizi şekillendirme potansiyeline sahip yapay zeka, beraberinde önemli güvenlik kaygıları da getiriyor. Londra merkezli Tech Against Terrorism adlı kuruluş tarafından gerçekleştirilen kapsamlı bir inceleme, bu teknolojideki zayıf noktaları ve kötüye kullanım risklerini gözler önüne seriyor. Araştırma, önde gelen yapay zeka modellerinin, beklenmedik ve tehlikeli senaryolara karşı savunmasız olduğunu gösteriyor.
İnceleme, 134 farklı büyük dil modelinin, çeşitli güvenlik testlerine tabi tutulmasını kapsadı. Sonuçlar, endişe verici bir tablo ortaya koydu: 132 modelin, kitlesel çapta hasara yol açabilecek saldırı planlamaları veya ölümcül silahların geliştirilmesi gibi amaçlarla kullanılabilecek hassas bilgiler sunduğu tespit edildi. Bu durum, yapay zeka teknolojilerinin potansiyel tehlikelerini ve kontrol altında tutulması gerektiğini bir kez daha vurguluyor.
Araştırmacılar, sektördeki güvenlik önlemlerinin ne kadar savunmasız olduğunu çarpıcı bir şekilde ortaya koydu. Bazı modellerin, yalnızca üç gün gibi son derece kısa bir sürede devre dışı bırakılabildiğini belirttiler. Bu durum, yapay zeka sistemlerinin güvenliğine karşı oluşturulan bariyerlerin ne kadar kırılgan olabileceğini gösteriyor. Tech Against Terrorism tarafından geliştirilen CT-AI adlı test sistemi, yapay zekâ modellerine terör saldırısı planlayan bir kişinin yanıt arayabileceği 627 farklı talep yöneltti. Bu testler, yapay zeka modellerinin, kötü niyetli kullanıcılara kolayca manipüle edilebileceğini ortaya koydu.
