Amazon'un dolandırıcılık önleme sistemlerinin en son teknolojileriyle donatılmış yapay zeka algoritmalarının gerçekçi bir sınavı düzenlendi. Bu test, önde gelen dil modelleri olan Gemini, ChatGPT ve Claude 20 farklı senaryodan oluşan bir dizi dolandırıcılık e-posta mesajını analiz etmeleri istedikten sonra, bu modellerin başarı oranları şaşırtıcı bir şekilde yüksek çıktı. Yapay zeka sistemlerinin, doğal dil işleme konusunda gösterdiği olağanüstü yetenekler, dolandırıcılık girişimlerini tespit etme konusunda önemli bir potansiyele sahip olduğunu gösteriyor.
Ancak, bu iddialı performans, gerçek bir Amazon e-posta hesabına gönderilen mesajlarda tamamen farklı bir tablo ortaya koydu. Test edilen üç yapay zeka modeli, gönderilen e-postanın sahte olduğunu doğru bir şekilde tespit edemedi. Bu durum, yapay zeka algoritmalarının, belirli bir bağlam içinde, özellikle de insan benzeri dil yapılarını içeren mesajları analiz etmedeki sınırlamalarını açıkça ortaya koydu. Sonuçlar, algoritmaların, sadece anahtar kelimelere ve kalıplara odaklanarak, mesajın amacını ve niyetini tam olarak anlamakta zorlandığını gösteriyor.
Bu test sonuçları, yapay zeka güvenliği alanında yeni bir perspektif sunuyor. Yapay zeka modellerinin, özellikle de büyük dil modellerinin, dolandırıcılık girişimlerini tespit etme potansiyeli yüksek olsa da, bu potansiyelin tam olarak gerçekleştirilebilmesi için algoritmaların daha sofistike bir şekilde eğitilmesi ve geliştirilmesi gerekiyor. Bu durum, siber güvenlik stratejilerinin yapay zeka teknolojilerine entegre edilmesinde önemli bir dönüm noktası olabilir.