İngiltere’de yapılan bağımsız bir değerlendirme, polis tarafından kullanılan ileri teknoloji olan yüz tanıma sistemlerinin, gerçek bir suçla ilgisi olmayan kişilerin yanlışlıkla tutuklanmasına yol açabileceğine dair önemli bulgular ortaya koydu. Bu durum, teknolojinin potansiyel tehlikelerinin ve mevcut yasal çerçevelerin yetersizliğinin acil bir şekilde ele alınması gerektiğini vurguluyor.
Denetim raporu, polisin yüz tanıma sistemlerinin sonuçlarını, somut delil olarak kabul ederek, genellikle yeterli bir inceleme yapılmadan doğrudan işlem yapma eğilimini ortaya koyuyor. Bu durum, sistemin hatalı sonuçlarını yasal bir gerekçe olarak görmesi ve bunun da masum bireylerin hapsine neden olması gibi ciddi sonuçlara yol açıyor. Rapor, bu tür hataların, özellikle etnik azınlık grupları üzerinde orantısız bir etki yaratabileceğine dikkat çekiyor.
Uzmanlar, sistemlerin algoritmik önyargılarla mücadele etmek için yeterince hassas olmadığını ve bu nedenle, belirli grupların yanlışlıkla şüpheli olarak işaretlenebileceğini vurguluyor. Bu önyargılar, sistemin doğruluğunu ciddi şekilde etkileyerek, adil yargılanma hakkını ihlal ediyor. Ayrıca, rapor, bu teknolojinin hızlı gelişimiyle birlikte, mevcut yasal düzenlemelerin bu hızlı değişime ayak uyduramamakta ve bu da, kamu güvenliğine yönelik önemli bir risk oluşturmaktadır.
