İngiltere'de yapay zeka teknolojisinin iş dünyasına entegrasyonu, insan hakları ve eşitlik konularında yeni tartışmaları beraberinde getiriyor. Özellikle işe alım süreçlerinde kullanılan otomatik sistemlerin, etnik çeşitliliği koruma yerine aksine, belirli grupları dezavantajlı duruma düşürdüğü iddiaları artıyor. Bu durum, İngiltere Parlamentosu'nda ve insan hakları savunucuları arasında önemli bir endişe kaynağı oluşturuyor.
İnsan Hakları Ortak Komitesi (JCHR), yapay zekanın hızla geliştiği bu dönemde, mevcut yasal düzenlemelerin bu teknolojinin potansiyel risklerini yeterince kapsamadığını belirterek, “yeni yapay zeka yasası” çıkarılması çağrısında bulundu. Komite, bu yasanın, yapay zeka sistemlerinin insan haklarına saygılı bir şekilde geliştirilmesini ve kullanılması için gerekli çerçeveyi sağlayacağını savundu. Komitenin raporu, yapay zeka sistemlerinin önyargılı algoritmalarla donatılmış olabileceği ve bu durumun, işe alım kararlarında ayrımcılığa yol açabileceği konusunda uyarı niteliğindedir.
Son yapılan bir araştırmada, İngiltere’de iş arayan 2 bin kişinin katılımıyla, otomatik işe alım yazılımlarının adaylarla iş arasında giderek daha belirleyici hale geldiği ortaya çıktı. Araştırmaya göre, son iki yılda iş başvurusunda reddedilen adayların %74’ü, en az bir ret kararının otomatik sistem tarafından verildiğinden şüpheleniyor. Bu durum, adayların işverenlerin başvurularını değerlendirmek için otomatik sistem kullandığına dair endişelerini artırıyor. Ayrıca, adayların başvurularının bir insan tarafından görülmeden reddedildiği, bazı ret yanıtlarının ise başvuru süresi dolmadan veya başvurudan dakikalar sonra gönderildiği tespit edildi.
Araştırma, otomatik eleme sistemlerinin özellikle etnik azınlık mensubu adaylar üzerinde daha ağır hissedildiğini gösteriyor. Bu adayların, beyaz adaylara kıyasla yaklaşık üçte bir oranında daha fazla işe başvurduğu, ancak bir saat içinde ret yanıtı alma oranlarının daha yüksek olduğu kaydedildi. Bu durum, yapay zeka sistemlerinin, etnik çeşitliliği artırmak yerine, belirli grupları daha fazla dezavantajlı duruma düşürdüğüne işaret ediyor. Adayların öz geçmişlerinden doğum ülkesi, dini veya kültürel kimliğe işaret eden bilgileri kaldırma eğilimi, bu eşitsizliğin bir göstergesi olarak değerlendiriliyor.
