Sağlık sektöründe yapay zekâ teknolojilerinin yükselişi, tedavi süreçlerini hızlandırıp, hastalık teşhislerini iyileştirme potansiyeli sunarken, beraberinde önemli bir soru işaretini de getirdi: Bu sistemlerin ürettiği sonuçlar, güvenilirliğin garantisi midir?
Biruni Üniversitesi Mühendislik ve Doğa Bilimleri Fakültesi Bilgisayar Mühendisliği Bölümü’nden Dr. Öğr. Üyesi Damla Övek Baydar, yapay zekânın yüksek doğruluk oranlarına rağmen, klinik açıdan anlamlı olmayan verilerle sonuçlara ulaşabileceği konusunda dikkat uyarıyor. Baydar, yapay zekâ modellerinin karar alma süreçlerinin anlaşılabilir ve denetlenebilir olmasının, hasta güvenliği açısından kritik bir öneme sahip olduğunu vurguluyor. Tıbbi görüntüleme, risk değerlendirmesi, genomik analizler ve klinik karar destek sistemleri gibi alanlarda yaygın olarak kullanılan bu teknolojiler, uzmanlara önemli katkılar sunarken, doğruluk oranının tek başına yeterli bir ölçüt olmadığına dikkat çekiyor.
Yapay zekâ sistemlerinin karmaşıklığı, ‘kara kutu’ olarak adlandırılan bir sorunu da beraberinde getiriyor. Derin öğrenme modelleri, karmaşık veri ilişkilerini analiz edebilse de, kararlarının hangi bilgilere dayandığını anlamak her zaman mümkün olmayabiliyor. Özellikle genetik araştırmalar, ilaç geliştirme ve hastalık incelemelerinde kullanılan bu modellerin karar süreçlerinin açıklanabilir olması, klinik uygulamalarda güvenilirliğin sağlanması için elzem. Bir modelin yüksek doğrulukla tahmin yapması, bu tahminin biyolojik veya klinik olarak anlamlı bir işarete dayanılarak yapılıp yapılmadığını bilmek, sonuca güvenmek için kritik bir faktördür.
