Sağlık sektöründe yapay zeka (YZ) tabanlı hasta sınıflandırma sistemlerinin kullanımı her geçen gün yaygınlaşmaktadır. Avrupa Birliği Yapay Zeka Yasası (AI Act) gibi yasal düzenlemeler, sağlık gibi yüksek riskli alanlarda yapay zekanın otonom çalışamayacağını ve insan uzmanların bu sistemleri denetlemesi gerektiğini belirtmektedir. Ancak yapılan yeni bir bilimsel araştırma, tıp profesyonellerinin de yapay zekanın hatalarını tespit etmekte ve somut kanıtlara dayanarak bu hataları düzeltmekte ciddi şekilde zorlandığını ortaya koyuyor.
Doctors vs. Algorithms: Physicians, too, struggle to learn from evidence that contradicts AI suggestions
PLOS Digital Health dergisinde yayımlanan güncel bir araştırma, tıp doktorlarının yapay zeka algoritmaları tarafından sağlanan hatalı yönlendirmelere karşı ne kadar savunmasız olabileceğini gözler önüne serdi. Aranzazu Vinas, Fernando Blanco ve Helena Matute tarafından yürütülen çalışma kapsamında, profesyonel hekimlerin katıldığı iki farklı kontrollü deney gerçekleştirildi.
Deneylerde doktorlardan, yapay zeka tarafından tedaviye “yüksek hassasiyetli” veya “düşük hassasiyetli” olarak hatalı şekilde sınıflandırılmış kurgusal hastalara bir tedavi uygulayıp uygulamama kararı vermeleri istendi. Gerçekte ise yapay zekanın yaptığı bu sınıflandırma tamamen yanlıştı ve tüm hastalar tedaviye eşit derecede yanıt vermekteydi. Doktorlara, verdikleri kararların ardından hastaların iyileşip iyileşmediğine dair anlık geri bildirimler sunuldu; böylece yapay zekanın sınıflandırmasının hatalı olduğunu kendi gözlemleriyle anlama fırsatı tanındı.
Kanıtlara Rağmen Yapay Zekaya Güven Devam Etti
Araştırmanın birinci deneyinde, uygulanan ilacın her iki hasta grubu için de orta düzeyde ve eşit etkiye sahip olduğu bir senaryo test edildi. İkinci deneyde ise ilacın hiçbir hasta üzerinde hiçbir etkisinin bulunmadığı (sözde ilaç / plasebo modellemesi) bir senaryo kuruldu.
Elde edilen sonuçlara göre hekimler, her iki deneyde de büyük oranda yapay zekanın hatalı hasta sınıflandırmasına güvendi. Doktorlar, önlerindeki somut veriler yapay zekanın yanıldığını göstermesine rağmen, bu kanıtları öğrenmekte ve yapay zekanın önerisini devre dışı bırakmakta zorlandılar. Hatta ikinci deneyde, uygulanan tedavinin tamamen etkisiz olduğunu bile fark edemediler.
Otomasyon Eğilimi ve Bilişsel Yanılgılar
Araştırmacılar, uzmanların bu davranışı sergilemesinde birkaç temel psikolojik ve bilişsel sürecin rol oynadığını belirtiyor:
- Otomasyon Eğilimi (Automation Bias): Bireylerin yapay zeka göstergelerine ve kararlarına sorgulamadan inanma varsayımı.
- Onaylama Ön yargısı (Confirmation Bias): Doktorların ilacı daha çok işe yaraması beklenen (“yüksek hassasiyetli”) hastalarda kullanma eğilimi göstermesi ve bu durumun gözlemledikleri verileri kendi içinde manipüle etmesi.
- Nedensellik İllüzyonu: Sık yapılan tedaviler ile tesadüfi iyileşmeler bir araya geldiğinde, tedavinin gerçekte var olmayan bir etkiye sahip olduğunun düşünülmesi.
Çalışmanın dikkat çeken bir diğer bulgusu ise doktorların genel yapay zeka algıları veya sistemin güvenilirliğine dair kişisel görüşleri ne olursa olsun, bu hatalı yönlendirmeye neredeyse eşit oranda kapılmış olmalarıdır. Uzmanlar, tıpkı uzman olmayan kişiler gibi bilişsel yanılgılara düşebilmekte ve algoritmaların hatalarını denetleme konusunda yetersiz kalabilmektedir. Araştırma, sağlık profesyonellerinin hasta sınıflandırma sistemlerini kritik bir gözle değerlendirmesi ve yapay zeka okuryazarlığının artırılması gerektiğinin altını çiziyor.
