YAPAY ZEKA IRKÇI MI? 

YAPAY ZEKA SKANDALLARINA İKİ ÖRNEK

1. HOLLANDA'DA HÜKÜMET BİLE DÜŞÜRDÜ

2. İNGİLTERE'DE ÇOCUK SOSYA HİZMETLERİNDE AYRIM YAPTI

NEVİN BİLGİN 

Yapay zeka, kendi başına önyargılı ya da ırkçı bir varlık değildir. Ancak, onu eğiten verilerdeki önyargılar, sistemlerin ayrımcı sonuçlar üretmesine neden olabilir. Bu durum, yapay zeka teknolojilerinin geliştirilme sürecindeki en büyük etik sorunlardan biridir.

Son yıllarda yapay zeka sistemlerinin yanlış kullanımı, hem bireylerin hayatlarını hem de hükümetlerin itibarını sarsan skandallara yol açtı. Hollanda ve İngiltere’de yaşanan bu olaylar, algoritmaların ayrımcı sonuçlar doğurma riskini gözler önüne serdi.

Hollanda: Sosyal Yardım Krizi ve Hükümetin Çöküşü

Hollanda’da 2020 yılında yapay zeka tabanlı bir sistem, sosyal yardımları denetlemek için kullanılmaya başlandı. Ancak algoritmalar, özellikle göçmen kökenli aileleri hedef alarak çocuk yardımları ve vergi kaçakçılığı konusunda haksız suçlamalar yaptı. Binlerce aile yanlış değerlendirmeler sonucunda borç batağına sürüklendi ve evlerini kaybetti.

Skandalın ortaya çıkması, toplumda büyük bir tepki yarattı. 2021 yılında Başbakan Mark Rutte liderliğindeki hükümet, bu olayın sorumluluğunu üstlenerek istifa etmek zorunda kaldı. Olay, yapay zekanın sosyal sistemlerde kullanımının etik sınırlarını tartışmaya açtı.

İngiltere: Çocuk Sosyal Hizmetlerinde Yapay Zeka Denemesi

Benzer bir durum, İngiltere'de 2019 yılında What Works for Children's Social Care girişimi kapsamında yaşandı. Çocuk sosyal hizmetlerinde yapay zeka kullanılarak risk değerlendirmeleri yapılmaya başlandı. Ancak sistem, düşük gelirli ve göçmen aileleri daha fazla hedef alarak bazı çocukların haksız şekilde dezavantajlı konuma düşmesine neden oldu.

Tepkiler üzerine İngiltere hükümeti, sistemin geliştirilmesi ve denetlenmesi için sıkı düzenlemeler getirdi. Ancak olay, yapay zekanın hassas konularda kullanımına dair endişeleri artırdı.

Yapay Zeka ve Ayrımcılık Riski

Bu skandallar, algoritmaların tarafsız olmadığını ve kullanılan veri setlerinin toplumsal önyargıları yansıtabileceğini gösteriyor. Yapay zeka teknolojisinin dikkatli tasarlanması ve düzenli olarak denetlenmesi, bu tür krizlerin önüne geçmek için kritik öneme sahip. Hem Hollanda hem de İngiltere'deki olaylar, yapay zekanın potansiyel faydalarının yanı sıra taşıdığı tehlikeleri de gözler önüne seriyor.

Yapay zekanın sosyal hizmetlerde ve kamu politikalarında doğru kullanımı için daha şeffaf ve insan odaklı yaklaşımlar benimsenmesi gerekiyor.

Kaynak: 

https://haberglobal.com.tr/gundem/yapay-zekayi-irkci-yaptilar-hollandada-fisleme-skandali-

https://whatworks-csc.org.uk/?form=MG0AV3