Bazıları yeni̇ araştirmalar ilginç bir olgunun altını çizmiştir: yapay zeka modellerinde mevcut olan önyargılar ile insan düşüncesindeki önyargılar arasında 'iki yönlü' bir ilişki vardır.

‍

Bu etkileşim, aşağıdakilere eğilimli bir mekanizma yaratır bilişsel çarpıtmaları her iki yönde de güçlendirir.

‍

Bu araştırma, yapay zeka sistemlerinin yalnızca eğitim verilerinden insan önyargılarını miras almakla kalmadığını, aynı zamanda uygulandığında bunları yoğunlaştırabileceğini ve böylece insanların karar verme süreçlerini etkileyebileceğini göstermektedir. Bu durum, doğru yönetilmediği takdirde başlangıçtaki önyargıları giderek artırma riski taşıyan bir döngü yaratmaktadır.

‍

Bu olgu özellikle aşağıdaki gibi önemli sektörlerde belirgindir:

• Sağlık hizmetleri ve tıbbi teşhis
• Personel seçim süreçleri
• Yüz tanıma sistemleri ve risk analizi

Bu alanlarda, başlangıçtaki küçük önyargılar, insan operatörler ve otomatik sistemler arasında tekrarlanan etkileşimler yoluyla artabilir ve giderek sonuçlarda önemli̇ farkliliklar.

‍

Önyargının kökenleri

İnsan düşüncesinde

İnsan zihni doğal olarak, yargılarımıza sistematik hatalar getirebilecek 'düşünme kısayolları' kullanır. Teorisi"çi̇fte düşünme"arasında ayrım yapar:

• Hızlı ve sezgisel düşünme (stereotiplere yatkın)
• Yavaş ve yansıtıcı düşünme (önyargıları düzeltebilme)

Örneğin, tıp alanında, doktorlar ilk hipotezlere çok fazla ağırlık verme eğilimindedir ve karşıt kanıtları ihmal ederler. 'Doğrulama önyargısı' olarak adlandırılan bu olgu, geçmiş teşhis verileri üzerinde eğitilen yapay zeka sistemleri tarafından çoğaltılır ve güçlendirilir.

‍

Yapay zeka modellerinde

Makine öğrenimi modelleri önyargıları temel olarak üç kanaldan sürdürür:

1. Tarihsel eşitsizlikleri yansıtan dengesiz eğitim verileri
2. Korunan nitelikleri (cinsiyet veya etnik köken gibi) içeren özelliklerin seçimi
3. Zaten çarpıtılmış insan kararları ile etkileşimlerden kaynaklanan geri bildirim döngüleri

Bir 2024 UCL çalışması insanlar tarafından yapılan duygusal yargılar üzerine eğitilen yüz tanıma sistemlerinin, yüzleri 'üzgün' olarak etiketleme eğiliminin yüzde 4,7 olduğunu ve daha sonra kullanıcılarla sonraki etkileşimlerde bu eğilimi yüzde 11,3'e yükselttiğini gösterdi.

‍

Birbirlerini nasıl güçlendiriyorlar

İşe alım platformlarının veri analizi, her bir insan-algoritma işbirliği döngüsünün, karşılıklı olarak güçlendirici geri bildirim mekanizmaları yoluyla cinsiyet önyargısını %8-14 oranında artırdığını göstermektedir.

İK uzmanları yapay zekadan halihazırda tarihsel önyargılardan etkilenmiş aday listeleri aldıklarında, sonraki etkileşimleri (mülakat sorularının seçimi veya performans değerlendirmeleri gibi) modelin çarpıtılmış temsillerini güçlendirir.

2025 yılında 47 çalışma üzerinde yapılan bir meta-analiz, üç tur insan-IA işbirliğinin sağlık hizmetleri, kredi verme ve eğitim gibi alanlarda demografik eşitsizlikleri 1,7-2,3 kat artırdığını ortaya koymuştur.

‍

Önyargıyı ölçme ve azaltma stratejileri

Makine öğrenimi yoluyla nicelik belirleme

Dong ve diğerleri (2024) tarafından önerilen önyargıları ölçme çerçevesi, korunan gruplar arasındaki karar verme modellerindeki tutarsızlıkları analiz ederek 'mutlak doğru' etiketlerine ihtiyaç duymadan önyargıların tespit edilmesini sağlar.

‍

Bilişsel müdahaleler

UCL araştırmacıları tarafından geliştirilen 'algoritmik ayna' tekniği, yöneticilere geçmişte yaptıkları seçimlerin bir yapay zeka sistemi tarafından yapılmış olması halinde nasıl görüneceğini göstererek terfi kararlarındaki cinsiyet önyargısını %41 oranında azalttı.

UA yardımı ve otonom karar verme arasında geçiş yapan eğitim protokolleri, klinik tanı çalışmalarında önyargı aktarımının etkilerini %17'den %6'ya düşürerek özellikle umut verici olduğunu kanıtlamıştır.

‍

Toplum için çıkarımlar

İnsan önyargıları ile etkileşimleri dikkate almadan yapay zeka sistemlerini uygulayan kuruluşlar, artan yasal ve operasyonel risklerle karşı karşıya kalmaktadır.

İstihdam ayrımcılığı davaları üzerine yapılan bir analiz, algoritmik kararların izleri eşitsiz etkiye dair daha net kanıtlar sunduğundan, yapay zeka destekli işe alım süreçlerinin davacıların başarı oranlarını geleneksel insan odaklı davalara kıyasla yüzde 28 artırdığını gösteriyor.

‍

Özgürlüğe ve verimliliğe saygı duyan bir yapay zekaya doğru

Algoritmik çarpıklıklar ile seçme özgürlüğünün kısıtlanması arasındaki ilişki, teknolojik gelişmeyi bireysel sorumluluk ve piyasa verimliliğinin korunması perspektifinden yeniden düşünmemizi gerektirmektedir. Yapay zekanın fırsatları kısıtlamak için değil, fırsatları genişletmek için bir araç haline gelmesini sağlamak çok önemlidir.

Umut verici yönler şunlardır:

• Tarafsız algoritmaların geliştirilmesini teşvik eden piyasa çözümleri
• Otomatik karar alma süreçlerinde daha fazla şeffaflık
• Farklı teknolojik çözümler arasındaki rekabeti destekleyen deregülasyon

Teknolojik inovasyonun, becerilerini test etmek isteyen herkes için bir refah ve fırsat motoru olmaya devam etmesini ancak sektörün sorumlu bir şekilde kendi kendini düzenlemesi ve kullanıcılar için seçim özgürlüğü ile sağlayabiliriz.

‍