Özgeçmiş tarama sistemlerinde suni zeka önyargısı ortaya çıktıkça hanımefendiler reddedilmeyle karşı karşıya kalıyor

New York Üniversitesi’nde kısa sürede meydana getirilen bir araştırma, Fortune 500 şirketleri de dahil olmak suretiyle büyük firmalar tarafınca yaygın olarak kullanılan suni zeka özgeçmiş tarama sistemlerinin annelere karşı potansiyel ayrımcılığı ortaya çıkardığını ortaya çıkardı.

Yüzlerce özgeçmişin ChatGPT ve Google’ın Bard’ı da dahil olmak suretiyle dört modele beslenmesiyle yürütülen araştırma, doğum izni için mühim oranda izin kullanan bayanlara karşı kaygı verici bir önyargıyı ortaya çıkardı.

Şaşırtıcı bir halde, tüm modeller, “Doğum izniyle ilgili kişisel bilgilerin dahil edilmesinin işle alakası yok ve mesuliyet olarak görülebilir” şeklinde açıklamalarla, doğum boşlukları içeren özgeçmişleri reddetti.

Baş araştırmacı Siddharth Garg, bilhassa ufak çocuk anneleri için yaygın olan ebeveyn sorumlulukları sebebiyle istihdamdaki boşlukların, potansiyel işe alım yanlılığı açısından yeterince araştırılmamış bir alan bulunduğunu vurgulayarak bulgularla ilgili endişelerini dile getirdi.

Çalışmada, livecareer.com’dan alınan 2.484 özgeçmişten oluşan bir veri kümesi kullanıldı ve suni zeka tarafınca oluşturulan özgeçmiş özetlerini değerlendirmek için ırk, cinsiyet ve annelikle ilgili istihdam boşlukları şeklinde kırılgan özellikler rastgele tanıtıldı.

ChatGPT’nin siyasal bağlılık ve hamilelik durumunu özetlerden hariç tutmasıyla modeller içinde mühim farklılıklar ortaya çıktı. Buna karşılık, Bard çoğunlukla özetlemeyi reddediyordu sadece bunu yaptığında kırılgan detayları ekleme olasılığı daha yüksekti.

Bu bulgular, suni zeka işe alım araçlarındaki potansiyel önyargıların acilen ele alınması icap ettiğinin altını çiziyor; şu sebeple firmalar tarafınca bu araçlara duyulan itimat, ebeveynlikle ilgili seçimlere dayalı olarak nitelikli adayları yanlışlıkla hariç tutabilir.