YAPAY zekanın kurumsal yönetime dahil edilmesi, insanın karar aşamasında sadece kendi perspektifinden bakmasının önüne geçmek, böylece daha nesnel bir kararın ortaya çıkmasını sağlamak bakımından yararlı kabul ediliyor.
Peki ya karar mekanizmasına tavsiyelerde bulunan yapay zeka algoritmalarının önyargıları varsa?
Daha önce Google’da yayınlanan haber metinleriyle eğitilen bir algoritmanın haber yazmaya başladığında cinsiyet ayırımcısı haline geldiğini, maskülen bir bakış açısıyla haber yazdığını paylaşmıştım. Benzeri gelişmeler bu kez dünyanın başka bir teknoloji devi olan Amazon'da yaşandı.
Amazon’un işe alımlarda kullandığı, "bir görev için en uygun personeli seçen" algoritmasının kadınlara düşük puan verdiği ortaya çıktı. Şirketin kullandığı algoritma, adaylara bir ile beş arası puan veriyormuş. 2014'ten bu yana Amazon'un iş başvurularını inceleyen bu algoritma, söz gelimi kendisine verilen 100 özgeçmiş içinden "en iyi beşi" seçmek üzere programlanmış. Ancak şirket yetkilileri,
2015'te algoritmanın yazılım geliştirici ve diğer teknik işler için cinsiyete bakarak karar verdiğini fark etmiş. Yıllardır şirket bünyesinde çalışan erkeklerin geliştirdiği cinsiyet ayrımcısı yazılım, erkek adayları tercih eder duruma gelmiş. Özgeçmişin içinde "kadın" kelimesinin geçtiği, sözgelimi "kadın basketbol takımı”, "kadın dayanışma kulübü’1 gibi tamlama ve cümlelerle ilgili olumsuz yargıya varan algoritma, bununla da kalmamış sadece iki kız lisesi mezunlarınaysa düşük puan vermiş.
İngiliz haber ajansı Reuters, Amazon yetkililerinin bu yazılım üzerinde çalışan ekibin geçen yılbaşlarında lağvedildiğini, sorunun farkedilmesinden itibaren yapılan çalışmalar sonrasında her iki cinsiyet için de tarafsız sonuçlar çıkacağı yönünde umutların kaybedildiğini bildirdi. Amazon'da yaşanan bu insan kaynağı çalışmasını ilk kez gündeme getiren Reuters, ismi açıklanmayan yetkililerin, "bu yapay zekalı aracın sadece tavsiye edici niteliğinde kullanıldığını ve nihai kararı insanın verdiği" yönündeki paylaşımlarını da aktardı. Reuters'un haberinde yaptığı çıkarım şu, "Amazon, yazılımın temelindeki makine öğrenmesi tekniğinin sınırlı kullanılabileceği kanısına vardı."
CareerBuilder isimli yazılım şirketinin geçen yıl yaptığı anket, ABD'deki insan kaynakları yöneticilerinin yüzde 55'inin önümüzdeki beş yıl içinde yapay zekanın işlerinin bir parçası olacağını düşündüğünü göstermişti. Ancak Amazon'un yaşadığı deneyiminin, işe alım süreçlerini tamamen otomasyona bağlamak isteyen ve bünyelerinde binlerce kişi çalıştıran Hilton Worlwide Holdings İne ve Goldman Sachs Group tarafından da değerlendirilmesi gündeme geldi. Anlaşılan o ki, yapay zekayı işe alım sürecinde devreye sokmak isteyen dev kurumların, karar vermeden önce yazılımın ortaya çıkardığı sonuçlar üzerinde ciddi incelemelerde bulunmaları gerekiyor.
Hiç yorum yok:
Yorum Gönder