Alman hükümetinin Ayrımcılıkla Mücadele Bağımsız Temsilcisi Ferda Ataman, YZ'nin ayrımcılığa olası katkılarıyla ilgili hazırlattığı bilirkişi raporunun sonuçlarını Berlin'de açıkladı. Raporun sonucunu "Yapay zeka pek çok şeyi kolaylaştırıyor, maalesef ayrımcılığı da" diye özetleyen Ataman, kendi kendine öğrenme özelliğine sahip algoritmik karar alma sistemleri (ADM) yoluyla ortaya çıkabilecek olası dezavantajlara karşı insanları korumayı hedeflediklerini belirtti.
İngilizce kısaltması ADM (algorithmic decision making systems) olan algoritmik karar alma sistemleri, verilere dayalı hesaplama yaparak karar veren makine ya da yazılımlar. Ferda Ataman, ADM'lerin tipik kullanım alanları arasında bankacılık, işe alımlar, sigortacılık ve devletin sosyal yardım ödeneklerini sayıyor. Yani ADM'lerin kullanıldığı sistemlerde bankadan krediyi kimin alacağına, sosyal yardım için yeterlilik bulunup bulunmadığına, kimin işe alınıp kimin alınmayacağına algoritmalar karar veriyor.
Algoritma eliyle önyargı ve kalıplar
Teknolojinin yanlış kullanımının nelere yol açabileceğinin örneği, 2019'da Hollanda'da yaşandı. 20 binden fazla kişiden, devletten aldıkları çocuk yardımı paralarını geri ödemeleri istendi, aksi takdirde yüksek para cezaları ödeyecekleri bildirildi. Bu ihtardan etkilenen kişiler arasında çifte vatandaşlar öne çıkıyordu ve olayda yazılımdaki ayrımcı bir algoritmanın rol oynadığı ortaya çıktı.
ABD'de yanlış programlanmış algoritmalar nedeniyle Apple kredi kartı sahipleri arasında kadınlar, kredi başvurularında sistematik olarak dezavantajlı konuma düşmüştü. Avustralya'da da yine yapay zeka destekli sistemdeki hata nedeniyle yüz binlerce kişiden, hakları olan sosyal yardımı geri ödemeleri istenmişti.
"Kara kutu"
Hukukçu Indra Spiecker ve Emanuel V. Towfigh'in hazırladığı bilirkişi raporunda YZ tabanlı sistemlerin karakteri "kara kutu" olarak nitelendiriliyor ve algoritmanın aldığı kararlardan etkilenenlerin, karşılaştıkları dezavantajın nereden kaynaklandığını sorgulamasının fiilen imkânsız olduğu kaydediliyor. Raporda, ayrımcılık potansiyelinin sistemin içinde halihazırda var olan, önemsiz gibi görünen, hatalı, gerçek amaca hizmet etmeyen ya da çarpıtılmış bir veriden kaynaklanabildiğine işaret edilerek posta kodu örneği veriliyor. Veri olarak ayrımcı özelliği olmayan bir posta kodu, belirli bir semtte göçmen kökenliler yoğun olarak yaşıyorsa, kökene dayalı ayrımcılığa zemin hazırlayabiliyor.
Örneğin belirli bir semtte yaşayan kişiler, bankaya yaptıkları kredi başvurusunda genellenerek mali açıdan riskli olarak sınıflandırılabiliyor ve başvuruya ret yanıtı alıyor. Uzmanlar bu olguyu "istatistik yoluyla ayrımcılık" diye nitelendiriyor. Bu ayrımcılık şeklinde bir gruba yönelik gerçek ya da varsayılan ortalama istatistik değerler yoluyla o gruba belirli özellikler atfediliyor.
"Dijitalleşme kâbusa dönüşmemeli"
Dijitalleşmenin geleceğin bir parçası olduğunu belirten Ataman, "Ancak kâbusa dönüşmemeli. İnsanlar, YZ tarafından ayrımcılığa maruz bırakılmayacaklarına ve bu tür bir durum yaşandığında karşı çıkabileceklerine güvenebilmeli. Bu nedenle net ve makul kurallara ihtiyacımız var" dedi.
