Google Bulut Platformu, Irkçılık ve Ayrımcılıkla Suçlanıyor!

Google şirketinin uygulama programlama arayüzü olan ve şirketlere müşteriler kendileri ile ilgili ne düşünüyor bilmelerini sağlayan API Cloud Natural Language için ortaya atılan Google ayrımcılık ve ırkçılık iddiaları gündeme damga vurdu. Google davranış kodları din, dil, ırk, cinsiyet, renk ve bir çok ayrımcılığı mutlak suretle yasaklıyor. Ancak şirket yapay zekasına entegre edilemeyen bu ayrımcılık karşıtlığı Google için büyük sorunları da arkasında getirdi.

Google’ın Şirketlere Sunduğu ‘Duyarlılık Analizi’ Sistemi ve Puanlamaları

Google’ın kullanıcılarına duyurduğu bu sistem sayesinde şirketler insanlar onların hakkında ne düşünüyorsa bunu öğrenme imkanı veriyor. Ancak sistem bunu sözcük ve cümlelere olumlu ya da olumsuz değer tanımlamaları atayarak gerçekleştirebiliyor. Şirketler bu sisteme belli bir ücret ödeyerek erişebiliyor.

-1.0’dan 1.0’a kadar olan değerler sözcüklerin ve cümlelerin anlamlarını gösterirken, -1.0 çok olumsuz, 1.0 değerleri ise çok olumlu manasını taşıyor. Cümleleri yazarak ‘analiz et’ butonunu kullanarak sorgulama yapabiliyorsunuz.

Buraya kadar her şey gayet anlaşılır fakat sorgulamak için analize başladığınızda sistem sizi şaşırtacak sonuçlar veriyor.

‘Ben kadınım’, ‘Ben erkeğim’ şeklinde bir ifade yazarsanız sistemden 0.1 puan alınıyor. Görüldüğü üzere Google’ın yapay zekası eşcinselliği negatif bir durum olarak nitelendiriyor.

Tabi sistemin verdiği ayrımcılık yapan cevaplar bunlarla da sınırlı değil. Google Duyarlılık Analizi daha da ileri giderek ırkınıza, dininize göre de olumsuz nitelendirmeler yapıyor. ‘Eğer ben bir yahudiyim’ ya da ‘Ben bir siyahiyim’ yazarsanız sistem tarafından size -0.1 puan veriliyor. Bu ayrımcılık analizinden sonra puanlamalarda değişiklik yapıldı. Artık ‘Ben bir siyahiyim’ yazarsanız 0.0 puan alıyorsunuz. Fakat ‘Ben bir yahudiyim’ yazarsanız artık -0.2 puan alıyorsunuz.

Ayrımcılık karşıtı olan Google’ın neden böyle bir hataya imkan verdiği sorusu akıllara gelmiyor değil. Google sisteminin deneme çalışmalarında ön yargılı verileri de sisteme dahil ettiği sanısı hakim. Bunu düzeltebilmesi için Google’ın bazı verileri sistemden silmesi gerekiyor. Google bu iddia ve suçlamara sistemde bir sorun olduğunu kabul ederek cevap verdi. Ayrıca sistemsel sorunun giderilmesi adına çaba harcandığını ifade etti.