Bu makale türlerin devamı niteliğindedir. Altı ay önce, Microsoft'un ırksal açıdan önyargılı olduğu düşünülen yüz tanıma yazılımını düzeltmek için çalıştığı haberini vermiştik. Şimdi şirketin kendisi de önyargıyı önlemek için yüz tanımanın düzenlenmesini istiyor. Yani önyargılı yazılıma yakalandılar ve şimdi de tüm sektörün, başkalarının ırksal önyargılı yazılım almasını önleyecek şekilde düzenlenmesini istiyorlar.
Hızlı Linkler
Başlangıç sorunu
Haziran ayında bildirdiğimiz gibi bir araştırma makalesinde Microsoft'un Azure tabanlı UI API'sine yönelik eleştiriler yapılmıştı. Program koyu renkli insanları veya kadınları tanımakta zorluk çekiyordu. Hata oranı %20.8 kadar yüksekti ancak "daha açık renkli erkek yüzlerinde" hata oranı yüzde sıfırdı.
Tanınmadaki bu farklılığın nedeni yapay zekanın insanlar tarafından programlanmasının gerekli olmasıdır. Sonuçlar ancak programlamayı yapan kişiler kadar iyi olacaktır. Microsoft'un programcıları yeterince koyu tenli kişiyi veya yeterince kadını işe almadı.
Microsoft, eğitim verilerini çeşitlendirerek bu sorunu çözmeye çalıştı ve sistemlerini dağıtmadan önce dahili olarak test etmeye başladı. Koyu tenli kişilerde hata oranını yirmi kata kadar, kadınlarda ise dokuz kata kadar azaltmayı başardılar.
Mevzuat için baskı yapın
Altı ay sonra sordum Microsoft, hükümetleri yüz tanıma teknolojisinin test edilmesini gerektiren mevzuatı geçirmeye çağırıyor Doğru olduklarından emin olmak, önyargıyı önlemek ve kullanıcıların haklarını korumak için bağımsız olarak.
Microsoft'un kıdemli danışmanlarından Brad Smith bir blog yazısında, "Yüz tanıma cini, tabiri caizse şişeden yeni çıktı" dedi.
“Harekete geçmezsek, beş yıl sonra uyanıp yüz tanıma hizmetlerinin toplumsal sorunları daha da kötüleştirecek şekilde çoğaldığını görme riskiyle karşı karşıya kalacağız. O zamana kadar bu zorluklar çok daha zor olacak.
Şirket, görevi bilgisayarlara bırakmak yerine, yüz tanıma sonuçlarının kişiler tarafından incelenmesini talep ediyor.
"Bu, kararların tüketiciye fiziksel veya duygusal zarar verme riskine yol açabileceği, insan haklarına veya temel haklara yönelik sonuçların olabileceği ve tüketicinin kişisel özgürlüğünün veya mahremiyetinin ihlal edilebileceği durumları da içerir."
Ayrıca Smith, yüz tanımayı kullananların "bireysel tüketicilere veya tüketici gruplarına karşı ayrımcılığı yasaklayan yasalara uyma yükümlülüklerinden muaf olmadıklarını kabul etmeleri" gerektiğini öne sürdü.
Ayrıca hükümetin yüz tanıma kullanımının insanların demokratik özgürlüklerini ve insan haklarını ihlal etmediğinden emin olmak istiyordu.
"2024 yılının 1984 romanından bir sayfa gibi görünmemesini sağlamalıyız" diye sözlerini tamamladı.
Dahası
Microsoft elbette haklı. İlginçtir ki, altı ay önce yazılımlarının ayrımcılık yapmaması konusunda dikkatli olma gereğini fark edemiyorlardı ve şimdi sadece bunun farkına varmakla kalmıyorlar, aynı zamanda kimsenin aynı hataları yapamayacağından da emin olmak istiyorlar. Onlar yaptı.
Önceki pozisyonları ne olursa olsun, Microsoft'un mevzuat talep etme ve yüz tanıma seçeneklerinin incelenmesi hakkı var mı? Aşağıdaki yorumlar bölümünde Microsoft'un isteği hakkındaki düşüncelerinizi bize bildirin.
