Twitter Algoritması Zayıf ve Güzel Kadınları Tercih Ediyor!

Twitter algoritmasının, platformda paylaşılan görsellerin otomatik kırpılmasında zayıf ve genç kadın yüzleri tercih ettiği öğrenildi. Mayıs ayında Twitter, platformda paylaşılan görsellerin otomatik kırpılmasında kullanılan algoritmanın beyaz ve kadın yüzleri tercih ettiği öğrenilmişti.Twitter, bu olayın ortaya çıkmasının ardından, algoritmasını kullanmayı bırakacağını söylemişti. Şimdi, aynı algoritmanın aynı zamanda yaş ve kilo açısından da ayrım yaptığı ve İngilizce ve diğer Batı dillerindeki metinleri tercih ettiği ortaya çıktı. İsviçre'deki EPFL'de bilgisayar güvenliği alanında yüksek lisans öğrencisi yapan Bogdan Kulynych'in ortaya çıkardığı veriler, Twitter'ın görüntü kırpma algoritmasının daha ince ve daha genç görünen insanları tercih ettiğini gösterdi. Kulynych, farklı yüzler oluşturmak için deepfake teknolojisini kullandı ve ardından nasıl tepki verdiğini görmek için kırpma algoritmasını test etti. OpenAI şirketinde bir güvenlik araştırmacısı olan Ariel Herbert-Voss, algoritmayı eğitmek için kullanılan verilere katkıda bulunan insanların önyargılarının bu duruma sebebiyet verdiğini söyledi. Las Vegas'ta yapılan bir bilgisayar güvenliği konferansı olan Defcon'da, şirketlerin üçüncü parti araştırmacılara algoritmalarını incelemeleri için izin vermelerinin, bu tür durumları azaltacağı sonucuna varıldı. Twitter da dahil olmak üzere bazı şirketler, belirli açıklar için ödüller sunarak uzmanları güvenlik hatalarını aramaya teşvik ediyor. Bazı yapay zeka uzmanları da firmaların sorunları tespit etmek için kullandıkları algoritmalara ve verilere dışarıdan erişim vermeleri gerektiğine inanıyor. Eylül ayında Kanadalı bir öğrenci Twitter'ın algoritmasının fotoğrafları kırpma şekline dikkat çekmişti. Algoritma, metin, hayvanlar veya nesneler gibi diğer alanlarının yanı sıra yüzleri de ortalayacak şekilde tasarlanmıştır. Ancak algoritma, birkaç kişinin gösterildiği görüntülerde genellikle beyaz yüzleri ve kadınları tercih etti. Twittersphere, kısa süre sonra, ırk ve cinsiyet yanlılığını gösteren başka örnekler de bulmuştu.

Twitter, Algoritmadaki Sorunları Çözmek İçin Bir Yarışma Düzenledi!

[caption id="attachment_17063" align="alignleft" width="1150"] Twitter'ın ilginç algoritması-startupteknoloji[/caption] Geçen haftaki ödül yarışması için Twitter, görüntü kırpma algoritması için olan kodunu katılımcıların kullanımına sundu ve diğer zararlı davranışların kanıtlarını gösterenlere ödüller verdi. Bu yarışmada başka önyargılar da ortaya çıktı. Örneğin, algoritmanın beyaz saçlı insanlara karşı önyargılı olduğunu gösterdi. Bir diğer örnekte, algoritmanın Latince metinleri Arap alfabesine tercih ettiği ortaya çıktı. Son birkaç yılda yapay zeka teknolojisine duyulan heyecan, bu tür çıkan örnekler yüzünden bir nebze olsa da azaldı. Bazı yüz tanıma algoritmalarının ırk ve cinsiyete göre ayrımcılık yaptığı ve siyahilere karşı da önyargılı olduğu kanıtlanmıştı. Bu sorunun kökten çözülmesi zor görünüyor. Maalesef önyargıyı tespit etmek kolay bir şey değil. Şimdiye kadar, yapay zeka algoritmalarındaki potansiyel önyargıları düzeltmek için bazı çabalar sarf edildi. Örneğin, New York, işverenlerin iş adaylarını incelemek için kullandığı yapay zeka teknolojilerini önyargı kapsamında inceleme altına almayı önermişti. Avrupa Birliği ise, yapay zeka algoritmalarının daha fazla incelenmesini gerektirecek kapsamlı düzenlemeler önerdi.