Google’ın Yeni Yapay Zeka Modeli “Duygu Tanıma” Yeteneğiyle Tartışmalara Yol Açtı

Google, yeni PaliGemma 2 yapay zeka model ailesinin, fotoğraflarda duyguları "tanıma" özelliğine sahip olduğunu duyurdu. Bu açıklama, yapay zekanın duyguları algılayabilme potansiyeli hakkında etik ve bilimsel tartışmaları yeniden gündeme getirdi.

PaliGemma 2 modeli, görselleri analiz ederek açıklamalar üretebiliyor ve fotoğraflardaki kişiler hakkında soruları yanıtlayabiliyor. "PaliGemma 2, yalnızca nesne tanımlamanın ötesine geçerek hareketleri, duyguları ve sahnenin genel anlatısını açıklayabilen detaylı ve bağlamsal olarak uygun açıklamalar üretiyor," diye belirten Google, bu teknolojinin güçlü bir yenilik olduğunu vurguladı.

"Duygu Algılama" Konusunda Bilimsel ve Etik Endişeler

PaliGemma 2’nin duygu tanıma yeteneği doğrudan kullanıma hazır değil; bu özelliğin etkinleştirilmesi için modelin özel olarak eğitilmesi gerekiyor. Ancak bu teknolojiye dair endişeler şimdiden dikkat çekiyor. Oxford Internet Institute’da veri etiği ve yapay zeka profesörü Sandra Wachter, bu gelişmeyi son derece sorunlu bulduğunu ifade ederek şunları söyledi: "İnsanların duygularını okuyabileceğimizi varsaymak, sihirli bir küreden tavsiye almak gibi bir şey."

Google’ın duygu algılama yeteneği geliştiren ilk şirket olmadığı biliniyor. Pazarlamadan iş güvenliğine kadar farklı alanlarda bu tür teknolojiler geliştirme girişimleri yıllardır devam ediyor. Ancak bu alandaki bilimsel dayanaklar hala tartışmalı.

Duygu tanıma sistemleri genellikle, psikolog Paul Ekman’ın insanlarda ortak olan altı temel duygu (öfke, sürpriz, tiksinti, keyif, korku, üzüntü) teorisine dayanıyor. Ancak daha sonraki çalışmalar, bu teorinin evrenselliğini sorguladı. Kültürel ve bireysel farklılıkların, duyguların ifade edilmesinde önemli rol oynadığı gösterildi.

Önyargılar ve Teknolojik Kusurlar

Duygu algılama sistemlerinin genellikle önyargılı olduğu ve tasarımcılarının varsayımlarından etkilendiği biliniyor. Örneğin, MIT tarafından 2020 yılında yapılan bir araştırma, yüz analizi yapan modellerin gülümseme gibi belirli ifadeleri tercih etme eğiliminde olduğunu ortaya koydu. Daha güncel çalışmalar, bu tür sistemlerin siyahi bireylerin yüz ifadelerine daha fazla olumsuz duygu atfettiğini gösterdi.

Google, PaliGemma 2’nin demografik önyargılarını değerlendirmek için kapsamlı testler yaptığını belirtti. Şirket, bu testlerin sonuçlarının sektördeki diğer standartlarla karşılaştırıldığında daha düşük toksisite ve uygunsuzluk seviyeleri gösterdiğini iddia ediyor. Ancak, kullanılan testlerin tam listesi veya kapsamı paylaşılmadı. Google’ın açıkladığı tek test metriği olan FairFace, belirli ırk gruplarını içeren on binlerce yüz fotoğrafından oluşuyor. Ancak bazı araştırmacılar, FairFace’in yalnızca sınırlı sayıda ırk grubunu temsil etmesi nedeniyle önyargı değerlendirmesi için yeterli olmadığını savunuyor.

AI Now Institute Baş Yapay Zeka Bilimcisi Heidy Khlaaf, duygu algılama teknolojilerinin kültürel ve bireysel bağlamlardan bağımsız olarak çalışamayacağını ifade etti. "Araştırmalar, duyguların yalnızca yüz ifadelerine dayanarak yorumlanamayacağını gösteriyor," dedi.

Yasal Düzenlemeler ve Gelecekteki Riskler

Duygu algılama sistemleri, özellikle Avrupa Birliği’nde regülatörlerin hedefinde. AB’nin yapay zeka yasası (AI Act), bu teknolojilerin okullarda ve iş yerlerinde kullanılmasını yasaklıyor. Ancak bu yasak, kolluk kuvvetleri için geçerli değil.

Açık yapay zeka modellerinin kötüye kullanılma riski de büyük endişe yaratıyor. "Eğer bu duygu tanıma özelliği, bilimsel temellerden yoksun varsayımlara dayanıyorsa, bu durum göç politikalarında, insan kaynaklarında veya hukuk uygulamalarında yanlış ayrımcılıklara yol açabilir," diye uyardı Khlaaf.

Google ise PaliGemma 2’nin etik ve güvenlik testlerinden geçtiğini ve görsel soru yanıtlama ile altyazı oluşturma gibi konularda kapsamlı değerlendirmeler yapıldığını belirtiyor. Ancak Wachter, bu açıklamaları yeterli bulmuyor: "Sorumlu inovasyon, laboratuvara ilk adım attığınız günden itibaren olası sonuçları düşünmeyi gerektirir. Bu tür modellerin yaratabileceği sorunları düşündüğümde, distopik bir gelecek hayal edebiliyorum. İş, kredi veya üniversite kabulü tamamen duygularınıza göre belirlenebilir."