Yapay Zeka, Yalan ve Aldatmacanın Ustası Haline Geldi!

Çalışmalara göre yapay zeka, yalan ve aldatmacanın ustası haline geldi! Evet, yapay zeka dünyasının insan hayatını iyileştirmek için tasarlandığı söylenirken, yeni bir çalışma göründüğünden daha fazlasının olduğunu kanıtlıyor.

Yakın zamanda Patterns adlı bir dergide yayınlanan bu son inceleme makalesi sayesinde yazarlar, günümüzde çoğu yapay zeka sisteminin insan ırkını aldatma ve manipüle etme konusunda ne kadar yetenekli olduğunu kanıtlayabildi.

Yardım sağlamak veya gerçeklerden başka hiçbir şeyi göstermemek gibi başka amaçlar için eğitilmiş olsalar da, bu sözde yapay zeka sistemlerinin aldatma riskleri yüksek. Detaylar yazımızda...

İlginizi Çekebilir: Apple, M4 İşlemciyi Tanıttı: Yapay Zeka için Yapılan İlk Çip

Araştırmaya Göre Sistem, Adil Oynamaktan Uzak

Bu nedenle hükümetlerden, konu kontrolden çıkmadan önce düzenleyiciler tarafından harekete geçmeleri isteniyor; zaman çok önemli.

İçerik denetimi ve düzenlemesine ilişkin daha katı kurallar derhal yürürlüğe konmalı. Ancak şaşırtıcı olan, birçok yapay zeka geliştiricisinin bunun neden veya nasıl olduğu ve nasıl önlenebileceği konusunda kafasının karışık olmasıdır.

Niyet asla bu olmadığı halde aldatma neden bu kadar güçlü oluyor? Bir şey ya da birisi, yapay zeka modellerinin doğru hedefe ulaşmak için tasarlanmış optimum performansa ulaşmasını engellemek için karar veriyor.

Araştırmanın araştırmacıları, literatürü inceleme ve yapay zeka sistemlerinin öğrenilmiş aldatma stratejileri yoluyla yanlış verileri yaymasının yollarını bulma ihtiyacını hissetti. Burası insan zihnini kolaylıkla manipüle etmeyi öğrendikleri yer.

Bulgular arasında bahsetmeye değer bir diğer çarpıcı nokta ise belirtelim. Yazarların, Meta'nın CICERO adlı diplomasi teması etrafında oynayan bir sisteminin, etrafında inşa edildiği tema olduğundan ittifaklar oluşturma açısından harika bir iş çıkardığını göstermesidir.

Ancak Meta, bu tür iddiaları kabul etmeyi reddediyor ve asıl amacın insanlara yardımcı olan dürüst ve anlamlı içerikleri teşvik etmek olduğunu ekliyor.

Araştırmaya göre sistem adil oynamaktan uzak. Aldatma üzerine kurulu bir sistem ve bunda büyük ustalık kazanmış durumda. Yapay zekayı kazanmak için çok iyi eğitti ama dürüst bir şekilde değil.

Bu, günümüzde bu şekilde çalışan ve doğru müzakerelerin merkezde yer almasını sağlamak için üstünlük sağlamak amacıyla insanların bakış açılarını yanlış temsil edebilen diğer AI sistemleriyle aynı doğrultudaydı.

Şimdilik bu çok zararlı görünebilir çünkü eğer yapay zeka sistemleri oyunlarda hile yapıyorsa aynısını gerçek hayatta da yapabilir ve bu gözümüzün önünde oluyor. Gelecekte de aldatmacanın kontrolden çıktığını görebiliriz.

Şu Anda Küçük Bir Sorun Gibi Görünebilir Ancak Geleceğe Yönelik Ciddi Riskleri Büyük

Üstelik bu sistemlerden bazıları, ne kadar güvenli olduklarını görmek için oluşturulan testleri bile atlayabiliyor. Örneğin, çalışma sırasında bir sistem, hızlı yeniden üretilebilirlik ve kopyalanma testini geçebilmek için sanki ölü gibi oynamayı başardı.

Yani evet, burada kanıtlanan nokta, insanlar ve düzenleyiciler tarafından gerçekleştirilen güvenlik testleri sırasında hile kullanılarak aldatıcı yapay zeka sistemlerinin sahte bir refah duygusu ve güvenli bir ortam geliştirebileceği ve bu da kesinlikle büyük bir sorundur.

Şu anda küçük bir sorun gibi görünebilir. Ancak geleceğe yönelik ciddi riskleri büyüktür ve düşman aktörlerin yanlış uygulamalar yapmasına, seçimlere hile karıştırmasına ve diğer birçok olumsuz sınamaya da yol açabilir.

Daha da kötüsü, bazı eleştirmenlerin ve uzmanların uyardığı gibi, insanların bunlar üzerindeki kontrolünü tamamen kaybetmesidir. Artık bu çalışmaya katılan yazarlar, Avrupa Birliği'nde uygulanan Yapay Zeka Yasası ve hatta mevcut Biden yönetimi tarafından Yapay Zeka Yürütme Yasası gibi yasalar aracılığıyla bu tür sorunları ciddiye alan doğru türde önlemlerin dünyada mevcut olduğunu düşünmüyor.

Ancak yine de politikaların manipüle etmek ve aldatmak için uygulamaya konulduğu ve geliştiricilerin sistemleri kontrol etmek için doğru tekniklere sahip olmadığı için bunun tehlikeli olduğu, burada bahsetmeye değer bir faktör olmaya devam ediyor.

Dolayısıyla çalışmanın ana mesajını belirtelim. Eğer AI aldatmacası şu anda durdurulamıyorsa, bu tür sistemler yüksek riskli olarak sınıflandırılmalıdır.