ChatGPT Hakkında Dikkat Çeken Rapor Yayınlandı

OpenAI’nın ChatGPT’si gibi yapay zeka sohbet robotları, çalışanların verimliliğini artırabilecek bir devrim niteliğinde araçlar olarak tanıtılıyor.  

Ancak, Purdue Üniversitesi tarafından yapılan yeni bir çalışma, ChatGPT'nin bilgisayar programlama sorularını %52 oranında yanlış yanıtladığını buldu. 

Çalışmanın Detayları

Yapılan bu çalışmada toplam 517 programlama sorusu ChatGPY’ye yönlendirildi. 

Yapılan cevaplamalar sonrasında, “Analizimiz, ChatGPT yanıtlarının %52’sinin yanlış bilgi içerdiğini ve %77’sinin gereksiz uzun olduğunu gösteriyor” dendi. Ancak kullanıcıların %35’i, kapsamlı ve iyi ifade edilmiş dil tarzı kullandığı için ChatGPT yanıtlarını tercih etmeye devam etti. 

Programcılar, ChatGPT’nin yaptığı yanlışların %39 oranında olanını fark etmedi. Bu durum neticesinde kullanıcıların bu tür yanlışların riskleri konusunda bilinçlendirilmesi ve ChatGPT tarafından yanlış bilgilerin düzeltilmesi gerektiğini gösteriyor.  

Bu her ne kadar tek bir çalışma olsa da, bu araçları kullanan herkesin karşılaşabileceği sorunlara bir ışık tutuyor.

Yapay Zeka Sohbet Botları Güvenilir mi?

Teknoloji devleri, en güvenilir sohbet botlarını sunmak için milyarlarca dolar yatırım yapmaya devam ediyor. Meta, Microsoft ve Google, internetle olan ilişkimizi kökten değiştirme potansiyeline sahip yepyeni bir alanı domine etmek için adeta bir yarış içerisindeler. Fakat bu yolda hem kullanıcılar hem de geliştiriciler için oldukça fazla sorun olduğu ortada. 

Bu sorunlardan ilki, yapay zekanın cevap doğruluğunu ortalamaya vurduğumuzda en azından şimdilik, güvenilmez olması. Özellikle kullanıcı benzersiz bir soru sorduğunda Google’ın yeni yapay zeka destekli arama motoru, genellikle güvenilmez kaynaklardan alınan yanlış bilgiler sunuyor. Hatta bu hafta içerisinde, The Onion’da paylaşılan alaycı makaleleri güvenilir bilgi olarak sunduğu zamanlar yaşandı. 

 Google Arama’nın, The Onion gibi satirik makaleleri güvenilir bilgi olarak sunduğu birkaç durum yaşandı. 

Google ise kendisini “Gördüğümüz örnekler genellikle çok nadir sorgulardır ve çoğu kişinin deneyimini temsil etmemektedir, yapay zeka genel Bakışlarının büyük çoğunluğu, internette daha derinlemesine araştırma yapabilmeniz için yüksek kaliteli bilgiler sağlar” dedi. 

Ancak bu savunmaya bakıldığında, “nadir sorulan sorular” cevabı yanıtların yanlış çıkmasına karşılık güveni biraz daha sarsabilecek türden bir yaklaşım. Çünkü kullanıcılar bu sohbet botlarını sadece en sıradan soruları sormak için kullanmıyor. 

OpenAI, ChatGPT yanıtları üzerine yapılan yeni çalışma hakkında sessizliğini korudu.