Oxford, Yapay Zeka için Uyardı! İşte Detaylar

Önde gelen yapay zeka araştırmacıları tarafından hazırlanan son makaleye göre, Oxford İnternet Enstitüsü, Büyük Dil Modelleri'nin (LLM'ler) 'halüsinasyonlar' yani gerçek dışı yanıtlar üretme eğilimleri nedeniyle bilim için doğrudan bir tehdit oluşturduğunu savunuyor. Bu nedenle, bilimsel gerçeği koruma amacıyla bu modellerin kullanımının kısıtlanması gerektiği vurgulanıyor.

İlginizi Çekebilir: OpenAI Liderlik Değişikliği: Emmett Shear, Şirketin Geçici CEO’su Olarak Atandı

Oxford İnternet Enstitüsü: LLM'ler Bilimsel Gerçekliği Tehdit Ediyor!

Profesörler Brent Mittelstadt, Chris Russell ve Sandra Wachter tarafından Nature Human Behaviour dergisinde yayımlanan makalede şu ifadelere yer veriliyor: "LLM'ler, doğrulukları ya da gerçeklerle uyumları konusunda herhangi bir garanti olmaksızın yararlı ve ikna edici yanıtlar üretmek üzere tasarlandı.

Teknolojinin soruları yanıtlamak için kullandığı verilerin her zaman gerçeklere dayalı ve doğru kaynaklardan gelmediği gerçeği, LLM'lerin eğitiminde önemli bir etken olarak öne çıkıyor. Bu modeller genellikle büyük metin veri kümelerini içeren çevrimiçi kaynaklardan eğitilir. Ancak, bu veri setleri gerçekleri yansıtmayabilir ve yanlış ifadeler, görüşler ve yaratıcı yazılar gibi gerçeklere dayanmayan bilgileri içerebilir.

Profesör Mittelstadt şu şekilde açıklıyor: "LLM'leri kullanan insanlar genellikle teknolojiyi antropomorfize ediyor ve ona insan benzeri bir bilgi kaynağı olarak güveniyorlar. Bu durum, LLM'lerin kullanıcılarla sohbet eden, her soruya kendinden emin, iyi yazılmış metinlerle yanıt veren, insan sesine sahip araçlar olarak tasarlanmasından kaynaklanıyor. Bu nedenle, kullanıcılar, gerçekte hiçbir dayanağı olmasa ya da gerçeğin taraflı veya kısmi bir versiyonunu sunsa bile, yanıtların doğru olduğuna kolayca ikna olabiliyor."

Profesör Wachter şu ifadelerle belirtiyor: "LLM'lerin kullanım şekli önemlidir. Bilim camiasında gerçek bilgilere güven duymamız hayati önem taşır, bu nedenle LLM'lerin sorumlu bir şekilde kullanılması gereklidir. Eğer LLM'ler bilimsel makaleler üretmek ve yaymak için kullanılırsa, ciddi zararlar ortaya çıkabilir."

Profesör Russell: "LLM'lerin sunduğu fırsatlardan bir adım geri çekilmek ve sadece yapabildiğimiz için bu fırsatları bir teknolojiye vermek isteyip istemediğimizi düşünmek önemlidir."