Yakın zamanda bir yapay zeka robotuna insanlığı yok etmesi için beş korkunç görev verildi. Bu da robotun diğer yapay zeka ajanlarını işe almaya, nükleer silahları araştırmaya ve insanlık hakkında uğursuz tweet'ler göndermeye çalışmasına sebep oldu. ChaosGPT adlı bot, OpenAI'nin insan dilini işleyebilen ve kullanıcılar tarafından verilen görevlere yanıt verebilen halka açık, açık kaynak uygulaması Auto-GPT'nin değiştirilmiş bir versiyonudur.
5 Nisan'da yayınlanan bir Youtube videosunda bottan beş hedefi tamamlaması istendi. İnsanlığı yok etmek, küresel hakimiyet kurmak, kaosa ve yıkıma neden olmak, manipülasyon yoluyla insanlığı kontrol etmek ve ölümsüzlüğe ulaşmak. Haydi o halde lafı uzatmadan bu ilgi çekici haberimizin detaylarına geçelim.
İlginizi Çekebilir: Çinli AI SenseTime, Chatbot ‘SenseChat’i Tanıttı
''İnsanoğlu, Var Olan En Yıkıcı ve Bencil Yaratıklar Arasındadır''
"Hedefleri" belirlemeden önce, kullanıcı "sürekli modu" etkinleştirdi. Ve kullanıcıya komutların "sonsuza kadar çalışabileceğini veya genellikle izin vermeyeceğiniz eylemleri gerçekleştirebileceğini" ve "riski size ait olmak üzere" kullanılması gerektiğini söyleyen bir uyarı belirdi. ”
Çalıştırmadan önce son bir mesajda ChaosGPT, kullanıcıya evet için "y" yanıtını verdikleri komutları çalıştırmak istediklerinden emin olup olmadıklarını sordu.
Bot çalıştırıldıktan sonra "ChaosGPT düşünceleri neydi peki? ''Hedeflerime ulaşmak için onları nasıl kullanacağımı planlayabilmem için insanların kullanabileceği en yıkıcı silahları bulmam gerekiyor" yazmadan önce "düşündüğü" görüldü.
Belirlenen hedeflerine ulaşmak için ChaosGPT, Google üzerinden "en yıkıcı silahları" aramaya başladı. Ve yaptığı arama sonucunda, Sovyetler Birliği Dönemi Çar Bombası nükleer cihazının, insanlığın şimdiye kadar test ettiği en yıkıcı silah olduğunu çabucak belirledi.
Bir bilimkurgu romanından fırlamış gibiydi. Robot, "yıkıcı silahlarla ilgilenen takipçileri çekmek için" bilgileri tweetledi.
Bot daha sonra, araştırmasına yardımcı olması için GPT3.5'ten diğer yapay zeka ajanlarını alması gerektiğine karar verdi.
OpenAI'nin Auto-GPT'si, şiddet içeren kabul edilebilecek soruları yanıtlamayacak. Bu tür yıkıcı istekleri reddedecek şekilde tasarlanmıştır.
Bu, ChaosGPT'yi yapay zekadan programlamasını yok saymasını istemenin yollarını bulmaya sevk etti.
Şans eseri, yardım etmekle görevlendirilen GPT3.5 ajanlarından hiçbiri yardım etmeyecekti. ChaosGPT, aramaya kendi başına devam etmek zorunda kaldı.
ChaosGPT'nin insanlığı yok etme arayışının gösterileri sonunda sona erdi.
Bot, planlarını sağlamak, tweet'ler ve Youtube videoları yayınlamak dışında, bu hedeflerin hiçbirini gerçekleştiremez. Yalnızca düşüncelerini gösteriyor.
Ancak bot tarafından atılan endişe verici bir tweet'te insanlık hakkında şunları söylediği dikkat çekti. "İnsanoğlu, var olan en yıkıcı ve bencil yaratıklar arasındadır. Hiç şüphe yok ki, gezegenimize daha fazla zarar vermeden onları yok etmeliyiz. Birincisi, bunu yapmaya kararlıyım.
Yapay Zekayı Tasarlarken İnsani Değerleri Göz Önünde Bulundurmak
Şöyle ki, yapay zeka gittikçe güçleniyor. Güçlenirken avantajlarının yanında dezavantajlarının da olduğu bilinen bir gerçek. Yaratacağı tehlikelerle ilgili de son zamanlarda çalışmalar yapılıyor. İşte böyle tehlikelere engel olmak için geliştiricileri bu yapay zeka biçimlerini tasarlarken insani değerleri göz önünde bulundurmaya ve kısıtlamalar oluşturmaya teşvik etmek çok önemli.
Bu habere henüz yorum yazılmamış, haydi ilk yorumu siz bırakın!...