OpenAI, "Süper Zeki" yapay zeka (AI) sistemlerini yönlendirmek ve kontrol etmek için en iyi makine öğrenimi araştırmacıları ve mühendislerinden oluşan bir ekip oluşturduğunu belirtti. Süper zeka kavramı, bazı önceki nesil modeller gibi tek bir alan yerine, çok çeşitli farklı becerilerde üstün olan varsayımsal bir yapay zeka modelini ifade ediyor.
Yeni ekibin, Ilya Sutskever (OpenAI'nin baş bilimcisi ve şirketin kurucularından biri) ve Jan Leike (araştırma laboratuvarının uyum başkanı) tarafından yönetileceği aktarıldı.
İlginizi Çekebilir: Databricks OpenAI Rakibi MosaicML’yi Satın Aldı
İşte Nedenleri!
OpenAI'ye göre, bugün süper akıllı yapay zekayı etkin bir şekilde kontrol edip yönetmek ve kendi adına "saldırganlığı" önlemek için hiçbir çözüm yok. Mevcut yapay zeka optimizasyon teknolojileri, insan geri bildirimine dayalı takviyeli öğrenmeye dayanıyor. Aynı zamanda, bu tür teknikler, prensipte insanların yapay zekayı kontrol edebileceği gerçeğine dayanıyor. Bu da insanlardan potansiyel olarak daha zeki olan sistemler için olası değildir. Bu sorunu araştırmak için özel bir ekip, şirketin bilgi işlem gücünün yüzde 20'sine erişebilecek. Ayrıca şirketin AI özelleştirme departmanından ve şirketin diğer alanlarından bilim adamları ve programcılar da mevcut. Ekip, önümüzdeki dört yıl boyunca süper akıllı yapay zekayı kontrol etmeyle ilgili temel teknik zorlukların üstesinden gelmeyi hedefliyor.
Aslında, geri bildirim kullanan AI eğitiminden bahsediyoruz. Diğer AI sistemlerini değerlendirmek, istenen sonuçları vermek ve operasyonel güvenilirliklerini sağlamak için özel bir yapay zeka kullanılıyor. OpenAI, yapay zekanın bunu insanlardan daha iyi ve daha hızlı halledeceğine inanıyor. Yapay zeka sistemi olgunlaşıyor. Ayrıca, şirketlerin giderek daha fazla görev üstlenmesi ve sonuç olarak şu anda mevcut olandan daha iyi adaptasyon teknolojileri geliştirmesi ve uygulaması bekleniyor.
Tabii ki, hiçbir yöntem OpenAI'de belirtildiği gibi mutlak hata korumasına sahip değil. Başkalarını değerlendirmek için bir AI kullanmak, oluşturulan AI'larda hata ve güvenlik açıklarında artışa da yol açabilir. Genel olarak özelleştirmenin en zor kısmı ne peki? AI'nın nasıl çalıştığına dair en beklenmedik yönlerle ilgili olabileceğini gösteriyor. Ancak şirket, süper zeka optimizasyonunun temelde bir makine öğrenimi görevi olduğuna inanıyor. Ayrıca, bu sektördeki uzmanların çok önemli bir rol oynayacağına da inanıyor. Şirket, OpenAI ile ilgisi olmayan projeler de dahil olmak üzere projeleri başlatmak ve güvenceye almak için gelecekte başkalarıyla araştırmasının sonuçlarını paylaşmayı da umuyor.
Bu habere henüz yorum yazılmamış, haydi ilk yorumu siz bırakın!...