Nvidia, Metin Üreten AI İçin Bir Araç Seti Yayınladı

Nvidia, "daha güvenli" metin oluşturma modellerinin peşindedir. AI destekli uygulamaları daha "doğru, uygun, konuya uygun ve güvenli" hale getirmeyi amaçlayan açık kaynaklı bir araç seti olan NeMo Guardrails'i piyasaya sürdü.

Nvidia'da uygulamalı araştırmadan sorumlu Başkan Yardımcısı Jonathan Cohen, şirketin Guardrails'in temel sistemi üzerinde "uzun yıllardır" çalıştığını belirtti. Ancak yaklaşık bir yıl önce bunun GPT-4 ve ChatGPT gibi modeller için iyi bir uyum olduğunu fark ettiğini ifade etti.

Cohen,"O zamandan beri NeMo Guardrails'in bu sürümüne yönelik olarak gelişiyoruz" "Yapay zeka modeli güvenlik araçları, kurumsal kullanım durumlarına yönelik modellerin devreye alınmasında kritik öneme sahiptir." ifadelerinde bulundu.

İlginizi Çekebilir: NVidia Tıbbi Yapay Zeka Yeteneklerini Geliştiriyor: IGX Platformu

Özellikle Guardrails, Modellerin "Güvenli Olmayan" Dış Kaynaklarla Bağlantı Kurmasını Önlemek İçin Kullanılabilir

Guardrails, metin ve konuşma üreten AI uygulamalarına "güvenlik katmak" için kod, örnekler ve belgeler içeriyor. Nvidia, araç setinin çoğu üretken dil modeliyle çalışacak şekilde tasarlandığını ve geliştiricilerin birkaç satır kod kullanarak kurallar oluşturmasına izin verdiğini iddia ediyor.

Özellikle Guardrails, modellerin konudan sapmasını, yanlış bilgi veya zehirli bir dille yanıt vermesini ve "güvenli olmayan" dış kaynaklarla bağlantı kurmasını önlemek için kullanılabilir. Ayrıca engellemeye çalışmak için de kullanılabilir. Örneğin, bir müşteri hizmetleri asistanının hava durumuyla ilgili soruları yanıtlamasını veya bir arama motoru sohbet robotunun itibarsız akademik dergilere bağlanmasını engellemesi gibidir.

Cohen ayrıca, Guardrails'in ChatGPT gibi "talimatları takip etmede yeterince iyi" olan ve yapay zeka destekli uygulamalar oluşturmak için popüler LangChain çerçevesini kullanan modellerle en iyi şekilde çalıştığını belirtiyor. Bu, oradaki bazı açık kaynak seçeneklerini diskalifiye ediyor.

Sözünü ettiğimiz teknolojinin etkinliği bir yana Nvidia'nın Guardrails'i kalbinin iyiliğinden ille de serbest bırakmadığı vurgulanmalıdır. Nvidia'nın kurumsal AI yazılım paketi ve NeMo tam olarak yönetilen bulut hizmeti aracılığıyla kullanılabiliyor. Şirket, NeMo çerçevesinin bir parçası haline gelmiştir. Herhangi bir şirket, Guardrails'in açık kaynak sürümünü uygulayabilir. Ancak Nvidia, kesinlikle bunun yerine barındırılan sürüm için ödeme yapmayı tercih ediyor.