Box, yeni aracı öncelikli içerik alma sistemi için Nvidia'nın Nemotron'unu kullanıyor

Sistem, %20 daha az hata ve %90 daha az jeton kullanımıyla sorguları dört kat daha hızlı yanıtlayabiliyor.

Perşembe günkü geliştirici konferansında Box, Nvidia'nın Nemotron yerleştirme sistemini ürününün çekirdeğine yerleştirecek yeni bir özelliği gösterdi.

Haberin Detayları ve Öne Çıkan Bilgiler

Kutu İçeriği Alma olarak adlandırılan yeni özellik, temsilcilerin Nemotron tarafından oluşturulan gömülü meta verilere dayanarak sorguları çok daha etkili bir şekilde yanıtlamasına olanak tanıyor.

Box, kullanıcılar için sonucun daha hızlı, daha doğru ve daha ucuz sorgular olduğunu söylüyor. Nvidia'nın üretken yapay zeka yazılımı başkan yardımcısı Kari Briski, TechCrunch'a sorguların dört kat daha hızlı yanıtlanmasını, %20 daha az hata ve %90 daha az token kullanılmasını beklediğini söyledi.

Sistem, Box'ın tüm Enterprise Advance müşterilerinin kullanımına sunulacak ve önümüzdeki yılın başlarında kullanıma sunulacak.

Box CEO'su Aaron Levie, "Bu, arama teknolojimizin temsilciler için uygunluğunu önemli ölçüde artırıyor" dedi. "Bir aracının her belgeyi baştan sona okumak zorunda kalması yerine, kullanıcının sorgusuyla veya aracının yaptığı görev ne olursa olsun, belgelerden parçalar halinde geri gönderebiliriz."

Bu özellik, otomatik erişim sistemlerini iyileştirmek için açık ağırlıklı yerleştirme modelleri sunan Nvidia Nemotron Embed projesinin bir uygulamasıdır. Büyük laboratuvarlar, aracılar tarafından daha iyi kullanılabilmesi amacıyla verileri ön işlemek için LLM'leri kullanan bu tür modelleri sıklıkla gözden kaçırmıştır. Sektör, Nvidia'nın açık kaynak model projesinin odak noktası oldu; Temmuz ayındaki son Nemotron sürümü, geri alma kalitesini ölçen RTEB kriterinin zirvesine ulaştı.

Box, sistemin aktif temsilcilerle eşleştirildiğinde en yararlı olacağını söylüyor ve yeni sistem altında ilgili hükümleri ve emsal kararları görünüşte daha kolay bulabilecek avukatları örnek veriyor. Nemotron'un yerleştirmeleri, temel kavramları haritalandırmak için basit anahtar kelimelerin ötesine geçtiğinden, bir arama aracı, farklı ifadeler veya dil kullanıldığında bile ilgili yasal temaları ortaya çıkarabilir.

Nemotron modelleri ücretsiz olarak mevcut olsa da sistem aynı zamanda Box'ın önceden var olan meta verilerine ve izin kontrollerine de büyük ölçüde güveniyor ve bu da sıfırdan yeniden oluşturmayı zorlaştıracak. Levie, TechCrunch'a "Muhtemelen beş farklı teknolojiyi tek bir basit API'de paketliyoruz" dedi.