Vektör veritabanı sağlayıcısı Pinecone, AI aracıları için token kısıtlamaları ve bütçe aşımlarının üstesinden gelmek için optimize edilmiş bir çözümü açıkladı. Yapay zeka aracıları, önceden hesaplanmış vektör veri kümelerini benimseyerek daha yüksek operasyonel hızlara ulaşabilir ve firma artık kurumsal kullanıcılar için bu optimize edilmiş vektör kümelerini sağlıyor.
Pinecone CEO'su Ash Ashutosh ve Kurucu Ortak ve CTO Edo Liberty, resmi bir blog gönderisinde şunları kaydetti: "Yapay zeka ajanları, modern bilgi altyapısının birincil tüketicileri haline gelmek için insanları geride bıraktı. Bu aracı odaklı yapay zeka çağında, otomatikleştirilmiş ajanlar, tekrarlayan görevleri yerine getiriyor ve çoğu zaman katı kaba kuvvet hesaplama döngülerine düşüyor." Ham vektör veri işleme, bu akıllı aracılar için doğal verimsizliklere ve darboğazlara yol açmaktadır.
Bu tür teknik dezavantajlar, %50 ila %60 arasında değişen görev tamamlama oranlarının durgunlaşmasına ve buna öngörülemeyen gecikme süresine ve aşırı token harcamasına neden olur. Sektör, aracıların bağlamsal senaryolarına göre uyarlanmış verileri önceden işlemek için bir yöntemin yanı sıra aracıların bağlamsal verileri elde etmesi için etkili bir mekanizmaya ihtiyaç duyuyor. Pinecone, tam da bu talebi karşılamak için Nexus platformunu geliştirdi.
Nexus Bilgi Motoru iki temel modülden oluşur: Bağlam Derleyicisi ve Düzenlenebilir Alıcı. Bağlam Derleyicisi, ham vektör veritabanı kayıtlarından oluşturulan göreve özgü bağlamsal veri kümeleri olan özelleştirilmiş veri yapıları oluşturur. Bu yapılara, RBAC erişim kapsamları, sürüm kodları, veri kaynakları ve PII tanımlama etiketleri dahil olmak üzere kapsamlı meta veriler eklenir. Derleyici, kaynak materyaller ve açık görev spesifikasyonları ile başlangıçta önceden tanımlanmış dört aracı türü için özel olarak tasarlanmış yapılar oluşturur: satış, finans, pazarlama ve yönetici CEO temsilcileri.
Bu akıllı aracılar, Nexus sistemiyle arayüz oluşturmak için KnowQL adlı özel bir bildirimsel sorgulama dili kullanır. Dil altı temel unsurdan oluşur: amaç, filtre, kaynak, çıktı şekli, güven ve bütçe kısıtlamaları. Temsilciler, ham vektör verilerini doğrudan almak yerine, Nexus platformuna üst düzey KnowQL sorguları gönderir.
Nexus'un Composable Retriever'ı, çeşitli aracı türlerinden KnowQL isteklerini almaktan sorumludur. Bağlam Derleyicisi tarafından işlenen önceden oluşturulmuş yapıtlara dayalı olarak doğru yanıtlar döndürür. Resmi bir şema, bu mekanizmanın tüm operasyonel iş akışını açıkça göstermektedir.
Çam Kozalağı Nexus ortamı ve süreç akışı.
Platform, birden fazla kullanıcı ve çeşitli iş yükleri için merkezi token tüketim yönetimi sağlar. Birleşik kontrol paneli, şeffaf izleme için token kullanımını, maliyet harcamalarını ve uyumluluk durumunu sezgisel olarak görüntüler.
Pinecone, Nexus'un özel bilgi yapılarını önceden yapılandırdığını, bağlamsallaştırdığını ve derlediğini, aracıların hesaplama görevlerini başlatmadan önce verileri tamamen hazırladığını açıkladı.
Geleneksel derleyicilerden farklı olarak yinelemeli Bağlam Derleyicisi, veri gösterimini sürekli olarak optimize eder. Deneysel modelleme yürütür, çıktıları görev hedeflerine göre değerlendirir ve sonunda aracının operasyonel ihtiyaçlarını mükemmel şekilde karşılayan kesin bilgi çerçevelerine dönüşür. Pratik kullanım durumları aşağıda listelenmiştir:
-
Satış acentası: Gong çağrı transkriptleri, satış hattı aşamaları, önemli müşteri e-posta konuşmaları ve Slack kayıtlarından elde edilen rekabet bilgileri dahil olmak üzere entegre işlem bağlamını bir araya getirir.
-
Finans Temsilcisi: Sözleşme maddelerini fatura döngüleri, kullanım eşikleri ve iş genişleme göstergeleriyle ilişkilendirerek gelirle ilgili bağlam oluşturur.
-
Pazarlama Temsilcisi: Kullanıcı davranışı verilerinden türetilen ürün yeterlilik sinyallerinin yanı sıra, kampanya etkileşim kayıtlarını Gong'un işlem başarı/başarısızlık günlükleriyle birleştirerek ilişkilendirme verilerini derler.
-
CEO Temsilcisi: ARR dalgalanmalarını müşteri sağlığı puanları, işe alım süreci ve ürün geliştirme aşamalarıyla ilişkilendirerek departmanlar arası öngörüleri sentezler.
İki Pinecone yöneticisine göre Nexus kullanıcıları daha yüksek görev tamamlama oranlarından, kısaltılmış yürütme döngülerinden, güvenilir topraklanmış çıktılardan ve %90'a kadar daha düşük token tüketiminden yararlanabilir. Bu teknolojik yükseltme, yapısal optimizasyonu gerçekleştirir: her çıkarım talebinde tekrarlanan hesaplamaları yürütmek yerine, karmaşık akıl yürütme hesaplamasını bağımsız bir bilgi katmanına kaydırır.
Box, Unstructured, Teradata, LlamIndex ve DüşünceFocus'un da aralarında bulunduğu çok sayıda sektör kuruluşu, Nexus platformu için resmi onaylar yayınladı.
Nexus ile birlikte Pinecone, üretime hazır bilgi uygulamaları içeren yepyeni bir Pazaryerini başlattı. Bu önceden oluşturulmuş çözümler, karmaşık yapay zeka altyapısı yapılandırmasına gerek kalmadan birkaç dakika içinde devreye alınabilir. Pazar yeri kataloğu, satış geliri, sigorta, emlak, yasal uyumluluk, insan kaynakları ve müşteri hizmetleri sektörlerini kapsayan 90'ın üzerinde kullanıma hazır çözüm içerir.
Lansman aşamasında Marketplace'in kullanımı tamamen ücretsiz olmaya devam edecek ve ticari üçüncü taraf çözümlerinin yakında piyasaya sürülmesi planlanıyor. Kullanıcılar platforma resmi bağlantı üzerinden erişebilirler.
Pinecone ayrıca aylık 20 ABD doları tutarında düşük maliyetli bir Oluşturucu katmanı sunarak vektör veritabanı fiyatlandırmasını da optimize etti. Ayrıca şirket, bulut dağıtım kapsamını eu-central-1 erişilebilirlik bölgesi ile AWS Avrupa (Frankfurt) bölgesine kadar genişletti.
Ayrıca, yerel tam metin arama işlevi, şu anda genel önizlemede mevcut olan Pinecone'un çekirdek vektör veritabanına yerleştirilmiştir.
Nexus ve KnowQL için erken erişim programı artık kurumsal müşterilere ve iş ortaklarına açıktır. Uygun kullanıcılar, finansal hizmetler, sağlık hizmetleri, yasal hizmetler ve kurumsal SaaS endüstrilerinde aracıya özgü uygulamalar geliştirenlerdir; bu senaryolar, aracıların karmaşık özel bilgi verilerini işlemesini gerektirir.
Pekin Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Küresel Strateji Direktörü
WhatsApp / WeChat: +86 13426366826
E-posta: yangyd@qianxingdata.com
Web sitesi: www.qianxingdata.com/www.storagesserver.com
İş Odağı:
BİT Ürün Dağıtımı/Sistem Entegrasyonu ve Hizmetleri/Altyapı Çözümleri
20 yılı aşkın BT dağıtım deneyimimizle, güvenilir ürünler ve profesyonel hizmetler sunmak için önde gelen küresel markalarla ortaklık yapıyoruz.
“Akıllı Bir Dünya İnşa Etmek İçin Teknolojiyi Kullanmak”Güvenilir BİT Ürün Servis Sağlayıcınız!