hakkında şirket haberleri Kontext grafiği Jedify, yapay zeka token maliyetlerini yüzde 75 düşürdü.

Jedify, çözümünün AI belirteç maliyetlerini dörtte üçe kadar azaltabileceğini iddia ederek AI'yı bağlam grafiği teknolojisiyle artırmayı savunuyor.

Bağlam grafikleri, veri tabanı biçimindeki yapılarda varlık ilişkileri (insanlar, ürünler, yerler vb.) depolar.karmaşık birbirine bağlı verilerin hızlı bir şekilde geçişini sağlamak için bağlantıların öncelik verilmesiBilgi grafikleri yapay zeka iş yüklerine hizmet ederken, bağlam grafikleri ek olarak hangi ilişkilerin doğru olduğunu doğruluyor.

Jedify kurucu ortağı ve CTO Adi Elimelech, "Sektörün çoğu token verimliliği ve maliyet verimliliğini birbirine karıştırıyor, ancak farklılık gösteriyor.Bir bağlam grafiği içinde iş mantığını önceden kodlamak, modeli her sorgu için sıfırdan akıl yürütmekten kurtarırBu, satıcının uygulanmasından bağımsız olan temel mekanizmadır.

Jedify'nin bağlam grafiği, tüm veri tabanı şemasını her sorguda AI'ya beslemek yerine, iş mantığı tanımlarını, hesaplamalarını, ilişkilerini ve kurallarını yapılandırılmış bir bilgi tabanına önceden kodlar.İş değişikliği ile birlikte özerk olarak güncellenir ve genişler., yeni veriler, ilişkiler ve kurallar alıyor. Kullanıcı sorgularında, yalnızca ilgili varlıklar alınır ve LLM'ye kompakt ve kesin bir bağlam sunulur.

Jedify, üç karmaşıklık seviyesini kapsayan 100 iş sorusunda üretim-ambar karşılaştırması gerçekleştirdi (toplam 200 derecelendirilmiş test noktası).% 87 doğru yanıt oranıyla SQL oluşturma çağrısı başına 036 ham jetonBuna karşılık, geleneksel şema enjeksiyon yöntemleri, 60-70% doğrulukla çağrı başına 50.000-150.000 jeton tüketir; CHESS gibi şema enjeksiyonu tabanlı çoklu ajan sistemleri yaklaşık 339,000 jeton tüketir.İstek başına 965 jetonNot: Bu referans değerleri, depo testlerinin yan yana değil, farklı şemalar ve soru kümeleri olan dış çalışmalardan kaynaklanmaktadır.

Bir token-ROI çerçevesinin maliyeti ve doğruluğunu dengelemesiyle ölçülen Jedify'nin yaklaşımı, şema enjeksiyon iş akışlarından 4.6 kat daha yüksek getiriler ve temel çok ajanlı boru hatlarına göre 20 kat daha yüksek getiriler sağladı.Şema enjeksiyonu %60-70% doğru çıkış elde etti, Jedify ise grafik kapsamındaki varlıklar için güçlü bir doğruluk elde etti.

100 tablo kurumsal ölçekte, bağlam grafiği, SQL çağrısı başına token enjeksiyonunu raw-schema temel hatlarına kıyasla yaklaşık% 50 oranında azalttı; 200 tabloda, token tasarrufu% 75'i aştı.

Elimelech ayrıca veri mülkiyetinin faydalarını da vurguladı:Bu yüzden tüm şemayı ve katılma filtre kurallarını sınır modeli sağlayıcılarına her istekte açıklamıyorsunuz..

SQL oluşturulmadan önce yalnızca gerekli varlıklara filtreleyerek, bağlam grafikleri model akıl yürütme yükünü düşürür.Üretim yönlendirme analizi, kurumsal analitik sorgularının yaklaşık% 85'inin, önemsiz bir doğruluk kaybı ile üst düzey sınırlı LLM'ler yerine daha ucuz açık kaynaklı modeller üzerinde çalışabileceğini göstermektedir., altyapı harcamalarını kesmek.

İlgili beyaz kitabı buradan indirin.

Pekin Qianxing Jietong Technology Co., Ltd.
Sandy Yang, Küresel Strateji Direktörü
WhatsApp / WeChat: +86 13426366826
E-posta: yangyd@qianxingdata.com
Site: www.qianxingdata.com/www.storagesserver.com
İş odaklı:
İKT Ürün dağıtım/Sistem entegrasyonu ve hizmetler/altyapı çözümleri
20+ yıllık BT dağıtım deneyimiyle, güvenilir ürünler ve profesyonel hizmetler sunmak için önde gelen küresel markalarla ortaklık kuruyoruz.
Akıllı bir dünya inşa etmek için teknolojiyi kullanmak güvenilir İKT ürün hizmet sağlayıcınız!