Equinix, NVIDIA ortaklığını genişletti ve Equinix Inference Exchange'i başlatmak için Together AI ile yeni bir işbirliği kurdu.platform hesaplama iş yüklerini çekirdek veri depolarına daha yakın taşıyorEquinix Horizon'da Equinix Fabric One ile birlikte tanıtıldı ve NVIDIA kurumsal donanımını,AI'nin açık kaynaklı model platformu ve Equinix'in küresel bağlantı altyapısı birlikte gecikmeyi çözmek için, veri egemenliği ve ağ sıkıntıları.

Dağıtılmış İfade ve Veri YerçekimiKurumsal AI prototiplerden yüksek verimli üretime geçtikçe, çıkarım yerleştirilmesi toplam maliyeti, yanıt gecikmesi ve uyumluluğu şekillendirir.Heterogen ortamlarda dağıtılmış altyapı çalıştırmak operasyonel genel masraf ve ağ karmaşıklığı getirir.

Equinix, 77 metroda bulunan 280'den fazla veri merkezi, 230 bulut rampası ve 10.500'den fazla bağlantılı işletme ekosistemini kullanarak bu sorunları azaltıyor.Yapay zeka modellerinin en iyi on sağlayıcısından sekiz tanesi ve en iyi on Yapay zeka bulutundan dokuzu zaten Equinix sitelerinde bulunuyor, platformu dağıtılmış AI boru hatları için nötr bir toplama katmanı haline getirir.

Mimarlık ve yığın entegrasyonuEquinix Inference Exchange, üç katmandan oluşur: fiziksel altyapı, hesaplama ve yazılım. Equinix, güç dağıtımını kapsayan altta yatan fiziksel bağlantı temelini işletilmektedir.Gelişmiş sıvı soğutma, devam eden tesis operasyonları ve Equinix Fabric üzerinden hibrit veri bağlantısı.NVIDIA, yüksek belirteç verimliliği ve sorgu başına daha düşük çıkarım masrafları için optimize edilmiş kurumsal AI donanımı ile hesaplama ve doğrulama katmanını sunarBirlikte AI, 200'den fazla açık kaynak modelini destekleyen çıkarım hizmeti veren yazılım katmanını sağlar.Bilgisayar verimliliği için paylaşılan çoklu kiracı kurulumlarını ve özel kapasite gerektiren iş yükleri için izole tek kiracı dağıtımlarını destekler.

Equinix Fabric üzerinden yönlendirilmiş trafik, bölgesel kullanıcıların zamanını ilk belirteçine (TTFT) düşürür ve yerel depolama ve model uç noktaları arasında özel eşleştirme bağlantıları oluşturur.

Kurumsal Geliştirme Hedefleri ve KullanılabilirlikMetro-edge çıkarım, merkezi yönetim ve özel bağlantılarla birlikte düşük gecikme API yanıtları için yerel metro merkezleri içinde modeller çalışır.Açık kaynaklı model göçü, kapalı mülkiyetli API'lerden açık temel modellere doğru pürüzsüz bir geçiş yolu sunar, mevcut ağ kumaşlarını yeniden kullanırken satıcı kilitini kesmek.Dağıtılmış tasarımı, şirketlerin sıkı veri ikamet ve yönetim kurallarını karşılamak için tanımlanmış coğrafi sınırlar içinde çıkarım ve veri işleme sahip olmasını sağlar..

Equinix, NVIDIA ve Together AI yöneticileri, bu entegrasyonun, hesaplama performansını ve operasyonel çevikliği dengeleyen, satıcıya bağlı olmayan yüksek verimli bir çıkarım kalıbı sağladığını belirtiyor.

Equinix Inference Exchange, 2027'nin ilk çeyreğinde genel kurumsal kullanılabilirliğe ulaşacaktır.

Pekin Qianxing Jietong Technology Co., Ltd.
Sandy Yang, Küresel Strateji Direktörü
WhatsApp / WeChat: +86 13426366826
E-posta: yangyd@qianxingdata.com
Site: www.qianxingdata.com/www.storagesserver.com
İş odaklı:
İKT Ürün dağıtım/Sistem entegrasyonu ve hizmetler/altyapı çözümleri
20+ yıllık BT dağıtım deneyimiyle, güvenilir ürünler ve profesyonel hizmetler sunmak için önde gelen küresel markalarla ortaklık kuruyoruz.
Akıllı bir dünya inşa etmek için teknolojiyi kullanmak güvenilir İKT ürün hizmet sağlayıcınız!