Turkish
DeepInfra, ABD dışındaki ilk yurt dışı yatırımı ve dünya genelindeki dokuzuncu tesisi olan yeni bir yapay zeka veri merkezini Toronto'da resmen faaliyete geçirdi. 8 Temmuz'da duyurulan bu yeni tesis, yapay zeka talebinde model eğitiminden ticari çıkarım iş yüklerine doğru yaygın bir endüstriyel kaymanın ortasında DeepInfra'nın küresel çıkarım altyapısı ayak izini genişletiyor.
Toronto veri merkezi, 1,7 MW güç kapasitesine sahip ve 1.000'den fazla NVIDIA Blackwell B300 GPU'ya ev sahipliği yapacak. Tam faaliyete geçtiğinde, yeni hesaplama kümesi DeepInfra'nın küresel çıkarım ölçeğini artıracak ve Kanada ile diğer küresel bölgelerdeki son kullanıcılar için ağ gecikmesini azaltacaktır.
Bu genişleme, açık bir endüstri çapında geçişle uyumludur. Kurumlar üretken yapay zeka araçlarının üretim dağıtımını hızlandırdıkça, veri merkezi altyapısı talebi giderek artan bir şekilde eğitim görevlerinden ziyade çıkarım iş yüklerine odaklanmaktadır. Büyük dil modeli çıkarımı, etkileşimli uygulamaları, akıllı yapay zeka ajanlarını ve yüksek verimli API hizmetlerini desteklemek için tutarlı GPU kullanılabilirliği, düşük gecikmeli ağ ve coğrafi olarak dağıtılmış altyapı gerektirir. McKinsey & Company'nin duyuruda atıfta bulunulan araştırmasına göre, çıkarım iş yükleri 2030 yılına kadar toplam veri merkezi talebinin %40'ını aşacak ve yıllık bileşik büyüme oranı %35 olacaktır.
DeepInfra, Toronto dağıtımının bu gelişen ihtiyaçları karşılamak üzere özel olarak tasarlandığını, GPU hesaplama kaynaklarını son kullanıcılara ve yerel veri kaynaklarına daha yakın konumlandırdığını ve platformun genel verimini artırdığını belirtiyor. Şirket, 200'den fazla açık kaynaklı yapay zeka modelini destekleyen tam GPU altyapı yığınını bağımsız olarak sahipleniyor ve işletiyor. Yönetilen çıkarım platformu, hem açık hem de özel model dağıtımlarını kapsayarak haftada yaklaşık beş trilyon token işliyor.
Bu lansman aynı zamanda modern çıkarım altyapısı için NVIDIA'nın Blackwell mimarisinin artan endüstri benimsemesini de vurguluyor. Önceki Hopper nesli donanıma kıyasla Blackwell GPU'lar, büyük dil modelleri ve çok modlu yapay zeka iş yükleri için gelişmiş çıkarım verimi ve daha iyi enerji verimliliği sağlıyor. DeepInfra ağ ve depolama mimarisi hakkında daha fazla ayrıntı açıklamamış olsa da, bu kalibredeki büyük ölçekli dağıtımlar, tam GPU kullanımını sürdürmek için tipik olarak yüksek bant genişliğine sahip ara bağlantılardan ve dağıtılmış depolamadan yararlanır.
DeepInfra CEO'su ve kurucu ortağı Nikola Borisov'un da belirttiği gibi, kurumsal yapay zeka deneysel denemelerden büyük ölçekli üretim dağıtımlarına geçti ve düşük gecikmeli ve ölçeklenebilir çıkarım yeteneklerine sahip küresel olarak dağıtılmış altyapıya olan talebi artırdı. Toronto kümesinin, şirketin ABD sınırlarının ötesindeki ilk uluslararası genişlemesi olduğunu ve hesaplama kaynaklarını küresel müşterilere ve veri kümelerine yakın konumlandırdığını açıkladı.
Toronto tesisi, DeepInfra'nın son Series B finansman turunun ardından geliyor ve uzun vadeli altyapı genişletme yol haritasının önemli bir parçasını oluşturuyor. Firma, GPU destekli çıkarım hizmetleri için artan pazar talebini karşılamak üzere ek uluslararası veri merkezi sitelerini değerlendirdiğini doğruluyor.
Beijing Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Küresel Strateji Direktörü
WhatsApp / WeChat: +86 13426366826
E-posta: yangyd@qianxingdata.com
Web Sitesi: www.qianxingdata.com/www.storagesserver.com
İş Odak Alanı:
BT Ürün Dağıtımı/Sistem Entegrasyonu ve Hizmetleri/Altyapı Çözümleri
20 yılı aşkın BT dağıtım deneyimiyle, güvenilir ürünler ve profesyonel hizmetler sunmak için önde gelen küresel markalarla ortaklık yapıyoruz.
“Teknoloji ile Akıllı Bir Dünya İnşa Etmek” Güvenilir BT Ürün Hizmet Sağlayıcınız!
Sandy Yang/Küresel Strateji Direktörü
WhatsApp / WeChat: +86 13426366826
E-posta: yangyd@qianxingdata.com
Web Sitesi: www.qianxingdata.com/www.storagesserver.com
İş Odak Alanı:
BT Ürün Dağıtımı/Sistem Entegrasyonu ve Hizmetleri/Altyapı Çözümleri
20 yılı aşkın BT dağıtım deneyimiyle, güvenilir ürünler ve profesyonel hizmetler sunmak için önde gelen küresel markalarla ortaklık yapıyoruz.
“Teknoloji ile Akıllı Bir Dünya İnşa Etmek” Güvenilir BT Ürün Hizmet Sağlayıcınız!