SK Hynix, tescilli Düşük Gerilim Çıkarımı (LVI) ve Küme Ölçekli Bellek (CSM) teknolojilerine sahip raf ölçekli sistemler oluşturan ABD'li yapay zeka çıkarım girişimi Etched'ı destekledi.
Etched, sektördeki kritik bir darboğazı çözüyor: Geleneksel GPU'lar aşırı bilgi işlem gücü sunarken büyük ölçekli yapay zeka çıkarımı için yetersiz bellek sunarak hantal, çok katmanlı KV önbelleğe alma çerçevelerine yol açıyor. Özel çıkarım yongaları, güç kullanımını azaltır ve bellek bant genişliği ve kapasitesi açısından geleneksel GPU HBM'den daha iyi performans göstererek KV önbelleğe almayla ilgili gecikmeyi ve tasarım karmaşıklığını azaltır.
Bu yatırım, İsrailli startup Majestic Labs'in gizlilik modundan çıkması ve firmanın büyük ölçekli paylaşımlı bellek havuzlarına sahip özel işlemcili çıkarım sunucuları oluşturmasının ardından geldi.
2023 yılında San Jose'de okulu bırakan üç Harvard öğrencisi tarafından kurulan Etched'in çekirdek ekibi, CEO Gavin Uberti, Başkan Robert Wachen ve Chris Zhu'dan oluşuyor. Ekip, erken gelişimini desteklemek için iki yıllık 250.000 ABD doları değerinde Thiel Bursu aldı.
Ekip, çıkarım verimliliğini artırmak için özelleştirilmiş LVI ön doldurma işleme ve CSM paylaşımlı bellek oluşturdu. Şirket içi çipleri, paketlemeyi, PCB'leri ve ara bağlantı modüllerini entegre eden tam yığın çözümü, büyük ölçekli ticari çıkarım dağıtımına olanak tanır.
Zhu, ana akım yapay zeka çiplerinin yüksek yük altında ciddi termal daralmaya maruz kaldığına dikkat çekti: Artan güç tüketimi saat hızlarını düşürüyor ve gerçek çıkarım verimini teorik zirvenin yarısının altına düşürüyor. Etched'in çipleri, aritmetik birimleri tipik endüstri voltajının yarısında çalıştırarak bilgi işlem yoğunluğunu önemli ölçüde artırıyor.
Ayrıca önemli donanım ödünleşimlerine de değindi: HBM donanımlı AI yongaları, bellek ve ara bağlantı sınırları nedeniyle kod çözme hızında SRAM'in gerisinde kalırken, saf SRAM yongaları, daha hızlı erişim için bilgi işlem yoğunluğunu ve kapasitesini tehlikeye atarak genel verimi azaltır.
Çoklu bellek katmanları arasında katmanlar arası jeton iletimi gecikme oluşturduğundan, bu durum büyük MoE modelinin çalışmasını engeller. Etched'in mimarisi, sorunu çözmek için gereksiz bellek katmanlarını kaldırır.
Etched'in CSM mimarisi, ölçeklenebilir donanım için birleşik, düşük gecikme süreli, paylaşılan bir bellek havuzu oluşturur ve çipler arası bellek erişimini hızlandırmak için özel yüksek hızlı ara bağlantıdan yararlanır.
Hibrit HBM/SRAM tasarımı, bellek kapasitesini ve çipler arası gecikmeyi dengeleyerek yüksek verimli etkileşimli çıkarım sağlar. CSM, saf SRAM, 3D DRAM ve optik çip çözümlerinin maliyet, kararlılık, termal ve performans kusurlarını ortadan kaldırır.
Bu yenilik, HBM yığınlarını GPU mimari kısıtlamalarından ayırır, dağınık bellek kaynaklarını birleştirir ve gelişmiş ara bağlantı teknolojisi aracılığıyla SRAM düzeyinde erişim hızı sunar.
Etched'in raf sistemi, arka bağlantı noktalarını sekiz çekirdekli donanım birimlerine bağlayan 16 özel kabloyla yüksek bağlantı düzenine sahiptir.
Sistem ana akım LLM'leri, MoE modellerini ve Mamba gibi transformatörsüz mimarileri desteklerken, şirket tam sistem Ar-Ge ve ticari satışlara odaklanıyor.
Kazınmış Finansman Geçmişi
2022 – Şirket kuruldu
2023 – 5,4 milyon dolarlık tohum turu
2024 – 120 Milyon Dolar Seri A
2025 – 500 Milyon Dolar Seri B
2026 – 300 Milyon Dolar C Serisi
Bugüne kadarki toplam finansman: 925,4 milyon dolar
Sequoia Capital, Andreessen Horowitz, Jane Street ve SK Hynix'in katılımıyla Etched'in 2026 Serisi C turuna liderlik etti. Turun değeri firmaya 10,3 milyar dolar olarak ulaşarak 2024 Serisi B değerlemesinin iki katına çıktı.
Tutarlı yıllık bağış toplama hızı, güçlü müşteri talebi ve sağlam yatırımcı güveniyle desteklenen, devam eden ürün yinelemesini yansıtıyor.
Wachen, yeni sermayenin çıkarım kümesi seri üretimini hızlandıracağını söyledi. Firma, prototip oluşturma ve üretim verimliliğini artırmak için Milpitas'ta 10 MW'lık bir üretim tesisi açtı.
Baş Mimar Saptadeep Pal, Etched'ın 1 milyar doları aşan müşteri siparişleri olan 400'den fazla çalışanı olduğunu açıkladı. Tayvan'daki Ar-Ge ve üretim üssü, hızlı ölçeklendirmeyi desteklemek için tedarikçi işbirliğini ve ürün testlerini optimize ederek 24 saat çalışmayı mümkün kılıyor.
Temel müşterileri arasında büyük kuruluşlar, yeni ortaya çıkan bulut sağlayıcıları ve hizmet olarak çıkarım çözümleri sunan küresel hiper ölçekleyiciler yer alıyor.
Yorum
Etched ve Majestic Labs'ın yeni çıkarım rafları geleneksel KV önbelleğe almanın ötesine geçerse kurumsal depolama pazarını yeniden şekillendirecek. Bu sistemler yüksek hızlı, düşük gecikme süreli depolama gerektirir ve Dell, HPE, NetApp ve VAST Data gibi satıcıların optimum performans için depolama dizilerini yeni nesil çıkarım sunucularıyla eşleştirmelerine yönelik işbirliği fırsatları yaratır.
Pekin Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Küresel Strateji Direktörü
WhatsApp / WeChat: +86 13426366826
E-posta: yangyd@qianxingdata.com
Web sitesi: www.qianxingdata.com/www.storagesserver.com
İş Odağı:
BİT Ürün Dağıtımı/Sistem Entegrasyonu ve Hizmetleri/Altyapı Çözümleri
20 yılı aşkın BT dağıtım deneyimimizle, güvenilir ürünler ve profesyonel hizmetler sunmak için önde gelen küresel markalarla ortaklık yapıyoruz.
“Akıllı Bir Dünya İnşa Etmek İçin Teknolojiyi Kullanmak”Güvenilir BİT Ürün Servis Sağlayıcınız!
Mesajınız 20-3.000 karakter arasında olmalıdır!
Turkish
