Küresel flash ve bellek sektöründe hafta sonu yoğun aktivite yaşandı. Micron-Apple anlaşmazlığı, Anthropic'in SK Hynix ile çip tedarik görüşmeleri, yeni Nvidia-SK Hynix ortaklığı,SK Hynix'in 3D DRAM gelişimi, ve Samsung'un CXL bellek birleştirme yeniliği.
SK Hynix, son zamanlarda endüstrinin manşetlerine hakim oldu.San Jose Üniversitesi aracılığıyla 3D yığılmış DRAM-on-logic tasarım mühendislerinin stratejik olarak işe alınması ile desteklendi.ABD'li birçok müşteriyle birlikte 3 boyutlu DRAM mantıksal ölçekleri tasarlayabilecek yeteneklileri işe alıyoruz.
Yeni mimari, sistem yarı iletken işlemcilerinin üzerine 3 boyutlu DRAM yığınlarını yerleştirir.DRAM ve mantığı tek bir döngüye entegre etmek, ayrı bellek ve mantık paketlerinin geleneksel paket-paket (PoP) bağlanmasından daha hızlı çipler arası bağlantı ve daha düşük güç tüketimi sağlar.
Jukan, teknolojinin yüksek bellek bant genişliği ve düşük güç tüketimi gerektiren AI iş yükü cihazlarını hedeflediğini belirtir.Özellikle akıllı telefonlar için mobil uygulama işlemcileri, Apple'ı SK Hynix'in önemli potansiyel müşterisi olarak konumlandırıyor.
SK Group, resmi niyet mektupları ile Nvidia ile stratejik ortaklığını genişletti ve 500 milyar doların üzerinde değerli bir işbirliği kurdu.SK Telecom, küresel hesaplama talebini karşılamak için yeni bir bulut sağlayıcısı olarak 2 GW Nvidia Vera Rubin DSX AI Fabrikası inşa edecek.Vera Rubin çipleri SK Hynix'in HBM4 belleğini kullanacak ve ilk AI Fabrikası'nın 2027'de başlaması planlanıyor.
Ortaklık, egemen, fiziksel, ajanlık ve kurumsal AI hizmetlerini kapsayan büyük ölçekli AI altyapısı geliştirmesini hızlandırmayı amaçlıyor.ve Güney Kore'de ve geniş Asya-Pasifik bölgesinde artmakta olan yapay zeka talebini gidermek içinSK Hynix, SK Hynix'in üretim kapasitesini genişletirken Nvidia için istikrarlı bir yeni nesil AI bellek tedarikini güvence altına alarak Nvidia ile uzun vadeli bir AI bellek ortaklığı başlatacak.Her iki taraf da LLM eğitimi için HBM ve diğer AI bellek çözümlerini ortaklaşa geliştirecek ve optimize edecek., ajantik ve fiziksel AI senaryoları.
SK Grubu Başkanı Chey Tae-won, işbirliğinin SK Hynix'in AI belleğini ve SK Telecom'un altyapı güçlerini kullanarak dünya standartlarında bir AI fabrikası inşa edeceğini söyledi.Güney Kore'yi yapay zeka kullanan bir ülkeden küresel bir yapay zeka inovasyon merkezine dönüştürmek.
Intel'in eski CEO'su Pat Gelsinger, HBM'yi Kore endüstrisi yakınında yapılan bir sohbet sırasında açıkça eleştirdi ve bunu kusurlu bir bellek çözümü olarak adlandırdı.GPU kenar kıyı çizgileri tarafından kısıtlanan bağlantı sınırlarıGelsinger, HBM'nin günümüzde mevcut en iyi uygulanabilir çözüm olduğunu kabul etti.
SK Hynix SVP Hoshik Kim, HBM'nin AI'nin doğuştan var olan hafıza duvarı sıkışıklığını temelde çözemeyeceğini belirterek Gelsinger'in görüşünü kısmen onayladı.HBM'nin sadece geçici bir hafifletme önlemi olduğunu açıkladı., SK Hynix ise çekirdek bellek duvarı sorununu çözmek için alternatif çözümler aktif olarak geliştirir.
Bloomberg'e göre, önde gelen ABD AI şirketi Anthropic, ev içi özel AI işlemcilerini desteklemek için özel bellek yongaları tedarik etmek için SK Hynix ile müzakere ediyor.SK Group Başkanı Chey Tae-won, San Francisco'da Temmuz 2024'te düzenlenen AI Zirvesinde bu haberi açıkladı., Anthropic CEO'su Dario Amodei'nin de konuştuğu, Anthropic'in Nvidia'nın GPU baskısını kırmak için yaygın endüstri çabalarının ortasında iddialı donanım geliştirme hedeflerini övdü.Amodei açıkça yorumlara cevap vermedi..
Samsung, resmi teknoloji bloguna göre, KV önbelleği indirimi için harici CXL toplu belleği kullanarak AI çıkarım iş yükleri için neredeyse yerli DRAM performansı elde etti.LLM'ler, çıkarım gecikmesini ve gereksiz bilişimi azaltmak için hesaplanmış dikkat anahtarlarını ve değerlerini saklamak için KV önbelleğine güveniyor, ancak büyük modeller yüzlerce gigabayt önbelleğe ihtiyaç duyar, kolayca binadaki AI işlemci belleğini aşar.Geleneksel SSD veya ağ tabanlı boşaltma kapasite sınırlarını hafifletir, ancak ekstra gecikme ve bant genişliği harcamalarını getirir.
CXL teknolojisi, CXL anahtarları aracılığıyla birden fazla cihazda ölçeklenebilir bellek bir araya gelmesini sağlayan yüksek bant genişliği tutarlı PCIe bağlantıları yoluyla geleneksel DRAM fiziksel kısıtlamalarını kırar.Samsung'un CMM-D (CXL Memory Module-DRAM) bu genişletilmiş bellek mimarisi için özel olarak tasarlanmıştır.
Samsung, CMM-D modüllerini Nvidia RTX PRO 6000 Blackwell GPU'ları ile PCIe Gen5 üzerinden test etti ve vLLM ve LMCache yazılım optimizasyonlarıyla 1TB CXL bellek havuzu oluşturdu.Testler, havuzun büyük ölçekli KV önbelleği yüklenmesini neredeyse DRAM performansı ile desteklediğini doğruladı.. Tek GPU kurulumlarında, optimize edilmiş CXL birleştiriciliği, LMCache arka uç olarak DRAM performansına eşleşti. Sekiz GPU çoklu GPU ortamlarında,çok daha büyük bellek kapasitesi ile yerel DRAM işlem gücünün% 92'sini korudu.
Daha fazla test, artan KV önbelleği yükleri altında 512GB yerel DRAM kurulumunu ve 1TB CXL havuzunu karşılaştırdı.Yerel DRAM, kapasite aşıldığında tekrarlanan önbelleğin yeniden hesaplanmasından dolayı ciddi performans düşüşleri yaşadı, CXL havuzu istikrarlı bir performansı korudu ve çok daha büyük önbellek ayak izlerini destekledi.
Samsung, mevcut CXL anahtar dağıtımlarının LMCache ve diğer bileşenler için ana seviye çekirdek ve yazılım ayarlamaları gerektirdiğini belirtir.0 tabanlı bellek birleştirmesi güçlü bir uygulama potansiyeli gösteriyor, mevcut teknik sınırlamaları ortadan kaldırmak için Intel DMR, AMD Venice ve yeni CXL 3.0 anahtar platformları ile devam eden ekosistem olgunlaşması ile.
Son olarak, Micron ve Apple arasında artan bir çatlak ortaya çıktı.Citrini'den Jukan, Apple'ın Beyaz Saray'a Çin'in listelenmiş CXMT DRAM'ını cihazlarına yerleştirme izni için lobi yaptığını açıkladı.Micron, CXMT çipinin kullanılmasını engellemek için karşı temyiz başlatıyor.Sandisk'teyken Apple, bir alıcı pazarında düşük flash bellek fiyatlarını zorladı.Mevcut hafıza pazarının tedarikçileri tercih etmesiyle, Mehrotra'nın Apple için fiyat ve tedarik kısıtlamalarını hafifletmeye istekli olmadığı bildirildi.
Pekin Qianxing Jietong Technology Co., Ltd.
Sandy Yang, Küresel Strateji Direktörü
WhatsApp / WeChat: +86 13426366826
E-posta: yangyd@qianxingdata.com
Site: www.qianxingdata.com/www.storagesserver.com
İş odaklı:
İKT Ürün dağıtım/Sistem entegrasyonu ve hizmetler/altyapı çözümleri
20+ yıllık BT dağıtım deneyimiyle, güvenilir ürünler ve profesyonel hizmetler sunmak için önde gelen küresel markalarla ortaklık kuruyoruz.
Akıllı bir dünya inşa etmek için teknolojiyi kullanmak güvenilir İKT ürün hizmet sağlayıcınız!
Mesajınız 20-3.000 karakter arasında olmalıdır!
Turkish
