MLPerf Storage v3.0, yeni KV Önbellek ve vektör veritabanı iş yüklerinin yanı sıra mevcut POSIX çerçevesine bir S3 veri katmanı ekleyerek kıyaslama kriterlerini modern yapay zeka veri sistemi gereksinimleriyle yakından uyumlu hale getiriyor.
MLCommons tarafından geliştirilen MLPerf Depolama karşılaştırması, başlangıçta NVIDIA A100 ve H100 GPU donanımını kullanan Unet3D, Cosmoflow ve Resnet50 dahil olmak üzere makine öğrenimi eğitim iş yükleri için depolama performansını değerlendirdi. V3.0 sürümü, dört temel iş yükü senaryosuna odaklanan kapsamlı bir test yeniden yapılandırmasına sahiptir.
Güncellenen test çerçevesi, NVIDIA B200 veya AMD MI355 GPU'larda simüle edilen, %90'ın üzerinde kullanımı korurken maksimum hızlandırıcı ölçeklenebilirliğini ölçen Unet3D ve RetinaNet'e dayalı yapay zeka eğitimini içeriyor. Ayrıca, 8B'den 1,25T'ye kadar değişen parametrelere sahip Llama 3 tarzı modeller için kontrol noktası oluşturmayı da kapsar ve 10 tur yinelemeli yazma ve okuma için düşük gecikmeye öncelik verir. Ek olarak paket, gecikme ve geri çağırma oranlarını takip ederken sorgu verimini en üst düzeye çıkarmak için 1 milyon, 1536 boyutlu Milvus veri kümesi üzerinde vektör veritabanı testini ve ayrıca maksimum eşzamanlı konuşma desteği kapasitesini ölçmek için KV önbellek testini içerir.
MLPerf Depolama Çalışma Grubu Eş Başkanı Brian Belgodere, yeni test portföyünün ana akım AI çıkarım depolama talepleri için karşılaştırma kapsamını zenginleştirdiğini belirtti. Güncellenen paket, eğitim odaklı eğitim ve kontrol noktası testleri ile çıkarım odaklı KV önbelleği ve vektör veritabanı değerlendirmelerini dengeler. Entegre AI sistemlerini kontrol noktası oluşturma, KV önbelleğe alma ve vektör sorgu işleme dahil olmak üzere hedeflenen depolama iş yükü değerlendirmelerine ayıran kıyaslama, sektör uygulayıcılarının AI altyapı yapılandırmalarını daha iyi optimize etmesine ve depolama performansı darboğazlarını ortadan kaldırmasına olanak tanır.
Yeni eklenen S3 nesne depolama katmanı, tüm v3.0 gönderimlerinin kabaca altıda birinin S3 tabanlı depolama erişimini benimsemesiyle eğitim, kontrol noktası oluşturma ve kısmi vektör veritabanı testlerini destekliyor.
Çalışma Grubu Eşbaşkanı Curtis Anderson, yapay zeka bağlamı trilyonlarca jetona ölçeklendikçe, nesne depolamanın geleneksel dosya sistemi depolamasına uygun, hatta tercih edilebilir bir alternatif olarak ortaya çıktığını belirtti. v3.0'daki yerel S3 desteği, kurumsal depolama dağıtım kararlarına rehberlik edecek şeffaf performans verileri sağlar.
Toplam 19 tedarikçi bu kıyaslama döngüsü için sonuçlar sundu. Özellikle DDN, Dell, Huawei, IBM, NetApp, VAST Data ve WEKA gibi büyük eski kurumsal depolama oyuncularının başvuru listesinde yer almaması dikkat çekti. MLPerf yetkilileri, geleneksel NAS satıcılarının katılımının sınırlı olduğunu ve yerleşik yerleşik şirketlerin çoğunun son tura çıktığını belirtti.
Çeşitlendirilmiş yapay zeka depolama ortamı göz önüne alındığında, v3.0 tek bir genel sıralama yayınlamamaktadır. Bunun yerine, çok boyutlu ölçümlerle dört iş yükü kategorisi için bağımsız sonuçlar sunar. Sonuç veri kümesinin tamamı yaklaşık 145 satır ve 55 sütunu kapsıyor ve toplamda yaklaşık 8.000 veri hücresine sahip olup, KV önbellek performansı ölçümlerine özel olarak ayrılmış 12 sütun içerir. Bunlar, 8B ve 70B Llama modeli iş yükleri için hem yalnızca depolama hem de depolama+bellek mimarileri altında aktarım hızını, okuma/yazma bant genişliğini ve P95 gecikmesini kapsar.
MLCommons ayrıca genel altyapı operasyonel verimliliğini ölçmek için raf başına yoğunluğa ve watt başına enerji verimliliğine dayalı standartlaştırılmış performans değerlendirmesini de önerir.
Güncellenen kıyaslama paketi, satıcıların hedeflenen iş yükleri için sonuçları seçici olarak göndermesine olanak tanıyan son derece karmaşık değerlendirme mantığına sahiptir. Örneğin yalnızca NewFW, Samsung, Suzhou Zishan ve TTA vektör veritabanı test sonuçlarını sundu.
Everpure, FlashBlade//EXA'nın 405B ve 1.25T parametre modelleri için kontrol noktası oluşturma ve KV önbellek testlerinde en üst düzey performansı bildirdi. 1.024 simüle edilmiş hızlandırıcıyı desteklemek için 30 veri düğümüne konuşlandırılan platform, 1,25T model kontrol noktası belirleme için 877,52 GiB/s yazma bant genişliği (17,74 saniyede tamamlama) ve 588,28 GiB/s okuma bant genişliği (28,99 saniyede tamamlama) elde etti. Performansı, 10 düğümde 327,65 GiB/sn yazma veriminden en yüksek 30 düğüm sonucuna kadar doğrusal olarak ölçeklendirildi.
Ek veriler, şirket içi kontrol noktası yazma gönderimlerinin watt başına 14 GB/sn ortalama enerji verimliliği sağladığını ve en yüksek değerin watt başına 201 GB/sn olduğunu gösteriyor. Bu arada, UNet3D okuma testlerinde watt başına 34 GB/sn ortalama verimlilik ve watt başına maksimum 277 GB/sn kaydedildi.
Pekin Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Küresel Strateji Direktörü
WhatsApp / WeChat: +86 13426366826
E-posta: yangyd@qianxingdata.com
Web sitesi: www.qianxingdata.com/www.storagesserver.com
İş Odağı:
BİT Ürün Dağıtımı/Sistem Entegrasyonu ve Hizmetleri/Altyapı Çözümleri
20 yılı aşkın BT dağıtım deneyimimizle, güvenilir ürünler ve profesyonel hizmetler sunmak için önde gelen küresel markalarla ortaklık yapıyoruz.
“Akıllı Bir Dünya İnşa Etmek İçin Teknolojiyi Kullanmak”Güvenilir BİT Ürün Servis Sağlayıcınız!
Mesajınız 20-3.000 karakter arasında olmalıdır!
Turkish
