Turkish
Bu çalışma için seçilen platform Ubuntu 22 çalışan Dell PowerEdge R760'dı.04.02 LTS. 13 Ağustos 2024 sürümünden itibaren DLIO benchmark sürümü 2.0'yu kullandık. Sistem yapılandırmamız aşağıda belirtilmiştir:
- 2 x Intel Xeon Gold 6430 (32-Core, 2.1GHz)
- 16 x 64GB DDR5-4400
- 480GB Dell BOSS SSD
- Seri Kablolar Gen5 JBOF
- 7.68TB Solidigm D7-PS1010
- 61.44TB Solidigm D5-P5336
Benchmarking'imizin gerçek dünya senaryolarını yansıttığını sağlamak için, testlerimizi LLAMA 3.1 405B model mimarisine dayandırdık, model parametrelerini yakalamak için torch.save (() aracılığıyla kontrol noktasını uyguladık,Optimizer durumlarıKurulumumuz 8 GPU sistemini simüle ederek, 8 GPU'ya dağıtılmış 4 yönlü tensör paralel ve 2 yönlü boru hattı paralel işlemle hibrit paralellik stratejisini uyguladı..Bu yapılandırma, modern büyük dil modeli eğitim gereksinimlerini temsil eden 1.636 GB'lık kontrol noktası boyutlarına yol açtı.
DLIO kontrol noktası iş yükü için test sürecimiz, her sürücüyü benzer bir kullanım seviyesine doldurmaktan oluşuyordu. 61.44TB Solidigm D5-P5336 için, her geçiş 33 kontrol noktası aralığı içeriyordu.toplam 54TBDaha küçük 7.68TB D7-PS1010, toplam 4.9TB'lik bir ayak izi ile üç kontrol noktası aralığına rahatlıkla sığar.İstendiğimizden biraz daha yüksek bir kullanım getirdiği halde.
Gen4 QLC tabanlı 61.44TB D5-P5536'yı Gen5 TLC tabanlı 7.68TB D7-PS1010'la karşılaştırdığımızda DLIO kontrol noktası iş yükü ilginç sonuçlar verdi.İki SSD modeli arasında daha geniş bir performans farkına tanık oldukDaha hızlı Gen5 PS1010 her kontrol noktasını ortalama 464 saniyede tamamladı, Gen4 P5336'nın 623 saniyesine kıyasla.PS1010 için 579 ve 587 saniyeye ve P5336 için 676 ve 680 saniyeye kadar daraldı..
Kontrol noktası aralıklarında mümkün olan en küçük boşluğa sahip olmak isteyen işletmeler için, TLC tabanlı Gen5 PS1010, en hızlı tamamlama süresinde bir avantaj sunar.Hedef çok sayıda kontrol noktasını uygun maliyetle korumaksaQLC tabanlı Gen4 P5336 bunu yapabilir. İkinci ve üçüncü geçiş sırasında iki sürüş arasında ortalama kontrol noktası zamanlarında %17'den daha az bir fark ölçtük.
GPUDirect depolama bant genişliği
DLIO, bir yapay zeka iş akışında flaş performansı gösterirken, bir kontrol noktası geri yüklenene kadar iş yükü tamamen yazıya dayanır.AI iş yüklerinde Solidigm D7-PS1010 ve D5-P5336'nın daha tam bir resmini çizmek için, GDSIO kullanılarak okuma bant genişliği ölçümlerini dahil ettik.
GPU Doğrudan Depolama Nasıl Çalışır
Geleneksel olarak, bir GPU NVMe sürücüsünde depolanan verileri işlediğinde, veriler önce GPU'ya ulaşmadan önce CPU ve sistem belleğinden geçmelidir.CPU bir aracı haline geldiğindeGPU Direct Storage, GPU'nun PCIe otobüsü üzerinden depolama cihazından doğrudan verilere erişmesini sağlayarak bu verimsizliği ortadan kaldırır.Bu doğrudan yol veri hareketi ile ilişkili genel masrafları azaltır, daha hızlı ve daha verimli veri aktarımlarına olanak tanır.
Yapay zeka iş yükleri, özellikle derin öğrenme içerenler çok veri yoğunluğundadır.ve veri aktarımında herhangi bir gecikme, yetersiz GPU'lara ve daha uzun eğitim sürelerine yol açabilir.. GPU Direkt Depolama, verilerin GPU'ya mümkün olduğunca hızlı bir şekilde teslim edilmesini sağlayarak, dinlenme süresini en aza indirerek ve hesaplama verimliliğini en üst düzeye çıkararak bu zorluğu ele alır.
Tıpkı DLIO testi gibi, amacımız da yüksek hızlı 5. nesil SSD'ler ile yüksek kapasiteli QLC sürücüler arasındaki farkları daha iyi anlamak ve tanımlamaktır.Ve her sürücü farklı avantajlar sunuyor.İhtiyaca bağlı olarak.
Test Yapılandırma Matrisi
Aşağıdaki parametrelerin her kombinasyonunu sistematik olarak test platformumuzda bir NVIDIA L4 ile test ettik:
- Blok Boyutları: 1M, 128K, 64K, 16K, 8K
- İpek Sayısı: 128, 64, 32, 16, 8, 4, 1
- İş Sayısı: 16
- Parti Boyutları: 16
İlk bakışımız, QLC tabanlı D5-P5336'ya oldu.8K'dan 1M'ye geçiyor.Artmış IO derinliğinin avantajı, iş yüklerinin düzelemeye başladığı 32'de azalmaya başladı.
Daha sonra, Gen5 PS-1010'a bakıyoruz, 1M blok boyutunda 6.2GiB/s'ye kadar ölçeklenebilir ve 128'lik bir IO derinliğine sahip.Özel iş yükleri ile önemli bir yüklenme gösterir128K blok boyutunda önemli bir iyileştirme alanı, 64 ve 128 IO derinliğinde PS1010'un P5336'nın okuma bant genişliğinin iki katını sunduğu 128K blok boyutunda geldi.
Her iki SSD'nin de NVIDIA L4 kullanılarak test edildiğini belirtmek önemlidir. Gen4 D5-P5336 üst ucunda veya yakınında iken,H100 gibi üst model NVIDIA GPU'ları, D7-PS1010 ile daha yüksek bir performans gösterdiBir sürücünün hızı bazı müşteriler için nihai belirleyici faktördür, diğerleri ise genel yoğunluğa öncelik verir.Birbirine bağlıiçin çözümler sunarİkisi de,QLC ve TLC SSD teklifleri.
Sonuçlar
Sandy Yang, Küresel Strateji Direktörü
WhatsApp / WeChat: +86 13426366826
E-posta: yangyd@qianxingdata.com
Site: www.qianxingdata.com/www.storagesserver.com
İş odaklı:
İKT Ürün dağıtım/Sistem entegrasyonu ve hizmetler/altyapı çözümleri
20+ yıllık BT dağıtım deneyimiyle, güvenilir ürünler ve profesyonel hizmetler sunmak için önde gelen küresel markalarla ortaklık kuruyoruz.
Akıllı bir dünya inşa etmek için teknolojiyi kullanmak güvenilir İKT ürün hizmet sağlayıcınız!