Dell Pro Precision 9 T4, Dell'in Pro Precision serisinin amiral gemisi tek soketli tower'ıdır ve bu inceleme birimi, çoğu iş istasyonunun ulaşamayacağı bir ölçekte yerel yapay zeka için yapılandırılmıştır. 86 çekirdekli Intel Xeon 698X'i 256 GB DDR5-6400 ECC belleğe, her biri 96 GB GDDR7'ye sahip iki adet 300 W NVIDIA RTX PRO 6000 Blackwell Max-Q kartına, iki adet 2 TB Gen5 SSD'ye ve 2400 W güç kaynağından yararlanan çift bağlantı noktalı 25 GbE adaptöre sahiptir.
![]()
Temel Çıkarımlar
- 1,İkinci bir GPU, bir karta sığmayan modeli kullanılabilir bir modele dönüştürür. 129,3 GB'taki MiniMax M2.7, her iki karta bölündüğünde tek bir kullanıcı için 83,7 jeton/s üretti; tek kartla ve modelin geri kalanı sistem belleğinde elde edildiğinde 30,3 jeton/sn'nin 2,8 katı.
- 2,İkinci GPU, 1,85–2,02 kat hizmet ve 1,92 kat yerleştirme ile ölçeklendirilmiştir. GPU başına bir sunucu ile en yüksek llama.cpp çıktısı Ministral 3 3B'de 582,5'ten 1.176,1 jeton/s'ye ve gpt-oss 120B'de 424,8'den 787,9 jeton/sn'ye yükselirken, bir milyon Wikipedia pasajının yerleştirilmesi 890'dan 464 saniyeye düştü.
- 3,İkinci bir GPU, LoRA dönemini %37 oranında kısalttı: Ministral 3 8B'deki bir dönem, bir GPU'da 31,5 dakika ve iki GPU'da 19,7 dakika sürdü ve 1,169 ve 1,167'lik gecikmeli kayıplarla sona erdi.Bellek bant genişliği Xeon'un öne çıktığı yerdir. STREAM Triad, Precision 7875'te Threadripper PRO 9995WX'in %53 üzerinde, 328 GB/s'ye ulaştı ve T4, OpenFOAM sürücü çözümünü 556'ya kıyasla 293 saniyede ve 10 milyar basamaklı y-cruncher koşusunu 83,7'ye kıyasla 53,9 saniyede tamamladı.
- 4, Precision 7875, çekirdeğe bağlı CPU çalışmalarında liderdir: 96 çekirdekli Threadripper, 7-Zip'te %37 ve Blender Monster'da %30 önde koştu ve LLVM yapısını 58.4'e karşı 43.7 saniyede tamamladı.
T4'ün Oturduğu Yer
Dell, iş yükü listesinin başında yapay zeka geliştirme, mühendislik simülasyonu ve bilimsel bilgi işlem yer alarak, maksimum bilgi işlem yoğunluğuna ve genişletilebilirliğe ihtiyaç duyan kuruluşlar için T4'ü amiral gemisi tek soketli kule iş istasyonu olarak konumlandırıyor. Aynı Xeon 6 iş istasyonu platformunu tek GPU'lu daha küçük bir kasada kullanan Pro Precision 9 T2'nin üzerinde yer alıyor. T4, serinin en üstüne 86 çekirdeğe kadar sekiz kanallı işlemciler ve modele bağlı olarak dört adede kadar grafik kartı için yer ekler.
336 MB önbellek, 2,0 GHz temel saat, maksimum 4,8 GHz ve 350 W derecelendirmesine sahip bu ünitede işlemci seçenekleri 12 çekirdekli Xeon 634'ten başlıyor ve 64 çekirdekli Xeon 696X'ten 86 çekirdekli Xeon 698X'e kadar uzanıyor. Bellek, 16 yuvada 4 TB DDR5 RDIMM'e kadar ölçeklenir ve bu ünite, bunlardan sekizini 6400MT/s hızında 32 GB modüllerle doldurur. Grafikler, kart sayısı modele bağlı olarak tek bir RTX A400'den başlar: Dell'in yapılandırıcısında dört adet RTX A1000 kartı, üç adet RTX PRO 4000 Blackwell kartı, iki adet 300W RTX PRO 6000 Max-Q kartı veya bir adet 600W RTX PRO 6000 listelenir.
Temel yapılandırma 5.925 ABD Doları olarak listeleniyor. Bu yapıya Xeon 698X için 8.300 ABD Doları, 256 GB bellek için 15.000 ABD Doları ve RTX PRO 6000 Max-Q kart çifti için 30.820 ABD Doları eklenir; depolama, ağ oluşturma ve 36 aylık ProSupport yükseltmesi Dell otomatik olarak bu düzeyde uygulanmadan önce.
Yapım, Tasarım ve Özellikler
T4, 449,8 mm yüksekliğinde, 203,7 mm genişliğinde ve 617,5 mm derinliğinde, yapılandırmaya bağlı olarak minimum 24,1 kg ve maksimum 33,6 kg olarak listelenen tam bir kuledir. Bu ünite, Dell'in yapılandırıcısının ikili RTX PRO 6000 yapısı için seçtiği 2400 W Platinum kaynağı kullanır; daha hafif yapılandırmalarda varsayılan olarak 1500 W'lık kaynak bulunur.
Servis kolaylığı, yan panel mandalından aletsiz giriş ve üst arkadan elle kaydırılan 2400 W güç kaynağıyla başlayan güçlü bir noktadır. Grafik kartları ve SSD'ler de dahil olmak üzere diğer her şey bir Phillips tornavidayla çıkıyor ve Dell'in mavi temas noktaları elle serbest bırakılan parçaları işaretliyor. Laboratuvar, platformun sahada onarılmasının kolay olduğunu buldu ve bu da bu fiyata önemli.
Soğutma, Dell'in bu sınıftaki kulelerde gördüğümüz en iyi performansıdır. Hava önden arkaya doğru hareket eder ve büyük biçimli kaportalar, kanalı PCIe alanından ayrı tutarken, onu aşağıya ve işlemci ve bellek boyunca yönlendirir. Bu, iki 300W karta bağımsız bir hava akışı sağlar, böylece 350W Xeon tarafından ısıtılan havayı çekmezler. İşlemci bölgesi ile kart yuvası arasında iki fan bulunur ve fan düzeneği aynı mavi temas noktalarını taşır ve belleğe erişim için yukarı doğru kaldırılır.
Genişletme, altı adet tam yükseklikte PCIe yuvası üzerinden gerçekleştirilir: GPU'ları taşıyan iki adet Gen5 x16, bir adet Gen5 x8, bir adet Gen4 x8 ve x8 konnektörleri ve x4 kablolamaya sahip iki adet Gen4 yuvası. Depolama, üç dahili M.2 Gen5 yuvasını ve bir Gen4 yuvasını, iki dahili 3,5 inç SATA bölmesini ve isteğe bağlı ince optik sürücünün yanı sıra dört adede kadar NVMe sürücüyü veya iki 3,5 inç sürücüyü tutan bir ön FlexBay'i kapsar. Bu ünite, dahili bir 2 TB Gen5 sürücüsünden önyükleme yapar ve başka bir dahili M.2 yuvasında ikinci bir 2 TB Gen5 sürücüyü taşır.
Ön panelde bir kulaklık girişi, iki adet 10 Gbps USB-A bağlantı noktası, PowerShare özellikli 20 Gbps USB-C bağlantı noktası, 10 Gbps USB-C bağlantı noktası ve isteğe bağlı bir SD kart yuvası bulunur. Arka tarafta 10GbE ve 1GbE RJ-45 bağlantı noktaları, dört adet 10Gbps USB-A bağlantı noktası, iki adet 10Gbps USB-C bağlantı noktası, bir 20Gbps USB-C bağlantı noktası, seri, iki PS/2 bağlantı noktası ve hat çıkışı bulunur. Bu üniteye Intel E810-XXV çift bağlantı noktalı 25GbE SFP28 adaptör, Bluetooth 5.4 özellikli MediaTek Wi-Fi 7 MT7925, bir ortam kartı okuyucu ve Dell'in çift USB-C eklenti kartı eklenir.
Güvenlik ve yönetim; TPM 2.0, Dell SafeBIOS, kasaya izinsiz giriş tespiti, kendi kendini şifreleyen sürücü desteği, BIOS güvenli silme ve Intel vPro Enterprise'ı kapsar. Dell, T4'ün temel bileşenlerinde %85'e kadar geri dönüştürülmüş plastik, saplarda %90 geri dönüştürülmüş alüminyum ve kasada %11 geri dönüştürülmüş çelik listeliyor ve yapılandırma ENERGY STAR onaylıdır.
| Öğe | Şartname |
|---|---|
| Modeli | Dell Pro Precision 9 T4 (PW9T4260) |
| İşlemci (test edildiği gibi) |
Intel Xeon 698X, 86 çekirdek / 172 iş parçacığı, 336MB önbellek,2,0 GHz taban, 4,8 GHz'e kadar, 350 W |
| İşlemci seçenekleri | Xeon 634 (12 çekirdek) ila Xeon 698X (86 çekirdek) |
| Hafıza | 256 GB (8× 32 GB) DDR5-6400 RDIMM ECC; 16 yuva, 4 TB'a kadar |
| Grafik | 2× NVIDIA RTX PRO 6000 Blackwell Max-Q, her biri 96 GB GDDR7, her biri 300 W |
| İşletim sistemi | İş İstasyonları için Windows 11 Pro (Ubuntu 26.04.1 LTS'de test edilmiştir) |
| Yapılandırıldığı şekilde depolama | 2× 2 TB M.2 2280 Gen5 x4 TLC SED (her ikisi de dahili M.2 yuvalarında) |
| Dahili depolama yuvaları | 3× M.2 2230/2280 5. Nesil NVMe; 1× M.2 2230/2280 4. Nesil NVMe; 2 × 3,5 inç SATA |
| FlexBay | 4 adede kadar NVMe sürücü artı isteğe bağlı ince ODD veya 2× 3,5 inç SATA |
| PCIe yuvaları | 2× Gen5 x16; 1× Gen5 x8; 1 × 4. Nesil x8; 2× Gen4 x8 (x4 elektrikli) |
| Ağ oluşturma |
Intel E810-XXV çift bağlantı noktalı 25GbE SFP28 (eklenti); yerleşik 10GbE ve 1GbE RJ-45;MediaTek Wi-Fi 7 MT7925, Bluetooth 5.4 |
| Ön bağlantı noktaları |
1× PowerShare özellikli USB-C 20 Gbps; 1× USB-C 10 Gb/sn; 2× USB-A 10Gbps; kulaklık jakı; isteğe bağlı SD kart yuvası |
| Arka bağlantı noktaları |
1× USB-C 20 Gb/sn; 2× USB-C 10 Gb/sn; 4× USB-A 10Gbps; seri; 2 × PS/2; hat çıkışı |
| Güç kaynağı | 2400W Platin (1500W seçeneği) |
| Boyutlar | 449,8 × 203,7 × 617,5 mm |
| Ağırlık | Yapılandırmaya göre 24,1 kg ila 33,6 kg |
| Güvenlik ve yönetim |
TPM 2.0, Dell SafeBIOS, kasaya izinsiz giriş tespiti, kendi kendini şifreleyen sürücü desteği, BIOS güvenli silme, Intel vPro Enterprise |
| Sürdürülebilirlik |
Temel bileşenlerde %85'e kadar geri dönüştürülmüş plastik, %90'a kadar geri dönüştürülmüş alüminyum kulplar, %11 geri dönüştürülmüş çelik şasi; ENERGY STAR onaylı |
| Garanti | Uzaktan teşhisin ardından yerinde servisle ProSupport, 36 ay |
| Fiyat | 5.925$ tabanı; yapılandırılmış haliyle yaklaşık 66.600$ |
Test Kurulumu ve Metodolojisi
Dört sistemin tümü, Linux performans güç profilinde NVIDIA sürücüsü 595.99.02, CUDA 13, llama.cpp build b11716 ve Ollama 0.40.3 ile çekirdek 7.0.0-43 üzerinde Ubuntu 26.04.1 LTS'yi çalıştırdı. Sonuçlar, yerel yapay zeka ve istemci iş yükleri için sr-client'ten, derleme, sıkıştırma, kripto, web sunumu ve y-cruncher için sr-harness'tan ve GROMACS, OpenFOAM, ClickHouse, Valkey ve bellek bant genişliği için sr-suite r5.28'den gelir; her rakam tekrarlanan geçişlerin ortancasıdır. Tüm sistemler, BIOS termal modu Ultra Performans'a ayarlanmış olarak, T4 ise BIOS 1.2.0'da çalıştırıldı.
Her karşılaştırma sistemi, RTX PRO 6000 Blackwell grafik kartına sahip bir Dell tower kasadır. Precision 7875, 96 çekirdekli Threadripper PRO 9995WX'i aynı iki Max-Q kart ve 512 GB DDR5-5600 ile eşleştirerek en yakın eşleşmeyi sağlıyor. Pro Precision 9 T2, bir Max-Q kartla 24 çekirdekli Xeon 658X'i çalıştırırken Pro Max Tower T2, 600W RTX PRO 6000 ile 24 çekirdekli Core Ultra 9 285K'yı çalıştırıyor; bu da GPU başına daha yüksek güç sınırının ne kadar katkı sağladığını gösteriyor.
Yerel Yapay Zeka Performansı
Buradaki her sistem, 96 GB GDDR7'ye sahip en az bir RTX PRO 6000 Blackwell taşıyor; dolayısıyla tek GPU sonuçları, kartı, güç limitini ve platformun onu ne kadar hızlı beslediğini ölçer. T4'ün iki kartı onu diğerlerinden farklı kılıyor ve iki GPU testi, uygun olduğu durumlarda her modeli üç şekilde çalıştırıyor: üretim için GPU başına bir tane olmak üzere iki bağımsız sunucu; her iki kartta da katmanlara bölünmüş bir model; ve MiniMax M2.7 için modelin geri kalanının sistem belleğinde olduğu bir kart.
Bir GPU'da T4, 300W sınırının koyduğu yere iner. gpt-oss 120B'de bir kullanıcı için 166,9 token/s üretti ve dört modelin tamamında Precision 7875'in aynı Max-Q kartının %1 ila %9'u dahilinde ve Pro Precision 9 T2 ile aynı seviyede olacak şekilde 64 eşzamanlı istekte 424,8'e ulaştı. Pro Max Tower T2'deki 600 W kart, her modelde en yüksek noktada %13 ila %25 daha hızlıdır ve gpt-oss 120B'de 520,7 jeton/sn'ye ulaşır.
GPU başına bir sunucu çalıştırmak, T4'ün en yüksek çıkışını dört modelde 1,85 ila 2,02 kat artırdı: Ministral 3 3B'de 582,5'ten 1.176,1 token/s'ye, 8B modelinde 383,6'dan 765,7'ye ve Qwen3.8 27B'de 158,1'den 310,8'e. gpt-oss 120B, T4'te 1,85x ile 787,9 token/s arasında ölçeklendi ve Precision 7875'te 1,98x ile 905,8 token/s arasında ölçeklendi ve T4 için 64'e karşılık 128 eşzamanlı istekle zirveye ulaştı.
gpt-oss 120B'yi her iki karta da katmanlara bölmek, model zaten bir karta sığdığında ikinci GPU'yu kullanmanın daha yavaş yoludur: tek bir kartın %3'ü dahilinde, 170,6 jeton/sn hızında bir kullanıcıya hizmet verdi ve 539,2'ye ulaştı, bir GPU'nun %27 üzerinde ancak iki kopyanın sağladığı 787,9'un çok altındaydı. Bölünmüş düzen, MiniMax M2.7'nin devreye girdiği tek karta sığmayan modeller için yerini alır.
MiniMax M2.7, 230 milyar parametreli uzmanların karışımından oluşan bir modeldir ve bu 4 bitlik niceleme, bir RTX PRO 6000'deki 96 GB'tan daha fazla olan 129,3 GB alan alır. Geri kalanı sistem belleğinde olan bir kartta, T4, bir kullanıcı için 30,3 jeton/sn üretti ve ilk jetonu döndürmesi 16,2 saniye sürdü. Her iki karta bölündüğünde, tek kullanıcı çıktısı 83,7 token/s'ye, yani tek kart hızının 2,8 katına yükseldi; İlk tokena kadar geçen süre 16,2 saniyeden 3,1 saniyeye düştü ve en yüksek verim 35,5'ten 127,3 token/s'ye yükseldi.
Tek GPU sayıları, bir model sistem belleğine aktarıldığında ana bilgisayar platformunun ne kadar önemli olduğunu gösterir. T4'ün sekiz DDR5-6400 kanalı, sistemin 600 W kartının uyan her modelde daha hızlı olmasına rağmen, onu 22,6 token/s ile dört kanallı Pro Precision 9 T2'den %34 ve çift kanallı Pro Max Tower T2'den 15,8 ile 1,9 kat önde tutuyor. Precision 7875, %35 daha az bellek bant genişliğiyle T4'ü 32,8 jeton/sn hızında geride bıraktı; dolayısıyla bant genişliği tek başına sonucu açıklamaz; 7875'in ilerlemesini sebebini izole etmeden ölçüldüğü gibi rapor ediyoruz.
Soğuk model yükleri Gen5 sürücülerinin lehinedir: T4 gpt-oss:120b'yi SK hynix Gen5 SSD'sinden 15,2 saniyede yükleyerek Pro Precision 9 T2 ile eşleşir ve Gen4 donanımlı Precision 7875 ve Pro Max Tower T2'deki 25,8 ve 28,2 saniyelerin oldukça ilerisindedir. Sayfa önbelleğinden gelen sıcak yüklemeler bu sırayı tersine çeviriyor; 7875, T4'te 7,5'e karşı 5,0 saniyede çalışıyor ve bir kopyanın her GPU'ya aynı anda yüklenmesi T4'te 26,5 saniye sürüyor.
RAG, İnce Ayar ve Üretken Yapay Zeka
RAG ölçeğinde test, SQuAD sorularını bir milyon Vikipedi pasajı arasında gizler, bunları nomik gömülü metinle birleştirir, bir HNSW dizini oluşturur ve Phi-4-mini ile yanıtlar. İki GPU, T4'ün yerleştirme süresini Precision 7875'te 423 saniyeye kıyasla 1,92 kat artışla 890 saniyeden 464 saniyeye düşürdü; Pro Max Tower T2'deki 600W kart, 722 saniyeyle en hızlı tek GPU'ydu.
Dizin oluşturma ve vektör arama CPU üzerinde çalışır ve T4'ün öncülük ettiği yer burasıdır. HNSW endeksini Precision 7875'te 34,8'e ve Pro Max Tower T2'de 118,6'ya karşı 27,3 saniyede oluşturdu ve ef 64, 1,51× 7875 ve 5,6× Core Ultra sisteminde 98.503 sorgu/s'de arama yaptı. Ef 256'da, tam aramaya kıyasla %97,6 geri çağırma oranıyla 32.149 sorgu/sn gerçekleştirdi ve yanıtlar ortalama 0,12 saniyede geri döndü.
Tek dönemli LoRA testi, Dolly 15k üzerinde BF16'daki Ministral 3 8B'ye 1.849 adımda ince ayar yapar ve her 100 adımda 200 uzatılmış örneği puanlar. Her sistem 1,534'lük gecikmeli bir kayıpla başladı ve 1,167 ile 1,172 arasında tamamladı, dolayısıyla fark dönem başına zamana iniyor. Bir T4 GPU, aynı Max-Q kartındaki Pro Precision 9 T2'nin %3'ü yakınında, 1.584 jeton/sn ile 31,5 dakikada tamamlandı; Precision 7875 27,2 dakika, Pro Max Tower T2'deki 600W kart ise 22,3 dakika sürdü. İkinci GPU'nun eklenmesi, T4'ün dönemini 2.528 jeton/sn ile 19,7 dakikaya indirdi; bu, tek 600W kartın 22,3 dakikasını geride bırakan 1,60 kat bir hızlanmaydı; Precision 7875 ise iki GPU çağını 1,50 kat artışla 18,1 dakikada tamamladı.
Her iki kart da, GPU başına iki örnekle ve aynı sekizlik küresel grup halinde toplanan degradelerle veri paralel olarak çalışır, böylece iki GPU çalıştırması her adımda aynı örnekleri görür ve aynı kayba neden olur. Her geçişte GPU başına iki kısa örnek olduğundan, ikinci kartın yapması gereken iş çok az oluyor ve degrade değişimi her adımda daha büyük bir pay alıyor. Bu dönem, mevcut 96 GB'ın çok küçük bir kısmı olan, bir kartta 19,5 GiB ve iki kartta kart başına 19,7 GiB ile zirveye ulaştı.
T4 ayrıca, diğer üç sistemin üçten ikisini geçtiği ve gpt-oss:120b'de 161,5 jeton/s ürettiği 64K bağlamındaki üç gpt-oss:20b çalışmasının tümü de dahil olmak üzere her model katmanındaki tüm kodlama aracısı çalıştırmalarını geçti. Görüntü oluşturma tek bir GPU üzerinde çalışır, dolayısıyla BF16'daki FLUX.2 klein'deki 40,96 görüntü/dakika hızı, diğer Max-Q sistemleriyle birlikte ve 54,25'lik 600W kartın arkasında yer alır.
CPU, Depolama, Termal ve Hizmet Sonuçları
CPU sonuçları, referans noktası olarak iki adet 24 çekirdekli T2 ile T4'ün 86 Xeon çekirdeğini Precision 7875'in 96 Threadripper çekirdeğine karşı koyuyor. Bellek bant genişliğinin sonuca karar verdiği yerde T4 öndedir ve çekirdek sayısı ve saatlerin karar verdiği yerde 7875 öndedir.
T4, 7-Zip'te 619,8 GIPS ve Blender Monster'da 961,8 örnek/dakika, 24 çekirdekli Pro Precision 9 T2'de 2,2 ve 2,4 kat puan alırken Precision 7875, 7-Zip'te %37 ve Blender'da %30 önde koştu, LLVM yapısını 58.4'e karşı 43,7 saniyede tamamladı ve Linux çekirdeği allmodconfig yapısı 312'ye karşı 264 saniye. Çekirdek başına hız T4'ün zayıf noktasıdır ve bu gruptaki en düşük tek iş parçacıklı 7-Zip puanı 8,85 GIPS'tir.
HandBrake'in x265 kodlaması burada aykırı değerdir ve bunun nedeni işlemciden çok kodlayıcıdır: diğer üç sistemin tümü 24 veya 96 çekirdekli 40,0 ila 41,7 fps arasına indi, bu nedenle bu ön ayardaki x265 çekirdek sayısıyla ölçeklenmiyor ve T4'ün 31,4 fps'si, x265'in kullandığı iş parçacıklarındaki çekirdek başına daha düşük hızıyla tutarlı. Kodlama sırasında T4'ün 51°C ile 64°C arasındaki 172 iş parçacığı boyunca ortalama 1 GHz'i elde etmesi, çipin çoğunun boşta olduğunu gösteriyor. SVT-AV1, 7875'teki 255,8'e kıyasla T4'te 159,4 fps ile daha iyi ölçeklendi.
Sekiz DDR5-6400 kanalı, STREAM Triad'da T4'e 328 GB/sn verir; bu, Precision 7875'in DDR5-5600'ünden %53 ve dört kanallı Pro Precision 9 T2'den 2,3 kat daha yüksektir. Bant genişliğine bağlı çalışma şu şekildedir: T4, 3 milyon hücreli OpenFOAM sürücü vakasını, Pro Precision 9 T2'deki 7875 ve 826'daki 556'ya karşı 293 saniyede çözerken, Pro Max Tower T2 paketin 150 dakikalık sınırı dahilinde bitirmedi; T4 ayrıca 22,6 milyon hücreli vakayı 6.851 saniyede çalıştırdı.
Tüm çekirdekli moleküler dinamiklerin büyük örneği olan GROMACS benchPEP, 7875'te 1,034'e karşı T4'te 1,243 ns/gün hızında çalıştı ve LU çözümü 1,172'ye karşı 1,660 GFLOPS'a ulaştı. y-cruncher, Pi'nin 10 milyar basamağını 83,7'ye karşı 53,9 saniyede ve 259,6'ya karşı 155,6 saniyede 25 milyar rakamını hesapladı. Önbellekte kalan yoğun bilgi işlem, OpenBLAS DGEMM'i 3.664'e karşı 4.745 GFLOPS'a götüren Threadripper'ı destekliyor.
ClickHouse, 43 ClickBench sorgusunu T4'te 3,21 saniye sıcak ve 6,45 saniye soğukta, sıcak çalıştırmada 7875'in 0,33 saniye gerisinde ve soğuk çalıştırmada 0,64 saniye önde çalıştırdı. Valkey hızlı çekirdekleri pek çok çekirdeğe tercih ediyor ve T4'ün 666.714 SET istek/sn'si üç karşılaştırma sisteminin tamamını geride bırakıyor; Core Ultra 9 285K 1,72 milyonla önde - T4'ün tek iş parçacıklı sonuçlarıyla eşleşen bir model ve gecikmeye bağlı hizmetler için tartılmaya değer bir model. 172 iş parçacığının tümü yüklü ve işlemci ortalama 87°C sıcaklıktayken T4, Stockfish'te 68,21 milyon düğüm/sn, 48 iş parçacıklı Pro Precision 9 T2'nin 1,5 katı ve 192 iş parçacığı üzerinde 7875'in 168,27'sinin yarısından çok daha azını aradı.
T4'ün 2 TB SK hynix Gen5 önyükleme sürücüsü, 14.152 MB/sn sıralı okuma ve 10.078 MB/sn yazma hızı sağladı; bu, Precision 7875 ve Pro Max Tower T2'deki Gen4 sürücülerinin kabaca iki katıydı ve rastgele performans zirvesi 2,31 milyon okuma IOPS ve 1,83 milyon yazma IOPS idi. Pro Precision 9 T2'nin 20.914 MB/sn sıralı okuma hızı, bir Gen5 x4 bağlantısının taşıdığı kapasiteyi aşıyor; bu da sistemin şeritli Samsung PM9E1 sürücü dizisine uyuyor; burada önyükleme sürücüsü, ikinci 2TB sürücü olmadan tek başına test edildi.
Ultra Performans modundaki BIOS ile Xeon 698X, 7-Zip'te 93°C'ye ve GROMACS'ta 96°C'ye ulaştı ve saat rakamları 172 mantıksal CPU'nun tamamındaki ortalamalardır. Blender ve Stockfish her ipliği yükler ve 2,0 GHz tabanının üzerinde 2,5 GHz ila 2,6 GHz arasında tutulur. GROMACS ve OpenBLAS, 64 ve 86 fiziksel çekirdeği yükler ve kalan iş parçacıklarını 0,8 GHz civarında boşta bırakır, bu nedenle ortalamaları 1,3 GHz civarındadır. GPU liderliğindeki çalışma, LLM sunumu, ince ayar ve RAG sırasında işlemciyi ortalama 61°C ila 65°C'de daha soğuk tuttu, çünkü bu testler kartlara dayanıyordu.
Çözüm
Dell Pro Precision 9 T4, yerel yapay zeka çalışmaları için tasarlandı ve ikinci RTX PRO 6000 de bunu gösteriyor. İki Max-Q kartı, dört modelde en yüksek hizmet verimini 1,85'ten 2,02 kata yükseltti ve yerleştirme verimini 1,92 kat artırdı, Ministral 3 8B'deki LoRA dönemini 31,5'ten 19,7 dakikaya indirdi ve bir kart için çok büyük bir model olan MiniMax M2.7'yi tek bir kullanıcı için 30,3'ten 83,7 token/s'ye çevirdi. gpt-oss 120B'de, GPU başına bir sunucu, 64 istekte toplam 7.091 token/sn'ye ulaşırken, modeli her iki karta bölmek, tek bir kullanıcının ilk tokenını 1.189 ms'ye karşılık 719 ms'de döndürdü.
![]()
Sekiz DDR5-6400 kanalı, Xeon 698X'e Threadripper PRO 9995WX'e göre %53 bellek bant genişliği üstünlüğü sağladı. Bu bant genişliği, T4'ü Precision 7875'e göre daha hızlı OpenFOAM, GROMACS benchPEP, y-cruncher ve HNSW arama sonuçlarına taşıdı ve Gen5 depolaması büyük modelleri daha hızlı yükledi. Kasa da bu sınıfta Dell'den gördüğümüz en iyi soğutma düzeni ve güç kaynağına aletsiz erişim ile övgüyü hak ediyor.
7875, çekirdeğe bağlı işleme, sıkıştırma ve derleme işlerinde %18 ila %38, SVT-AV1'de ise %60 önde olmaya devam ediyor. Xeon'un çekirdek başına hızı, bu gruptaki her sistemi takip etti; bu, Valkey ve diğer hafif iş parçacıklı hizmetlerde görüldü. Tek bir GPU üzerinde ince ayar yapmak da T4'te daha yavaştı; burada LoRA dönemi, Pro Max Tower T2'deki 600W kartta 22,3 ve 7875'teki 27,2'ye karşı 31,5 dakika sürdü ve her sistem aynı gecikmeli kayıpla 0,005 dakika içinde tamamlandı.
Yapılandırıldığı şekliyle yaklaşık 66.600 ABD Doları tutarındaki T4, aynı makinede belleğe bağlı simülasyon ve analizin yanı sıra, 96 GB'tan fazla GPU belleğine ihtiyaç duyan modeller de dahil olmak üzere şirket içi modellere hizmet vermek, bunları yerleştirmek ve ince ayar yapmak isteyen ekiplere uygundur. İşleri çoğunlukla render ve derleme olan alıcılar Threadripper platformunu daha hızlı bulacak ve bir GPU'ya ihtiyaç duyan alıcılar aynı kartı daha küçük Pro Precision 9 T2'de alabilecekler.
Pekin Qianxing Jietong Technology Co., Ltd.
Sandy Yang/Küresel Strateji Direktörü
WhatsApp / WeChat: +86 13426366826
E-posta: yangyd@qianxingdata.com
Web sitesi: www.qianxingdata.com/www.storagesserver.com
İş Odağı:
BİT Ürün Dağıtımı/Sistem Entegrasyonu ve Hizmetleri/Altyapı Çözümleri
20 yılı aşkın BT dağıtım deneyimimizle, güvenilir ürünler ve profesyonel hizmetler sunmak için önde gelen küresel markalarla ortaklık yapıyoruz.
“Akıllı Bir Dünya İnşa Etmek İçin Teknolojiyi Kullanmak”Güvenilir BİT Ürün Servis Sağlayıcınız!



