PNY NVIDIA H200 NVL PCIe 141GB HBM3e Accelerator

Datu centru un AI inženieriem, kuru modeļi vairs neietilpst atmiņā, PNY NVIDIA H200 NVL PCIe ir nopietns risinājums. Ar 141 GB HBM3e atmiņu un 6.7 TB/s caurlaidību šī karte pārspēj ierastos 80 GB paātrinātājus, ļaujot turēt milzīgus modeļus un datu kopas tieši uz GPU. Tā ir būvēta uz NVIDIA Hopper arhitektūras ar 4. paaudzes Tensor Core un PCIe 5.0 x16 interfeisu, padarot to par darba zirgu AI apmācībai, liela mēroga inferencēm un HPC simulācijām.

Priekšrocības

• NVIDIA Hopper arhitektūra ar 4. paaudzes Tensor Core
• 141 GB HBM3e atmiņa ar 6.7 TB/s caurlaidību
• PCI Express 5.0 x16 interfeiss ātrai saziņai ar sistēmu
• Līdz 7 MIG instancēm efektīvai GPU koplietošanai
• 4. paaudzes NVLink atbalsts vairāku GPU savienošanai
• Pasīvā dzesēšana, kas paredzēta sistēmas gaisa plūsmai

Kam tas paredzēts

Šis paātrinātājs ir radīts AI pētniekiem, datu zinātniekiem un HPC speciālistiem, kuri strādā ar lieliem valodas modeļiem, dziļās mācīšanās treniņiem vai zinātniskām simulācijām. Pateicoties 141 GB atmiņai, jūs varat apstrādāt datu kopas, kas iepriekš prasīja vairākas mazākas kartes vai pastāvīgu datu pārsūtīšanu starp GPU un sistēmas atmiņu. MIG tehnoloģija ļauj sadalīt GPU līdz septiņās izolētās daļās, tāpēc dažādas komandas vai uzdevumi var droši strādāt uz viena aparāta.

Lietošana

Uzstādiet karti standarta servera PCIe 5.0 x16 slotā. Tā ir divu slotu, pilna augstuma un pilna garuma (FHFL) forma, tāpēc pārliecinieties, ka jūsu servera korpusā ir pietiekami daudz vietas. Pasīvā dzesēšana nozīmē, ka karte paļaujas uz spēcīgu gaisa plūsmu korpusā — bez aktīviem ventilatoriem, tāpēc tā ir klusa, bet prasa labu ventilāciju. Pieslēdziet divus 16-pin (12VHPWR) strāvas savienotājus, jo TDP var sasniegt 700 W. Pēc instalēšanas varat izmantot NVIDIA draiverus un CUDA, lai sāktu darbu ar saviem AI vai HPC uzdevumiem.

Pilnas specifikācijas

• GPU arhitektūra: NVIDIA Hopper H200
• Atmiņas apjoms: 141 GB HBM3e
• Atmiņas caurlaidība: 6.7 TB/s
• Atmiņas interfeiss: 6144-bit
• Interfeiss: PCI Express 5.0 x16
• Tensor Core: 4. paaudzes
• FP8 Tensor Core veiktspēja (Sparse): 3958 TFLOPS
• FP16 Tensor Core veiktspēja (Sparse): 1979 TFLOPS
• FP64 veiktspēja: 67 TFLOPS
• Termiskā jauda (TDP): līdz 700 W
• Formas faktors: divu slotu, pilna augstuma, pilna garuma (FHFL) PCIe karte
• Dzesēšana: pasīvā (nepieciešama sistēmas gaisa plūsma)
• Multi-Instance GPU (MIG): līdz 7 GPU instancēm
• NVLink interfeiss: 4. paaudzes NVLink
• Strāvas savienotāji: 2x 16-pin (12VHPWR)
• Tranzistori: 80 miljardi
• Ražošanas process: TSMC 4N Custom Process

Padoms: pirms iegādes pārbaudiet, vai jūsu servera barošanas bloks spēj nodrošināt līdz 700 W šai kartei, un vai korpusa gaisa plūsma ir pietiekama, lai izkliedētu siltumu. Pareizi uzstādīta, šī karte nodrošinās izcilu veiktspēju prasīgākajos AI un HPC scenārijos.