ASUS RS720A-E11/H100 GPU 90SKS000-M7BAN0 2U serveris 8x NVIDIA H100 GPU, divi AMD EPYC, 24x 2,5 inch karstās maiņas nodalījumi

Līdz astoņiem NVIDIA H100 GPU vienā 2U korpusā — tas nav solījums, bet gan konkrēta specifikācija. ASUS RS720A-E11/H100 ir izstrādāts tā, lai tas spētu apkalpot vissmagākās AI un HPC slodzes, sākot no lielu valodu modeļu trenēšanas līdz sarežģītām simulācijām. Ar diviem AMD EPYC 7003/7002 procesoriem, 32 DIMM slotiem un 24 karstās maiņas disku nodalījumiem šis serveris ir gatavs darbam no pirmās minūtes.

Kam tas paredzēts

Šis serveris ir domāts datu zinātniekiem, AI pētniekiem un IT infrastruktūras komandām, kas izvieto GPU intensīvas lietotnes — lielu valodu modeļu trenēšanu, inferenci, zinātniskās simulācijas un HPC klasterus. Tas noderēs arī uzņēmumiem, kas meklē blīvu un mērogojamu platformu virtuālajai darbvirsmas infrastruktūrai (VDI) vai hibrīdmākoņa risinājumiem.

Galvenās priekšrocības

• Atbalsts līdz 8 divu slotu PCIe Gen4 x16 GPU, tostarp NVIDIA H100 un A100, nodrošina milzīgu paralēlo skaitļošanas jaudu.
• Divu socketu AMD SP3 dizains ar EPYC 7003 un 7002 sērijas procesoriem — līdz 128 kodoliem un 256 pavedieniem vienā mezglā.
• 32 DIMM sloti ar atbalstu līdz 4TB DDR4 3200MHz ECC RDIMM/LRDIMM — pietiekami daudz atmiņas pat prasīgākajām slodzēm.
• 24 priekšējie 2,5" karstās maiņas nodalījumi: 12 atbalsta NVMe/SATA/SAS, vēl 12 — SATA/SAS, tāpēc varat elastīgi kombinēt ātrdarbīgus NVMe diskus ar lielākas ietilpības HDD.
• Divkāršs 2200W 80 PLUS Platinum barošanas bloks ar rezervēšanu garantē efektivitāti un nepārtrauktu darbību.
• Pārdomāta dzesēšana ar 8 karstās maiņas 60x60mm ventilatoriem un optimizētu gaisa plūsmu blīvām GPU konfigurācijām.
• Integrēts ASMB10-iKVM ar IPMI 2.0 attālinātai pārvaldībai, kā arī divi 10GbE tīkla porti ātrdarbīgai datu pārraidei.
• Paplašināšanai: 8 PCIe Gen4 x16 sloti GPU, vēl 2 PCIe Gen4 x16 sloti citām kartēm un 1 OCP 3.0 Gen4 x16 slots.

Specifikācijas

• Formfaktors: 2U rackmount
• CPU socketi: 2 x Socket SP3
• Atbalstītie CPU: AMD EPYC 7003/7002 sērijas procesori
• Chipset: AMD SP3
• Atmiņa: 32 x DIMM sloti, līdz 4TB DDR4 3200MHz ECC RDIMM/LRDIMM
• GPU atbalsts: līdz 8 x divu slotu PCIe Gen4 x16 GPU (NVIDIA H100, A100)
• Disku nodalījumi: 24 x 2,5" karstās maiņas (12x NVMe/SATA/SAS, 12x SATA/SAS)
• PCIe paplašināšana: 8 x PCIe Gen4 x16 (GPU), 2 x PCIe Gen4 x16 (citām kartēm)
• OCP slots: 1 x OCP 3.0 Gen4 x16
• Tīkls: 2 x 10GbE LAN (Intel X710-AT2 vai līdzvērtīgs)
• Pārvaldība: ASMB10-iKVM (IPMI 2.0)
• Barošana: 2 x 2200W 80 PLUS Platinum ar rezervēšanu
• Dzesēšana: 8 x karstās maiņas 60x60mm ventilatori
• Priekšējie I/O: 2 x USB 3.2 Gen1
• Aizmugurējie I/O: 2 x USB 3.2 Gen1, 1 x VGA, 1 x COM, 2 x 10GbE LAN, 1 x pārvaldības LAN
• OS atbalsts: Windows Server, Linux (RHEL, SLES, Ubuntu), VMware ESXi

Ieteikumi lietošanā

Uzstādot H100 GPU, pārliecinieties, ka jūsu telpā ir pietiekama jauda un dzesēšana — katrs GPU var patērēt līdz 700W. Priekšējos nodalījumos izmantojiet NVMe diskus, lai nodrošinātu ātrdarbīgu datu piekļuvi un GPU netiktu badināti ar datiem. Attālinātai pārvaldībai konfigurējiet atsevišķu pārvaldības LAN portu, lai IPMI trafiku izolētu no datu trafika — tas uzlabos drošību.

Padoms: pirms iegādes pārbaudiet, vai jūsu serveru skapis atbalsta šāda svara un dzesēšanas prasību serveri, kā arī vai elektrotīkls spēj nodrošināt nepieciešamo jaudu.