เปิดตัว NVIDIA HGX-2 Server รองรับ 16 GPU, 81,920 CUDA Core และ 10,240 Tensor Core ในเครื่องเดียว

NVIDIA ได้ออกมาประกาศเปิดตัว NVIDIA HGX-2 ระบบ Cloud Server Platform ที่สามารถติดตั้ง NVIDIA Tesla V100 ได้มากถึง 16 การ์ดในเครื่องเดียว เพื่อรองรับการประมวลผลความเร็วสูงถึงระดับ 2 Petaflops ได้ในตัว

Credit: NVIDIA

ความเร็วของ NVIDIA HGX-2 นี้ไม่ได้เกิดขึ้นจากการมี GPU จำนวนมหาศาลภายในเครื่องเท่านั้น แต่ภายในยังคงมีการใช้งาน NVIDIA NVSwitch จำนวน 12 ชุด เพื่อเชื่อมต่อระหว่าง GPU-to-GPU ทั้งหมดเข้าด้วยกันด้วยความเร็ว 2.4TB/s ทำให้การเข้าถึงข้อมูลบนหน่วยความจำ HBM2 ระหว่างกันนั้นเป็นไปได้อย่างเต็มประสิทธิภาพ ซึ่งหากเทียบกันแล้ว NVSwitch นี้ก็ถือว่ามีความเร็วเหนือกว่า NVLink ซึ่งมีความเร็ว 300GB/s อยู่ถึง 8 เท่าเลยทีเดียว

ประสิทธิภาพในระดับนี้ทำให้ NVIDIA HGX-2 เพียงเครื่องเดียวสามารถทำการประมวลผลรูปภาพได้มากถึง 15,500 ภาพต่อวินาทีด้วยการใช้ ResNet-50 หรือเทียบเท่ากับการใช้ CPU 600 ชุดบน Server 300 เครื่องมาช่วยกันประมวลผล ซึ่งโดยสรุปแล้ว NVIDIA ได้ระบุถึงตัวเลขเชิงประสิทธิภาพของ NVIDIA HGX-2 เอาไว้ดังนี้

  • 2 petaFLOPS tensor operations
  • 250 teraFLOPS single-precision
  • 125 teraFLOPS double-precision

หลังจากนี้ผู้ผลิต Server นั้นก็จะทยอยเปิดตัว Server ที่ใช้สถาปัตยกรรมอ้างอิงตาม NVIDIA HGX-2 กันมากขึ้นเรื่อยๆ โดยล่าสุด Supermicro ได้ประกาศเปิดตัว Server รุ่นใหม่ตามสถาปัตยกรรมนี้เป็นที่เรียบร้อยแล้ว

Credit: Supermicro

สำหรับผู้ที่ต้องการศึกษารายละเอียดเพิ่มเติม สามารถเยี่ยมชมเว็บไซต์ของ NVIDIA HGX-2 ได้ที่ https://www.nvidia.com/en-us/data-center/hgx/ ครับ

 

เกี่ยวกับ Throughwave Thailand

Throughwave Thailand เป็นตัวแทนจำหน่าย (Distributor) สำหรับผลิตภัณฑ์ Enterprise IT ครบวงจรทั้ง Server, Storage, Network และ Security พร้อมโซลูชัน VMware และ Microsoft ที่มีลูกค้าเป็นองค์กรชั้นนำระดับหลายหมื่นผู้ใช้งานมากมาย โดยทีมงาน Throughwave Thailand ได้รับความไว้วางใจจากลูกค้าจากทีมงาน Engineer มากประสบการณ์ ที่คอยสนับสนุนการใช้งานของลูกค้าตลอด 24×7 ร่วมกับ Partner ต่างๆ ทั่วประเทศไทยนั่นเอง https://www.throughwave.co.th

 

ที่มา: https://venturebeat.com/2018/05/29/nvidias-hgx-2-uses-16-gpus-for-fast-ai-training/, http://en.ctimes.com.tw/DispNews.asp?O=HK25U7XQFM2SAA00NG