Nvidia Umumkan GPU Blackwell B200 Baru Untuk Komputasi AI

NVIDIA GB200 Grace Blackwell Superchip. ANTARA/HO-nvidia.com

JAKARTA, MARIKITABACA.ID - Selama Konferensi Teknologi GPU, Nvidia mengumumkan chip paling kuat di dunia untuk komputasi terkait AI yang disebut “GB200” mendukung GPU Blackwell B200.

Laman Gsmarena pada Selasa (19/3) waktu setempat melaporkan bahwa chip baru ini adalah penerus chip AI H100 yang menawarkan peningkatan besar dalam kinerja dan efisiensi.

GPU B200 baru mampu menghasilkan 20 petaflops FP4 berkat 208 miliar transistor di

Selain itu, GB200 memiliki kinerja 30 kali lipat dibandingkan H100 dalam beban kerja inferensi LLM sekaligus mengurangi konsumsi energi hingga 25 kali lipat.

Pada benchmark GPT-3 LLM, GB200 juga tujuh kali lebih cepat dibandingkan H100.

Sebagai contoh, melatih model dengan 1,8 triliun parameter akan memerlukan 8.000 GPU Hopper dan sekitar 15 megawatt, sedangkan 2.000 GPU Blackwell dapat melakukannya hanya dengan 4 megawatt.

Untuk lebih meningkatkan efisiensi, Nvidia merancang chip saklar jaringan baru dengan 50 miliar transistor yang dapat menangani 576 GPU dan memungkinkan mereka berkomunikasi satu sama lain pada bandwidth dua arah 1,8 TB/dtk.

Dengan cara ini, Nvidia mengatasi masalah komunikasi karena sebelumnya, sistem yang menggabungkan 16 GPU akan menghabiskan 60 persen waktunya untuk berkomunikasi dan 40 persen waktunya untuk komputasi.

Nvidia mengatakan pihaknya menawarkan solusi lengkap kepada perusahaan. Misalnya, GB200 NVL72 memungkinkan 36 CPU dan 72 GPU dalam satu rak berpendingin cairan.

Sebaliknya, Superpod DGX untuk DGX GB200 menggabungkan delapan sistem tersebut menjadi satu, menghasilkan 288 CPU dan 576 GPU dengan memori 240 TB.

Perusahaan seperti Oracle, Amazon, Google dan Microsoft telah berbagi rencana untuk mengintegrasikan rak NVL72 untuk layanan cloud mereka.

Adapun arsitektur GPU yang digunakan untuk GPU Blackwell B200 kemungkinan akan menjadi fondasi seri RTX 5000 mendatang.

Sumber: antaranews.com