Laman Gsmarena pada Selasa (19/3) waktu setempat melaporkan bahwa chip baru ini adalah penerus chip AI H100 yang menawarkan peningkatan besar dalam kinerja dan efisiensi.
GPU B200 baru mampu menghasilkan 20 petaflops FP4 berkat 208 miliar transistor di dalam chip.
Baca juga: Nvidia rilis chip gaming baru untuk China, patuhi kendali ekspor AS
Baca juga: ASUS ExpertBook B6 Flip (B6602F), Laptop Core i9 dan Nvidia Quadro RTX
Selain itu, GB200 memiliki kinerja 30 kali lipat dibandingkan H100 dalam beban kerja inferensi LLM sekaligus mengurangi konsumsi energi hingga 25 kali lipat.
Pada benchmark GPT-3 LLM, GB200 juga tujuh kali lebih cepat dibandingkan H100.
Sebagai contoh, melatih model dengan 1,8 triliun parameter akan memerlukan 8.000 GPU Hopper dan sekitar 15 megawatt, sedangkan 2.000 GPU Blackwell dapat melakukannya hanya dengan 4 megawatt.
Untuk lebih meningkatkan efisiensi, Nvidia merancang chip saklar jaringan baru dengan 50 miliar transistor yang dapat menangani 576 GPU dan memungkinkan mereka berkomunikasi satu sama lain pada bandwidth dua arah 1,8 TB/dtk.
Dengan cara ini, Nvidia mengatasi masalah komunikasi karena sebelumnya, sistem yang menggabungkan 16 GPU akan menghabiskan 60 persen waktunya untuk berkomunikasi dan 40 persen waktunya untuk komputasi.
Nvidia mengatakan pihaknya menawarkan solusi lengkap kepada perusahaan. Misalnya, GB200 NVL72 memungkinkan 36 CPU dan 72 GPU dalam satu rak berpendingin cairan.
Sebaliknya, Superpod DGX untuk DGX GB200 menggabungkan delapan sistem tersebut menjadi satu, menghasilkan 288 CPU dan 576 GPU dengan memori 240 TB.
Perusahaan seperti Oracle, Amazon, Google dan Microsoft telah berbagi rencana untuk mengintegrasikan rak NVL72 untuk layanan cloud mereka.
Adapun arsitektur GPU yang digunakan untuk GPU Blackwell B200 kemungkinan akan menjadi fondasi seri RTX 5000 mendatang.
Baca juga: Nvidia digugat tiga penulis akibat AI yang langgar hak cipta
Baca juga: CEO Nvidia: AI bisa menyelesaikan ujian tertulis manusia dalam 5 tahun
Baca juga: Intel tantang Nvidia dan Qualcomm dengan chip "AI PC" untuk mobil
Penerjemah: Adimas Raditya Fahky P
Editor: Maria Rosari Dwi Putri
Copyright © ANTARA 2024
