Jakarta (ANTARA) – Selama Konferensi Teknologi GPU, Nvidia mengumumkan keping paling kuat di dunia untuk komputasi terkait AI yang disebut “GB200” mendukung GPU Blackwell B200.
Laman Gsmarena pada Selasa (19/3) waktu setempat melaporkan bahwa keping baru ini adalah penerus keping AI H100 yang menawarkan peningkatan besar dalam kinerja dan efisiensi.
GPU B200 baru mampu menghasilkan 20 petaflops FP4 berkat 208 miliar transistor di dalamnya keping.
Baca juga: Nvidia merilis chip gaming baru untuk China, mematuhi kendali ekspor AS
Baca juga: ASUS ExpertBook B6 Flip (B6602F), Laptop Core i9 dan Nvidia Quadro RTX
Selain itu, GB200 memiliki kinerja 30 kali lipat dibandingkan H100 dalam beban kerja inferensi LLM sekaligus mengurangi konsumsi energi hingga 25 kali lipat.
Pada tolok ukur GPT-3 LLM, GB200 juga tujuh kali lebih cepat dibandingkan H100.
Misalnya, melatih model dengan parameter 1,8 triliun akan memerlukan 8.000 GPU Hopper dan sekitar 15 megawatt, sedangkan 2.000 GPU Blackwell dapat melakukannya hanya dengan 4 megawatt.
Untuk lebih meningkatkan efisiensi, Nvidia merancang keping saklar jaringan baru dengan 50 miliar transistor yang dapat menangani 576 GPU dan memungkinkan mereka berkomunikasi satu sama lain pada lebar pita doa arah 1,8 TB/dtk.
Dengan cara ini, Nvidia mengatasi masalah komunikasi karena sebelumnya, sistem yang menggabungkan 16 GPU akan menghabiskan 60 persen waktunya untuk berkomunikasi dan 40 persen waktunya untuk komputasi.
Nvidia mengatakan menawarkan solusi lengkap kepada perusahaan. Misalnya, GB200 NVL72 memungkinkan 36 CPU dan 72 GPU dalam satu rak berpendingin cairan.
Sebaliknya, Superpod DGX untuk DGX GB200 menggabungkan delapan sistem tersebut menjadi satu, menghasilkan 288 CPU dan 576 GPU dengan memori 240 TB.
Perusahaan seperti Oracle, Amazon, Google dan Microsoft telah berbagi rencana untuk mengintegrasikan rak NVL72 ke layanan awan mereka.
Adapun arsitektur GPU yang digunakan untuk GPU Blackwell B200 kemungkinan akan menjadi fondasi seri RTX 5000 mendatang.
Baca juga: Nvidia digugat tiga penulis akibat AI yang langgar hak cipta
Baca juga: CEO Nvidia: AI bisa menyelesaikan ujian tertulis manusia dalam 5 tahun
Baca juga: Intel tantang Nvidia dan Qualcomm dengan chip “AI PC” untuk mobil
Penerjemah: Adimas Raditya Fahky P
Editor: Maria Rosari Dwi Putri
Hak Cipta © ANTARA 2024
