Jumlah GPU AI NVIDIA H100 secara global dilaporkan bakal mencapai 3,5 juta unit pada tahun depan. Fakta mencengangkannya adalah, GPU tersebut mengonsumsi listrik yang amat sangat besar, bahkan setara konsumsi listrik sebuah negara.
Menurut analis pasar Stock Talk, untuk menjalankan GPU NVIDIA H100 dengan jumlah tersebut dibutuhkan listrik sekitar 13.000 GWh per tahun. Angka itu setara dengan konsumsi listrik dari sebuah negara seperti Guatemala atau Lithuania.
By next year, Nvidia’s ~3.5 million units of deployed H100 GPUs will consume a whopping 13,000 GWh of electricity annually, which is greater than the power consumption of some entire countries like Guatamela and Lithuania.
— Stock Talk (@stocktalkweekly) December 27, 2023
NVIDIA H100 sendiri merupakan GPU yang biasa digunakan untuk membangun data center atau melatih model AI. Jadi bisa diprediksi konsumsi listriknya begitu besar, apalagi ini didorong dengan booming-nya tren pengembangan AI secara global.
Kendati demikian, angka tersebut masih jauh bila dibandingkan dengan ketika booming crypto mining pada 2020 silam. Tren tambang crypto kala itu dilaporkan telah menyebabkan lonjakan konsumsi listrik hingga 173 terawatt / hours.
Namun, jika tren crypto mining hanya memiliki jangka waktu singkat, untuk tren AI tampaknya justru akan semakin meningkat. Bahkan bisa dibilang ini baru awal dari tren AI ini dan banyak raksasa teknologi termasuk Microsoft dan Google yang baru terjun ke pengembangan AI belum lama ini.
Hitungan tersebut bahkan baru dari sisi NVIDIA H100 saja, sementara mereka juga punya model GPU AI lainnya seperti A100 dan HGX. Dapat dipastikan jumlah NVIDIA H100 sendiri di pasaran, termasuk konsumsi listriknya, bakal meningkat lantaran NVIDIA dilaporkan berencana untuk menjual 1,5 – 2 juta unit GPU sepanjang 2024 mendatang.
Sumber
