Meta beli 350000 GPU Nvidia H100 di tahun 2024 itu pesanan kedua

Postingan Instagram CEO Meta Mark Zuckerberg mengumumkan rencana perusahaan berinvestasi besar-besaran pada Nvidia dan inisiatif AI sampai akhir tahun 2024.

Zuckerberg menguraikan niat Meta untuk mengintensifkan upaya kecerdasan umum dengan OpenSource yang mampu mendukung segalanya mulai dari produktivitas dan pengembangan hingga teknologi asisten dengan dukungan AI.

Zuckerberg menyoroti investasi infrastruktur Meta akan mengakuisisi sekitar 350.000 unit Nvidia H100
Atau sekitar 600.000 setara H100 jika termasuk rencana pembelian GPU lainnya.
Jika kita bertanya sebesar apa kekuatan GPU sedemikian banyak, itu adalah kekuatan komputasi yang besar.



Analisis pasar Omdia, pesanan H100 2023 didominasi Meta dan Microsoft.
Keduanya secara individual membeli lebih banyak unit dibandingkan gabungan 3 perusahaan internet lain Google, Amazon, dan Oracle.

Tahun 2024, menambahkan 350.000 unit lagi, tidak diragukan lagi akan membuat Meta menjadi salah satu pelanggan terbesar Nvidia.

Zuckerberg mengatakan investasi infrastruktur AI Meta diperlukan untuk membangun kecerdasan umum buatan (AGI) lengkap yang mampu memberikan penalaran, perencanaan, pengkodean, dan kemampuan lainnya kepada  peneliti, kreator, konsumen di seluruh dunia.

Tingginya permintaan GPU H100 mengakibatkan antrian cukup tunggu lama.
Beberapa perusahaan bahkan harus menunggu sampai perusahaan yang memesan terlebih dahulu mendapatkan GPU Nvidia.

Omdia melaporkan waktu tunggu pemesanan Nvidia H100 berkisar antara 36 hingga 52 bulan karena meningkatnya permintaan perangkat keras AI mutakhir.
Peningkatan daya komputasi dan kecepatan pemrosesan merupakan pendorong terbesar untuk Meta dan perusahaan lain yang ingin mendapatkan sumber daya AI.

Menurut Nvidia, GPU H100 dengan InfiniBand Interconnect hingga 30 kali lebih cepat dibandingkan Nvidia A100 di model AI mainstream dan komputasi kinerja tinggi (HPC).

Unit GPU tersebut memiliki kecepatan pemrosesan IEEE FP64 dan FP32 tiga kali lipat dibandingkan dengan A100 sebelumnya.
Peningkatan ini disebabkan kinerja clock-for-clock per streaming multiprocessor (SM), jumlah SM tambahan, dan kecepatan clock yang lebih tinggi.

Zuckerberg membahas kebutuhan perangkat wearable yang memungkinkan pengguna berinteraksi dengan Metaverse sepanjang hari.
Dia mengatakan kacamata adalah "...faktor bentuk ideal yang memungkinkan AI melihat apa yang kita lihat, mendengar apa yang kita dengar, sehingga selalu membantu."

Tidak mengherankan, pernyataan itu langsung masuk ke dalam plug untuk Smart Glass dari Meta Ray-Ban.

Berapa harga Nvidia H100, kisaran $30.000 - $40.000 per GPU, kalau di hitung sih 1 GPU hampir setengah miliar rupiah.
Berapa kebutuhan power Nvidia H100, GPU arsitek Hopper tersebut untuk tipe PCIe sekitar 350W (max), dan model SXM terpasang ke slot 700W.

Bila ditotal investasi H100 bukanlah langkah kecil dan membuat Meta untuk meningkatkan kemampuan AI sangat jelas.
Terlihat Meta tidak hanya ingin eksis di bidang AI, namun ingin memimpin inovasi AI di masa depan.
Semoga bukan spekulasi, berbicara di Medsos dengan tujuan memasarkan nama produsen.

Nvidia rilis GPU RTX A600, dirancang untuk pemakaian profesional yang membutuhkan kemampuan GPU. Rancangan chip N4 dari TSMC, memiliki unit SP lebih banyak dibanding RTX 4090. Pemakaian power lebih hemat untuk proses computer workstation.

Smartphone Android baru akan mengadopsi 3nm tahun 2024, sementara hanya model high end seperti iPhone dengan teknologi 3nm. Kabar lain termasuk AMD dan Nvidia, Qualcomm dan Mediatek tetap di 4nm untuk 2024 bahkan 2025. Procesor dan GPU 3nm hanya di babak ke 3. 2nm baru tampil tahun 2025

Kebutuhan power supply untuk VGA Nvidia RTX 4000 Lovelace akan mencapai 1000W. Walau VGA hanya membutuhkan 600W - 700W. Beberapa produsen power supply sedang menyiapkan power supply baru di tahun 2022.

Nvidia T1000 VGA lebih kecil ditujukan untuk kalangan profesional. Tapi bukan untuk gaming atau kalkulasi besar. Hanya output multi display, sampai 4 monitor 4K. Dapat diaplikasi untuk Wall monitor, serta aplikasi CAD/CAM yang ringan.

Supercomputer kehilangan data sebesar 77 TB, karena update. Pengoperasiqn supercomputer tidak murah, membutuhkan biaya listrik sangat besar untuk proses berbagai data penelitian. Tidak diketahui penyebab hilangnya data dari 4 kelompok peneliti tersebut