Arsip Tag: meta

Ingin Terdepan di AI, Meta Berencana Borong 350.000 Unit GPU Nvidia H100

JAKARTA – Mark Zuckerberg akan berinvestasi besar-besaran untuk memperkuat infrastruktur kecerdasan buatan (AI) Meta. Hal ini akan berlangsung hingga tahun 2024.

Zuckerberg berencana membeli 350.000 GPU Nvidia H100 dari Nvidia. Ia mengatakan langkah ini untuk meningkatkan intensitas kecerdasan buatan open source dan memberikan dukungan bagi semua orang. Dari produktivitas dan pengembangan hingga teknologi yang dapat dikenakan dan asisten AI.

Laporan ini mencatat bahwa investasi infrastruktur Meta AI diperlukan untuk membangun kecerdasan umum buatan (AGI) lengkap yang mampu memberikan penalaran, perencanaan, pengkodean, dan kemampuan lainnya kepada peneliti, pencipta, dan konsumen di seluruh dunia.

Berdasarkan laporan Techspot, Senin (22/1/2024), CEO Meta berharap dapat mengembangkan model kecerdasan buatan baru sebagai produk open source untuk memastikan ketersediaan tertinggi bagi pengguna dan organisasi dari semua ukuran.

Permintaan yang tinggi terhadap H100 mengakibatkan waktu tunggu yang lama. Akibatnya, beberapa perusahaan menunggu untuk bertemu dengan pesaing.

Omdia melaporkan bahwa waktu tunggu pesanan Nvidia H100 adalah antara 36 dan 52 bulan karena meningkatnya permintaan.

Peningkatan daya komputasi dan kecepatan pemrosesan adalah pendorong terbesar bagi Meta dan perusahaan lain yang mencari sumber daya AI.

Nvidia mengatakan H100 dengan InfiniBand Interconnect hingga 30 kali lebih cepat dibandingkan Nvidia A100 pada model AI mainstream dan komputasi kinerja tinggi (HPC).

Unit ini juga menawarkan kecepatan pemrosesan IEEE FP64 dan FP32 tiga kali lipat dibandingkan A100 sebelumnya.

Peningkatan ini disebabkan oleh kinerja clock-by-clock per streaming multiprocessor (SM), jumlah SM tambahan, dan kecepatan clock yang lebih tinggi.

Dengan harga $30.000 USD atau setara Rp450 juta per GPU, H100 jelas layak untuk diinvestasikan. Meta tampaknya bertekad untuk tidak hanya terlibat di bidang AI, tetapi juga memimpin inovasi AI di masa depan.