Oracle Cloud Infrastructure Pilih AMD Instinct MI300X untuk Supercluster AI Terbaru

AMD baru saja mengumumkan bahwa Oracle Cloud Infrastructure (OCI) telah memilih akselerator AMD Instinct™ MI300X yang dilengkapi dengan software terbuka ROCm™ untuk mendukung instans Compute Supercluster BM.GPU.MI300X.8 terbarunya. Supercluster ini dirancang untuk menjalankan beban kerja kecerdasan buatan (AI) yang intensif, termasuk inference dan pelatihan large language models (LLM) yang mencakup ratusan miliar parameter.

Baca juga: ASUS Umumkan Casing Mid-Tower Baru TUF Gaming GT502 Horizon

Dengan dukungan hingga 16.384 GPU dalam satu kluster, supercluster ini memanfaatkan teknologi jaringan ultrafast yang juga digunakan oleh akselerator lain di OCI. Infrastruktur ini menjadi pilihan ideal bagi perusahaan yang membutuhkan kinerja tinggi untuk pengolahan data AI, seperti Fireworks AI, yang telah mengadopsi layanan ini untuk mengoptimalkan model generatif mereka.

Teknologi Unggulan untuk AI dan LLM

Instans bare metal OCI dengan AMD MI300X dirancang khusus untuk menangani beban kerja AI yang berat dengan throughput tinggi, memori besar, dan bandwidth terbaik. Akselerator MI300X ini terbukti mampu mengolah model LLM terbesar dalam satu node, menjadikannya solusi tepercaya untuk pelatihan dan inferensi AI berlatensi rendah.

“Software terbuka AMD Instinct MI300X dan ROCm semakin mendapatkan momentum sebagai solusi andal dalam mendukung beban kerja AI di OCI,” kata Andrew Dieckmann, corporate vice president dan general manager Data Center GPU Business di AMD. “Kombinasi ini menawarkan pelanggan OCI kinerja tinggi dengan efisiensi dan fleksibilitas desain sistem yang lebih besar.”

Akselerator AMD Instinct MI300X menambah pilihan yang sudah ekstensif dari OCI untuk instans bare metal berkinerja tinggi. Teknologi ini dirancang untuk menghilangkan beban komputasi virtual yang umum dalam infrastruktur AI, menjadikan OCI sebagai pilihan unggul untuk perusahaan yang ingin mempercepat beban kerja AI mereka dengan harga yang kompetitif.

“Kemampuan inferensi akselerator AMD Instinct MI300X meningkatkan pilihan pelanggan kami untuk mempercepat beban kerja AI mereka,” kata Donald Lu, senior vice president software development di Oracle Cloud Infrastructure. “Kami bangga menawarkan solusi yang lebih terjangkau bagi pelanggan yang ingin mendorong inovasi AI dengan kinerja maksimal.”

Solusi AMD untuk Masa Depan AI

Dengan validasi dari OCI, AMD Instinct MI300X terbukti menjadi pilihan unggulan untuk kasus penggunaan AI yang memerlukan latensi optimal dan memori besar. Fireworks AI, salah satu perusahaan yang menggunakan OCI, mengapresiasi kemampuan MI300X dalam mendukung pengembangan AI generatif dan beragam industri.

“Fireworks AI membantu perusahaan dalam berbagai sektor untuk membangun dan menerapkan sistem AI gabungan. Jumlah memori besar yang tersedia di software terbuka AMD Instinct MI300X memungkinkan kami untuk terus meningkatkan layanan kepada pelanggan,” ujar Lin Qiao, CEO Fireworks AI.

Dengan kolaborasi ini, AMD dan OCI memperkuat posisi mereka di industri AI, memberikan solusi komputasi yang inovatif dan efisien bagi pelanggan di seluruh dunia.

Comments