Arm Rilis Prosesor Server AGI, Bawa 136 Core untuk Tantang Intel Xeon dan AMD EPYC

Persaingan prosesor server memasuki babak baru. Arm memperkenalkan AGI, prosesor server generasi terbaru yang dirancang khusus untuk kebutuhan pusat data modern, termasuk kecerdasan buatan atau artificial intelligence (AI) dan sistem agentic AI. Dengan konfigurasi hingga 136 core Neoverse V3, bandwidth memori tinggi, serta dukungan teknologi interkoneksi dan ekspansi generasi terbaru, Arm ingin memperbesar perannya di pasar server yang selama ini sangat kuat dikuasai arsitektur x86.

Kehadiran AGI menjadi penting karena kebutuhan pusat data telah berubah cukup drastis. Server tidak lagi hanya menjalankan aplikasi bisnis atau layanan web konvensional. Infrastruktur modern harus mampu menangani model AI berukuran besar, analisis data, komputasi awan, hingga aplikasi yang dapat menjalankan rangkaian tugas secara mandiri.

Dalam kondisi tersebut, jumlah core memang penting, tetapi bukan satu-satunya faktor. Kemampuan prosesor menyediakan data ke setiap core dengan cepat juga menjadi sangat menentukan. Di sinilah Arm mencoba menawarkan keunggulan AGI melalui kombinasi jumlah core, bandwidth memori, kapasitas RAM besar, dan desain chiplet.

AGI Hadir dengan Hingga 136 Core Neoverse V3

Arm AGI menggunakan arsitektur Neoverse V3, yang memang dikembangkan Arm untuk kebutuhan komputasi infrastruktur dan pusat data. Pada konfigurasi tertingginya, prosesor ini menawarkan hingga 136 core.

Jumlah tersebut menunjukkan bagaimana prosesor server modern semakin mengandalkan pemrosesan paralel. Banyaknya core memungkinkan satu sistem menangani lebih banyak pekerjaan secara bersamaan, terutama ketika aplikasi yang dijalankan dapat membagi beban kerja ke berbagai thread.

Arm menggunakan desain dua chiplet yang diproduksi oleh TSMC menggunakan proses manufaktur N3P. Masing-masing chiplet secara fisik memiliki 70 core. Namun, konfigurasi tertinggi AGI mengaktifkan 136 core.

Kecepatan operasional prosesor berada pada rentang 2,8 hingga 3,7 GHz. Setiap core juga memiliki dua vector engine 128-bit yang dirancang untuk membantu pemrosesan data secara paralel.

Untuk mendukung aktivitas komputasi tersebut, setiap core membawa cache L2 sebesar 2 MB. Selain itu, tersedia system-level cache dengan kapasitas total mencapai 272 MB.

Kombinasi tersebut memperlihatkan bahwa Arm tidak hanya mengejar jumlah core, tetapi juga berusaha memperpendek jarak antara unit pemrosesan dan data yang dibutuhkan.

Dua Chiplet Terhubung dengan UCIe

Salah satu bagian menarik dari desain AGI terletak pada cara dua chiplet tersebut berkomunikasi. Arm menggunakan UCIe 32 GT/s, standar interkoneksi chiplet yang memungkinkan beberapa bagian prosesor bekerja sebagai satu sistem.

Bandwidth agregat interkoneksi antarchiplet tersebut diklaim dapat mencapai 2 TB/s. Angka ini sangat besar karena komunikasi antarkomponen menjadi salah satu faktor penting dalam prosesor dengan jumlah core yang tinggi.

Desain AGI juga memiliki karakteristik yang berbeda dari pendekatan sederhana dengan mengandalkan interkoneksi sebagai jalur untuk seluruh akses data.

Masing-masing chiplet mempunyai CPU core, memory controller, dan I/O sendiri. Dengan demikian, core yang mengakses memori lokal tidak selalu harus melewati interkoneksi antarchiplet.

Menurut Arm, rancangan tersebut memungkinkan latensi akses terhadap DRAM lokal berada di bawah 100 nanodetik.

Bagi server AI, karakteristik seperti ini dapat menjadi sangat penting. Model AI dan aplikasi berbasis data membutuhkan perpindahan informasi dalam jumlah besar. Jika prosesor harus terlalu sering menunggu data dari memori, kemampuan komputasi core yang tinggi tidak akan dimanfaatkan secara maksimal.

Dengan mengurangi latensi, prosesor memiliki peluang untuk menghabiskan lebih banyak waktu mengerjakan tugas dibandingkan menunggu data tersedia.

Bandwidth Memori Mencapai 844,8 GB/s

Selain jumlah core, memori menjadi salah satu aspek utama yang ditonjolkan Arm pada AGI.

Prosesor ini mendukung DDR5-8800 dengan bandwidth gabungan hingga 844,8 GB/s. Kapasitas memori yang dapat ditangani juga sangat besar, mencapai 6 TB per socket.

Kapasitas tersebut membuat AGI cocok untuk server yang menangani dataset berukuran besar. Dalam infrastruktur AI, kapasitas RAM besar dibutuhkan untuk menyimpan data dan menjalankan berbagai proses secara bersamaan tanpa terlalu sering mengandalkan penyimpanan yang jauh lebih lambat.

Bandwidth tinggi juga membantu mengimbangi banyaknya core yang tersedia. Bayangkan prosesor dengan lebih dari seratus core tetapi hanya mendapatkan pasokan data yang terbatas. Dalam kondisi tersebut, sebagian kemampuan komputasinya dapat terbuang karena core harus menunggu.

Karena itu, peningkatan jumlah core perlu berjalan bersama peningkatan kemampuan subsistem memori. AGI tampaknya dirancang dengan prinsip tersebut.

Mendukung PCIe 6.0 dan CXL 3.0

Kebutuhan server modern tidak berhenti pada CPU dan RAM. Prosesor juga harus dapat berkomunikasi dengan berbagai perangkat tambahan, seperti GPU, akselerator AI, kartu jaringan berkecepatan tinggi, dan perangkat penyimpanan.

Untuk kebutuhan tersebut, Arm AGI menyediakan 96 lane PCIe 6.0 yang mendukung CXL 3.0. Selain itu terdapat empat lane PCIe 4.0.

Dukungan PCIe 6.0 memberikan jalur komunikasi berkecepatan tinggi untuk berbagai perangkat ekspansi. Sementara itu, CXL atau Compute Express Link semakin relevan dalam pusat data karena dapat digunakan untuk menghubungkan prosesor dengan perangkat seperti akselerator dan ekspansi memori.

AGI juga menyediakan interface I3C, I2C, dan SPI untuk kebutuhan komunikasi dengan berbagai komponen sistem.

Dari sisi konsumsi daya, prosesor tersebut memiliki TDP 300 watt. Angka ini menunjukkan bahwa AGI memang ditujukan untuk sistem server dengan kebutuhan komputasi tinggi dan infrastruktur pendinginan yang memadai.

Dirancang untuk AI dan Agentic AI

Arm secara khusus menempatkan AGI sebagai prosesor yang cocok untuk server AI dan sistem agentic AI.

Agentic AI merupakan pendekatan kecerdasan buatan yang memungkinkan sistem menjalankan serangkaian tugas berdasarkan tujuan tertentu, bukan sekadar memberikan satu respons terhadap sebuah perintah.

Sistem seperti ini berpotensi menghasilkan beban kerja yang kompleks karena AI dapat menjalankan beberapa proses secara berurutan. Sistem harus memproses input, mengakses data, membuat keputusan, menjalankan tindakan, lalu mengevaluasi hasilnya.

Karena itu, bandwidth memori dan latensi menjadi semakin penting.

Prosesor seperti AGI tidak hanya dituntut memiliki performa komputasi tinggi. Ia juga harus mampu menyediakan data dengan cepat kepada unit pemrosesan.

Pendekatan tersebut cukup masuk akal mengingat perkembangan AI membuat pusat data semakin membutuhkan kombinasi CPU, GPU, akselerator khusus, memori berkapasitas besar, dan jaringan berkecepatan tinggi.

Arm Mulai Menantang Dominasi x86

Selama bertahun-tahun, pasar CPU server didominasi oleh prosesor berbasis arsitektur x86, terutama Intel Xeon dan AMD EPYC. Kehadiran AGI menunjukkan bahwa Arm ingin mengambil bagian lebih besar dari pasar tersebut.

Arm sebenarnya bukan pendatang baru di dunia server. Arsitektur Neoverse telah digunakan untuk berbagai kebutuhan infrastruktur. Namun, persaingan dengan dua pemain besar x86 tetap bukan perkara mudah.

Server perusahaan tidak hanya mempertimbangkan performa prosesor. Kompatibilitas perangkat lunak, sistem operasi, dukungan vendor, efisiensi energi, harga, serta ekosistem pengembang juga menjadi pertimbangan penting.

Karena itu, keberhasilan AGI nantinya akan sangat bergantung pada seberapa luas prosesor tersebut diadopsi oleh produsen server dan penyedia pusat data.

Arm sendiri memiliki modal berupa ekosistem arsitektur yang semakin berkembang. Arsitektur Arm telah sangat populer pada perangkat mobile dan kini semakin banyak digunakan untuk berbagai jenis komputasi.

Jika adopsi Arm di pusat data terus meningkat, AGI dapat menjadi salah satu produk penting dalam strategi tersebut.

Klaim Performa Dua Kali Lipat per Rack

Arm mengklaim AGI mampu memberikan performa hingga dua kali lipat per rack dibandingkan sistem x86 modern.

Namun, angka tersebut perlu dipahami secara hati-hati karena merupakan estimasi internal Arm, bukan hasil pengujian independen.

Performa server tidak dapat dinilai hanya berdasarkan spesifikasi prosesor. Konfigurasi sistem, jenis aplikasi, jumlah akselerator, memori, sistem pendinginan, perangkat jaringan, serta metode pengujian dapat menghasilkan perbedaan besar.

Meski demikian, klaim tersebut menunjukkan target yang ingin dicapai Arm. Perusahaan tidak sekadar menawarkan alternatif prosesor server, tetapi ingin menunjukkan bahwa arsitektur Arm mampu memberikan performa tinggi dalam kepadatan sistem yang kompetitif.

Konsep performa per rack juga penting bagi operator pusat data. Ruang di dalam data center memiliki nilai ekonomi tinggi. Semakin banyak pekerjaan yang dapat diselesaikan dalam ruang dan konsumsi energi tertentu, semakin menarik sebuah platform bagi operator.

Mengapa Desain Chiplet Semakin Penting?

Penggunaan dua chiplet pada AGI juga memperlihatkan arah perkembangan desain prosesor modern.

Membuat prosesor berukuran sangat besar dalam satu keping silikon memiliki tantangan tersendiri. Chiplet memungkinkan desain besar dibagi menjadi beberapa bagian yang kemudian dihubungkan menggunakan interkoneksi berkecepatan tinggi.

Pendekatan tersebut memberikan fleksibilitas dalam pengembangan produk. Produsen dapat menggabungkan beberapa komponen untuk menghasilkan konfigurasi yang berbeda.

Pada AGI, dua chiplet tersebut tidak sekadar ditempel menjadi satu prosesor. Arm merancang masing-masing chiplet dengan CPU, memory controller, dan I/O sehingga akses terhadap sumber daya lokal dapat dilakukan secara efisien.

UCIe kemudian menjadi jalur komunikasi berbandwidth tinggi untuk kebutuhan antarchiplet.

Masa Depan AGI Arm di Pusat Data

Arm menjadwalkan pengiriman komersial AGI mulai dalam beberapa bulan ke depan. Artinya, dunia industri akan segera mendapatkan kesempatan untuk melihat bagaimana prosesor tersebut bekerja dalam lingkungan server nyata.

Jika mampu memenuhi klaim performanya, AGI berpotensi menjadi salah satu alternatif menarik untuk pusat data yang menjalankan AI dan beban kerja intensif data.

Namun, tantangannya juga besar. Arm harus memastikan dukungan perangkat lunak, kompatibilitas aplikasi, ketersediaan server, efisiensi energi, dan dukungan ekosistem mampu mengimbangi spesifikasi hardware yang ditawarkan.

Yang jelas, kehadiran AGI memperlihatkan bahwa persaingan prosesor server semakin berkembang. Pertarungan tidak lagi hanya mengenai siapa yang memiliki clock speed tertinggi atau jumlah core terbanyak.

Di era AI, bandwidth memori, latensi, kapasitas RAM, interkoneksi chiplet, ekspansi PCIe, serta kemampuan bekerja bersama akselerator menjadi sama pentingnya.

Dengan hingga 136 core Neoverse V3, bandwidth memori 844,8 GB/s, kapasitas RAM hingga 6 TB per socket, PCIe 6.0, CXL 3.0, dan desain chiplet berkecepatan tinggi, Arm AGI jelas diposisikan untuk menghadapi kebutuhan pusat data generasi berikutnya.

Apakah AGI benar-benar dapat menggoyang dominasi Intel Xeon dan AMD EPYC masih harus dibuktikan melalui pengujian independen dan implementasi komersial. Namun setidaknya, satu hal sudah terlihat: persaingan CPU server memasuki era baru, dan AI menjadi salah satu medan pertarungan utamanya.