Mengenal Compute Express Link (CXL): Teknologi Masa Depan yang Mengubah Cara Server Mengelola Memori dan AI

by

Mengenal Compute Express Link (CXL): Teknologi Masa Depan yang Mengubah Cara Server Mengelola Memori dan AI

Di era komputasi modern, kebutuhan akan performa semakin meningkat dari tahun ke tahun. Kemunculan kecerdasan buatan (AI), komputasi awan (cloud computing), big data, machine learning, hingga pusat data skala besar membuat arsitektur komputer tradisional mulai menghadapi berbagai keterbatasan.

Selama puluhan tahun, hubungan antara prosesor (CPU), memori (RAM), kartu grafis (GPU), dan perangkat akselerator lainnya memiliki satu masalah yang sama, yaitu keterbatasan dalam berbagi data secara efisien. Ketika CPU dan GPU harus bekerja bersama, data sering kali harus disalin berkali-kali dari satu memori ke memori lainnya. Proses ini menambah latensi, membuang bandwidth, dan mengurangi efisiensi sistem secara keseluruhan.

Untuk mengatasi masalah tersebut, industri teknologi mengembangkan sebuah standar baru bernama Compute Express Link (CXL).

Teknologi ini digadang-gadang sebagai salah satu inovasi paling penting dalam dunia pusat data modern karena mampu mengubah cara perangkat keras berkomunikasi dan berbagi memori. Bahkan perusahaan-perusahaan raksasa seperti Intel, AMD, NVIDIA, Google, Microsoft, Meta, Dell, Samsung, hingga HPE kini mulai mengadopsi teknologi ini dalam berbagai produk generasi terbaru mereka.

Lalu sebenarnya apa itu CXL? Bagaimana cara kerjanya? Dan mengapa teknologi ini dianggap sangat penting untuk masa depan AI dan data center?

Mari kita bahas secara lengkap.

Apa Itu Compute Express Link (CXL)?

Compute Express Link atau CXL adalah standar interkoneksi berkecepatan tinggi yang dirancang untuk menghubungkan CPU dengan berbagai perangkat lain seperti:

  • GPU
  • AI Accelerator
  • FPGA
  • SmartNIC
  • Storage Accelerator
  • Perangkat ekspansi memori

Tujuan utama CXL adalah memungkinkan semua perangkat tersebut dapat berbagi data dan memori secara lebih efisien.

Berbeda dengan komunikasi tradisional yang sering memerlukan penyalinan data berulang kali, CXL memungkinkan perangkat saling mengakses data yang sama tanpa perlu membuat salinan tambahan.

Dengan kata lain, CPU dan GPU dapat melihat informasi yang sama secara langsung sehingga proses komputasi menjadi jauh lebih cepat.

Mengapa CXL Dibutuhkan?

Untuk memahami pentingnya CXL, kita perlu melihat bagaimana sistem komputer bekerja saat ini.

Misalnya sebuah server AI memiliki:

  • CPU AMD EPYC
  • GPU NVIDIA
  • RAM DDR5

Ketika CPU ingin mengirim data ke GPU untuk diproses, data biasanya harus:

  1. Dibaca dari RAM.
  2. Disalin ke buffer.
  3. Dikirim melalui PCIe.
  4. Disimpan ke memori GPU.

Setelah selesai diproses:

  1. Data hasil dipindahkan kembali.
  2. Dikirim ke CPU.
  3. Disimpan lagi di RAM.

Proses ini tampak sederhana, tetapi pada skala AI modern yang memproses ratusan gigabyte data, waktu yang terbuang bisa sangat besar.

Inilah yang ingin dihilangkan oleh CXL.

Baca juga : Meta Sulap RAM DDR4 Bekas untuk Server AI, Pangkas Kebutuhan Server hingga 25 Persen

CXL Dibangun di Atas PCI Express

Salah satu alasan mengapa CXL berkembang begitu cepat adalah karena teknologi ini tidak memerlukan konektor baru.

CXL dibangun di atas infrastruktur fisik PCI Express (PCIe) yang sudah digunakan hampir seluruh komputer modern.

Artinya:

  • Slot fisik tetap sama.
  • Jalur komunikasi tetap menggunakan PCIe.
  • Produsen tidak perlu mendesain ulang motherboard dari nol.

Namun di atas jalur PCIe tersebut ditambahkan protokol baru yang memungkinkan komunikasi jauh lebih cerdas.

Karena memanfaatkan infrastruktur yang sudah ada, adopsi CXL menjadi lebih mudah dan lebih murah.

Tiga Protokol Utama CXL

Di dalam teknologi CXL terdapat tiga protokol utama yang bekerja secara bersamaan.

1. CXL.io

CXL.io digunakan untuk komunikasi dasar antar perangkat.

Fungsinya mirip seperti PCIe tradisional.

Melalui CXL.io perangkat dapat:

  • Dikenali sistem operasi
  • Melakukan konfigurasi
  • Mengirim perintah dasar

Protokol ini menjadi fondasi komunikasi perangkat.

  1. CXL.cache

CXL.cache memungkinkan perangkat akselerator mengakses cache milik CPU secara langsung.

Biasanya GPU atau accelerator harus meminta data melalui jalur yang lebih panjang.

Dengan CXL.cache, perangkat dapat melihat cache CPU dengan lebih efisien sehingga waktu akses berkurang drastis.

Ini sangat penting untuk aplikasi AI yang membutuhkan akses data secara cepat dan berulang.

  1. CXL.mem

CXL.mem memungkinkan CPU mengakses memori yang berada di perangkat lain.

Misalnya:

  • Modul ekspansi memori
  • Accelerator
  • Perangkat penyimpanan berbasis memori

CPU dapat memperlakukan memori tambahan tersebut seolah-olah bagian dari RAM sistem.

Inilah fitur yang membuat konsep memory expansion dan memory pooling menjadi mungkin.

Keunggulan Utama CXL

1. Koherensi Memori (Memory Coherency)

Ini merupakan fitur paling penting dari CXL.

Koherensi memori berarti semua perangkat memiliki pandangan yang sama terhadap data.

Bayangkan CPU mengubah sebuah nilai di memori.

Pada sistem lama:

  • GPU mungkin belum mengetahui perubahan tersebut.
  • Data harus disinkronkan terlebih dahulu.

Dengan CXL:

  • Perubahan langsung diketahui perangkat lain.
  • Tidak perlu sinkronisasi manual.
  • Tidak perlu penyalinan tambahan.

Hal ini meningkatkan efisiensi sekaligus mengurangi latensi.

  1. Memory Pooling

Salah satu fitur paling revolusioner dari CXL adalah Memory Pooling.

Dalam data center tradisional, setiap server memiliki RAM sendiri.

Contohnya:

Server A:

  • 1 TB RAM
  • Terpakai 30%

Server B:

  • 1 TB RAM
  • Terpakai 95%

Masalahnya, Server B tidak bisa menggunakan RAM menganggur milik Server A.

Akibatnya banyak memori terbuang sia-sia.

Dengan CXL, memori dapat ditempatkan dalam satu pool besar yang dapat digunakan bersama.

Jika Server B membutuhkan tambahan RAM:

  • Sistem mengambil dari pool.
  • Tidak perlu memasang modul fisik baru.

Pemanfaatan memori menjadi jauh lebih optimal.

  1. Memory Expansion

Selain pooling, CXL memungkinkan ekspansi memori yang lebih fleksibel.

Biasanya kapasitas RAM dibatasi jumlah slot motherboard.

Misalnya:

  • Motherboard memiliki 16 slot RAM.
  • Semua slot sudah penuh.

Jika ingin menambah kapasitas, sering kali harus mengganti seluruh modul.

Dengan CXL:

  • Tambahan memori dapat dipasang melalui perangkat eksternal.
  • CPU tetap dapat mengaksesnya secara langsung.

Ini sangat berguna untuk server AI yang membutuhkan kapasitas memori sangat besar.

  1. Mengurangi Biaya Infrastruktur

Karena sumber daya dapat dibagi bersama, perusahaan tidak perlu membeli perangkat keras berlebihan.

Manfaatnya:

  • Penggunaan RAM lebih efisien.
  • Jumlah server dapat dikurangi.
  • Konsumsi listrik menurun.
  • Biaya pendinginan lebih rendah.

Inilah alasan banyak hyperscaler tertarik mengadopsi CXL.

  1. Cocok untuk AI dan Machine Learning

Model AI modern membutuhkan memori dalam jumlah sangat besar.

Sebagai contoh:

  • Large Language Model (LLM)
  • Generative AI
  • AI Inference

Semuanya membutuhkan akses data cepat dengan kapasitas memori besar.

CXL memungkinkan:

  • CPU
  • GPU
  • AI Accelerator

berbagi data secara lebih efisien tanpa harus memindahkan data berkali-kali.

Hasilnya:

  • Latensi lebih rendah.
  • Pemrosesan lebih cepat.
  • Skalabilitas lebih baik.

Tipe-Tipe Perangkat CXL

Konsorsium CXL membagi perangkat menjadi beberapa kategori.

Tipe 1

Perangkat ini tidak memiliki memori lokal.

Contohnya:

  • SmartNIC
  • Network Accelerator

Perangkat hanya menggunakan memori milik host.

Tipe 2

Perangkat memiliki memori sendiri.

Contohnya:

  • GPU
  • AI Accelerator
  • FPGA

Selain menggunakan memori lokal, perangkat juga dapat berbagi data dengan CPU melalui CXL.

Tipe 3

Tipe ini berfungsi sebagai perangkat ekspansi memori.

Contohnya:

  • Memory Expansion Module
  • Memory Appliance

Fungsinya menambah kapasitas RAM sistem tanpa harus memasang RAM langsung ke motherboard.

CXL dan Masa Depan Data Center

Banyak analis industri percaya bahwa CXL akan mengubah arsitektur pusat data dalam beberapa tahun mendatang.

Saat ini server masih dibangun dengan pendekatan tradisional:

  • CPU tetap
  • RAM tetap
  • Storage tetap

Dengan CXL, sumber daya menjadi lebih modular.

Bayangkan sebuah rak server memiliki:

  • Pool CPU
  • Pool GPU
  • Pool RAM
  • Pool Storage

Setiap aplikasi dapat mengambil sumber daya sesuai kebutuhan secara dinamis.

Konsep ini disebut composable infrastructure.

Hasilnya:

  • Lebih fleksibel
  • Lebih hemat biaya
  • Lebih mudah ditingkatkan

Perusahaan yang Mendukung CXL

Saat ini konsorsium CXL didukung oleh ratusan perusahaan teknologi besar.

Di antaranya:

  • Intel
  • AMD
  • NVIDIA
  • Samsung
  • SK Hynix
  • Micron
  • Google
  • Microsoft
  • Meta
  • Dell
  • HPE
  • Lenovo
  • Alibaba

Dukungan luas ini membuat banyak pihak yakin bahwa CXL akan menjadi standar utama dalam industri server generasi berikutnya.

Hubungan CXL dengan Kasus Meta dan RAM DDR4 Bekas

Belum lama ini Meta memperkenalkan teknologi MemServer yang memanfaatkan RAM DDR4 bekas untuk server AI modern.

Teknologi tersebut dapat berjalan berkat penggunaan ASIC khusus yang memanfaatkan konsep CXL.

Melalui pendekatan ini:

  • DDR5 digunakan sebagai memori utama.
  • DDR4 digunakan sebagai memori tambahan.
  • Sistem secara otomatis memindahkan data sesuai kebutuhan.

Hasilnya, Meta mengklaim kebutuhan server AI dapat berkurang hingga 25%.

Ini menjadi contoh nyata bagaimana CXL bukan sekadar teori, melainkan sudah mulai digunakan dalam lingkungan produksi skala besar.

Kesimpulan

Compute Express Link (CXL) merupakan salah satu teknologi paling penting dalam dunia komputasi modern. Dengan kemampuan menjaga koherensi memori, mendukung memory pooling, memory expansion, serta memungkinkan CPU dan akselerator berbagi data secara efisien, CXL membuka jalan menuju generasi baru pusat data yang lebih fleksibel dan hemat biaya.

Di tengah ledakan kebutuhan AI, cloud computing, dan analisis data skala besar, pendekatan tradisional mulai menunjukkan keterbatasannya. CXL hadir sebagai solusi yang memungkinkan pemanfaatan sumber daya lebih optimal tanpa harus terus-menerus menambah perangkat keras baru.

Dengan dukungan dari hampir seluruh pemain besar industri teknologi, bukan hal yang berlebihan jika banyak pihak menyebut CXL sebagai salah satu fondasi utama yang akan membentuk masa depan server, AI, dan data center dalam dekade mendatang.