KANALEKONOMI.ID — Nvidia memperkenalkan platform DSX yang diklaim mampu memangkas pemborosan daya di pusat data kecerdasan buatan hingga 24 persen. Teknologi ini menyasar masalah yang makin mendesak: kapasitas listrik jaringan yang terbatas sementara permintaan GPU terus melonjak. Bagi operator pusat data, efisiensi daya berarti lebih banyak token yang bisa diproses dari anggaran listrik yang sama.
Nvidia memperkenalkan DSX, seperangkat teknologi manajemen daya untuk pusat data AI, di ajang AI Infra Summit. Platform ini terdiri dari dua komponen utama: DSX MaxLPS untuk memaksimalkan efisiensi daya di dalam fasilitas, dan DSX Flex untuk membantu operator mengurangi beban saat jaringan listrik lokal mengalami lonjakan permintaan.
Langkah Nvidia ini menjawab persoalan yang kian pelik. Kemampuan perusahaan menjual GPU pada akhirnya dibatasi seberapa besar daya yang bisa disediakan jaringan listrik. Setiap kilowatt daya yang terbuang percuma adalah satu GPU yang gagal terjual.
Masalah Daya yang Tidak Terpakai di Pusat Data
Pusat data umumnya beroperasi jauh di bawah kapasitas puncaknya. Sebuah fasilitas berkapasitas 100 megawatt mungkin hanya memakai 80 persen untuk beban komputasi kritis. Sisanya menjadi penyangga untuk inefisiensi perangkat keras, kerugian konversi daya, dan lonjakan permintaan mendadak.
Pola ini menyisakan sekitar 20 megawatt daya yang tidak bisa dipakai pusat data maupun ditarik kembali oleh perusahaan listrik. Daya yang terdampar itu menjadi masalah bagi Nvidia karena setiap megawatt yang tidak termanfaatkan berarti potensi penjualan chip yang hilang.
Membuat Perangkat Saling Berbicara
DSX MaxLPS bekerja dengan menghubungkan sistem komputasi dan seluruh infrastruktur fisik di pusat data. Kabinet daya, baterai, unit distribusi pendingin, dan mesin pendingin bisa saling bertukar informasi tentang konsumsi daya aktual.
Dion Harris, senior director Nvidia HPC dan AI Hyperscale Infrastructure Solutions, menjelaskan bahwa pendekatan ini memungkinkan penghematan daya yang signifikan. "DSX Exchange pada dasarnya adalah API yang memungkinkan kami menangkap informasi bukan hanya dari sistem inti," ujarnya.
Nvidia menyebut informasi itu juga diambil dari penyedia aset yang tergabung dalam ekosistem DSX, termasuk Vertiv dan Schneider Electric beserta seluruh sistem manajemen gedung mereka.
Tantangan lama dari gagasan ini adalah menyatukan sistem dari puluhan vendor berbeda agar berbicara dalam bahasa yang sama. Situasi berubah setelah penyebaran sistem AI meluas, karena pusat data yang lebih efisien bisa menghasilkan lebih banyak token dan pendapatan lebih tinggi.
Uji Coba Bareng Lambda: 19 Node di Anggaran Daya 16 Node
Dalam pengujian bersama Lambda, teknologi ini berhasil memadatkan 19 node ke dalam anggaran daya yang biasanya hanya cukup untuk 16 node. Throughput seluruh klaster naik 24 persen, begitu pula performa per watt.
Hasil tersebut membuat pusat data tidak perlu lagi menyediakan cadangan daya berlebihan. Visibilitas dan kendali atas fasilitas secara keseluruhan menjadi lebih besar.
DSX Flex: Lepas Beban saat Jaringan Listrik Kewalahan
Komponen kedua, DSX Flex, diuji bersama Emerald AI dan Silicon Valley Power. Teknologi ini memungkinkan pusat data melepaskan sebagian daya saat permintaan jaringan listrik memuncak tanpa mengganggu beban kerja kritis.
Konsep demand response sebenarnya sudah lama dikenal. Perusahaan listrik bisa meminta industri boros energi mengurangi pemakaian pada periode puncak. Google termasuk yang pernah menerapkan penundaan beban kerja AI non-esensial demi menghindari kelebihan beban jaringan.
Yang Nvidia tawarkan adalah membawa kemampuan itu ke siapa pun yang memakai perangkat kerasnya. Harris menyebut pendekatan ini membuat pemilik saluran transmisi bisa lebih longgar dalam mengalokasikan kapasitas. "Mereka tidak perlu menyediakan ruang cadangan sebanyak sebelumnya," katanya.
Beban kerja non-esensial bisa dijeda atau dipindahkan ke pusat data tetangga yang masih punya kapasitas berlebih. Praktik ini kadang disebut mengejar matahari.
Dinding Taman Baru di Ekosistem AI
Platform DSX bekerja optimal pada pabrik AI yang dibangun dengan perangkat keras tervalidasi Nvidia. Situasi menjadi lebih rumit ketika akselerator pihak ketiga seperti d-Matrix atau SambaNova masuk ke dalam campuran.
Bagi mitra yang sudah berada di ekosistem NVLink Fusion, Harris melihat ada jalur untuk memperluas dukungan DSX. Syaratnya, diperlukan integrasi perangkat lunak dan tidak semua chip mengekspos tingkat kendali sedetail chip Nvidia sendiri.
Untuk platform pesaing seperti GPU Instinct milik AMD, pembangun pusat data kemungkinan harus mencari sistem manajemen alternatif. DSX pun menjadi dinding taman baru yang memastikan pelanggan Nvidia terus membeli peralatannya.