AMD Ungkap Kemampuan Gorgon Halo dengan Memori Terpadu untuk Pemrosesan AI Lokal

AMD kembali menjadi sorotan industri teknologi setelah mengungkap kemampuan Gorgon Halo, platform prosesor yang ditujukan untuk pemrosesan kecerdasan buatan secara lokal. Melalui jajaran Ryzen AI Max dan Ryzen AI Max PRO 400 Series, perusahaan memperkenalkan pendekatan komputasi yang menggabungkan CPU, GPU, NPU, serta memori terpadu berkapasitas besar. Konfigurasi tertingginya mendukung hingga 192GB RAM, dengan alokasi memori grafis mencapai 160GB untuk menangani model AI berukuran besar. Teknologi tersebut membuka peluang bagi pengembang dan perusahaan untuk menjalankan aplikasi AI tanpa selalu bergantung pada layanan cloud, sekaligus menawarkan fleksibilitas dalam mengelola data, biaya komputasi, dan kebutuhan perangkat profesional.

AMD Memperkenalkan Kemampuan Gorgon Halo untuk Komputasi AI Lokal

Kemajuan TEKNOLOGI kecerdasan buatan semakin meningkatkan kebutuhan perangkat komputasi. Dengan menghadirkan keluarga prosesor terbaru, AMD memperluas kemampuan komputer pribadi untuk memproses kecerdasan buatan secara mandiri. Platform tersebut mengintegrasikan kemampuan CPU, kemampuan komputasi paralel, dan unit pemrosesan neural dalam satu rancangan perangkat keras. Kombinasi tersebut bertujuan membantu menjalankan aktivitas generatif kompleks dengan dukungan memori berkapasitas besar. Ketika aplikasi AI dijalankan langsung di perangkat, ruang penyimpanan kerja menjadi pertimbangan penting. Oleh sebab itu, AMD menjadikan kapasitas RAM bersama sebagai bagian penting pengembangan.

Generasi prosesor terbaru tersebut hadir sebagai penyempurnaan dari keluarga Strix Halo. Kemajuan utama generasi ini adalah dukungan RAM yang lebih besar. Jika dibandingkan platform awal, batas memori sistem berada pada 128 gigabyte. Sementara itu, AMD menghadirkan dukungan RAM sampai 192GB. Penambahan RAM tersebut memberikan ruang lebih besar bagi sistem agen AI. Meski spesifikasinya lebih tinggi, konfigurasi akhir tetap ditentukan produsen komputer. Dengan memahami perbedaan tersebut, calon pembeli sebaiknya meninjau konfigurasi aktual sebelum merencanakan pemrosesan model besar.

Memori Terpadu 192GB Menjadi Keunggulan Gorgon Halo

Karakteristik yang paling menonjol Gorgon Halo adalah arsitektur unified memory yang memberikan ruang kerja bersama bagi prosesor dan grafis kapasitas memori sistem. Tidak sama dengan perangkat dengan VRAM khusus, sistem terpadu tersebut dapat mengurangi perpindahan data tertentu antara komponen utama dan grafis. Manfaat pendekatan ini menjadi relevan ketika memproses data generatif. Dalam pemrosesan bahasa alami, bobot model harus dimuat ke memori. Melalui dukungan memori besar, pengguna memiliki kesempatan menjalankan model lebih besar.

AMD menjelaskan, arsitektur tersebut mendukung pembagian ruang kerja GPU sebesar 160 gigabyte. Kapasitas grafis ini tidak menunjukkan adanya memori kartu grafis khusus sebesar 160GB. Dalam arsitektur terpadu, alokasi tersebut menggunakan pool RAM terpadu. Perbedaan ini penting dipahami karena CPU dan aplikasi lain tetap membutuhkan ruang. Ketika alokasi model terlalu besar, performa sistem dapat terpengaruh. Selain itu, kemampuan transfer informasi memiliki dampak terhadap kecepatan inferensi. Karena itu, kapasitas memori tinggi perlu diimbangi perangkat lunak teroptimasi.

Teknologi AMD Mendukung Inferensi Model Bahasa Besar Tanpa Cloud

Aspek menarik dari pengembangan Gorgon Halo adalah pemrosesan jaringan saraf berskala tinggi. Dalam informasi produknya, sistem Gorgon Halo kelas atas dapat menjalankan model bahasa dengan jumlah parameter di atas 300 miliar menggunakan quantization 4-bit. Kemampuan tersebut menjadi pencapaian menarik bagi organisasi teknologi yang mengembangkan aplikasi tanpa selalu menggunakan server cloud. Namun demikian, kemampuan memuat parameter bukan jaminan memperoleh performa maksimal. Performa inferensi aktual bergantung pada arsitektur model serta konfigurasi sistem.

Metode kompresi bobot memiliki manfaat besar dalam menyesuaikan model dengan kapasitas perangkat. Dalam representasi numerik berukuran besar, setiap parameter membutuhkan alokasi RAM yang lebih tinggi. Sebagai gambaran, model 300 miliar parameter pada format dua byte per parameter memiliki ukuran parameter teoritis mendekati 600GB. Jika dikompresi menjadi 4-bit, ukuran dasar bobot dapat mendekati 150GB. Namun demikian, file model biasanya membutuhkan informasi tambahan. Tidak hanya untuk bobot, proses inferensi menggunakan buffer komputasi. Karena alasan tersebut, ukuran file tidak boleh menjadi satu-satunya acuan.

Arsitektur AMD Menggabungkan Berbagai Unit Pemrosesan AI

Selain memori terpadu, Gorgon Halo mengintegrasikan prosesor berbasis AMD Zen 5, pemroses grafis Radeon RDNA 3.5, dan akselerator neural XDNA 2. Kombinasi tersebut memberikan pilihan akselerasi berdasarkan jenis tugas. Prosesor sentral berfungsi menjalankan sistem operasi, sedangkan pemroses grafis berperan besar dalam operasi paralel. Sementara itu, NPU dioptimalkan bagi pekerjaan neural yang kompatibel. Berkat integrasi unit pemrosesan, aplikasi memiliki peluang memanfaatkan akselerator yang didukung. Walaupun seluruh komponen mendukung AI, pemrosesan model mungkin hanya menggunakan komponen tertentu.

Pada konfigurasi tertinggi, AMD menghadirkan prosesor dengan maksimum 16 core, kapasitas pemrosesan grafis hingga 40 CU, dan unit AI berkapasitas maksimum 55 triliun operasi per detik. Rancangan perangkat keras tersebut ditujukan untuk pengembangan AI lokal. Walaupun angka TOPS menunjukkan kapasitas teoritis, pengukuran tersebut tidak langsung menggambarkan performa semua model bahasa. Ketika menjalankan jaringan saraf berparameter tinggi, bandwidth RAM dan dukungan GPU memiliki pengaruh besar. Oleh sebab itu, pengembang perlu memeriksa performa sesuai aplikasi yang akan dijalankan, bukan sekadar membandingkan jumlah TOPS.

Benchmark Gorgon Halo Menunjukkan Potensi untuk AI Generatif

Untuk memperlihatkan kemampuan platform, AMD membagikan hasil benchmark internal. Evaluasi performa ini mencakup aplikasi kecerdasan buatan lokal seperti pemrosesan grafis berbasis AI dan inferensi model bahasa. Berdasarkan presentasi perusahaan, keunggulan performa bervariasi dari peningkatan mendekati 1,1 kali hingga peningkatan maksimum 32,2 kali terhadap platform pembanding yang digunakan. Sebagai catatan penting, angka tersebut berasal dari benchmark yang dipilih AMD. Oleh sebab itu, hasil tersebut tidak boleh dianggap berlaku untuk semua aplikasi.

Dalam beberapa pengujian, AMD memanfaatkan ComfyUI untuk pemrosesan gambar generatif. Perusahaan juga memakai model terkompresi dengan dukungan Unsloth pada sejumlah beban kerja AI. Konfigurasi quantization turut menentukan hasil benchmark. Selain itu, jumlah token masukan juga dapat memengaruhi latensi generasi token. Ketika jumlah token meningkat besar, throughput mungkin berkurang meskipun perangkat mampu menjalankan inferensi. Dengan demikian, pengguna profesional dianjurkan memeriksa pengujian independen sebelum menyimpulkan keunggulan performa.

Teknologi Gorgon Halo Membuka Peluang Komputasi Mandiri Tanpa Cloud

Salah satu bidang penggunaan penting Gorgon Halo adalah pengembangan AI lokal. Berkat kapasitas komputasi yang tersedia, tim teknologi dapat menguji model bahasa besar langsung pada perangkat yang dikelola sendiri. Kemampuan tersebut dapat membantu pengelolaan data dalam lingkungan lokal. Pada kebutuhan pengembangan, pengembang berpeluang membangun agen AI berbasis data organisasi yang menangani data pada perangkat sendiri. Meski model berjalan tanpa cloud, perlindungan data masih membutuhkan perhatian. Perangkat lunak inferensi berpotensi mengakses layanan tambahan, sehingga pengguna perlu memahami kebijakan aplikasi.

Selain model bahasa, Gorgon Halo juga relevan untuk pembuatan agentic workflows. Pada arsitektur agen, tugas bisa dibagi menjadi beberapa tahapan. Sebagai ilustrasi, agen dapat membaca berkas referensi, kemudian menghasilkan rekomendasi berdasarkan informasi yang tersedia. Kapasitas RAM terpadu luas berpotensi memungkinkan pemuatan beberapa komponen pemrosesan. Namun demikian, penggunaan beberapa agen tetap membutuhkan pengendalian konsumsi RAM. Di samping kebutuhan performa, hasil setiap agen perlu diverifikasi agar kesalahan tidak diteruskan ke tahap berikutnya.

Kesimpulan: Memori Terpadu 192GB Menjadi Nilai Penting Gorgon Halo

Kehadiran Ryzen AI Max 400 Series menunjukkan kemajuan penting dalam pengembangan sistem AI pada perangkat pribadi. Berkat penggunaan memori terpadu hingga 192GB, ruang pemrosesan grafis yang luas, serta kombinasi CPU Zen 5, GPU RDNA 3.5, dan NPU XDNA 2, sistem Gorgon Halo menawarkan kemampuan inferensi model bahasa besar. Potensi pemrosesan model sangat besar menggunakan quantization 4-bit membuka pilihan menarik bagi peneliti AI. Namun demikian, performa nyata harus dinilai berdasarkan dukungan perangkat lunak dan kebutuhan komputasi. Dengan mempertimbangkan berbagai faktor, pengembang perlu mengevaluasi perangkat sesuai kebutuhan. Bagaimana pendapat Anda mengenai, seberapa penting kemampuan menjalankan model besar tanpa cloud? Anda dapat berbagi pandangan mengenai perkembangan teknologi AMD.