AMD Ungkap Kemampuan Gorgon Halo dengan Memori Terpadu untuk Pemrosesan AI Lokal

AMD kembali menjadi sorotan industri teknologi setelah mengungkap kemampuan Gorgon Halo, platform prosesor yang ditujukan untuk pemrosesan kecerdasan buatan secara lokal. Melalui jajaran Ryzen AI Max dan Ryzen AI Max PRO 400 Series, perusahaan memperkenalkan pendekatan komputasi yang menggabungkan CPU, GPU, NPU, serta memori terpadu berkapasitas besar. Konfigurasi tertingginya mendukung hingga 192GB RAM, dengan alokasi memori grafis mencapai 160GB untuk menangani model AI berukuran besar. Teknologi tersebut membuka peluang bagi pengembang dan perusahaan untuk menjalankan aplikasi AI tanpa selalu bergantung pada layanan cloud, sekaligus menawarkan fleksibilitas dalam mengelola data, biaya komputasi, dan kebutuhan perangkat profesional.

Inovasi Gorgon Halo Membawa Teknologi AI Berkapasitas Besar ke Komputer Pribadi

Transformasi TEKNOLOGI AI modern terus mendorong kebutuhan perangkat komputasi. Berkat pengembangan Ryzen AI Max 400 Series, AMD mengembangkan potensi perangkat workstation untuk menjalankan model AI besar. Arsitektur pemrosesan ini mengintegrasikan unit pemrosesan utama, akselerasi GPU, dan unit pemrosesan neural dalam arsitektur komputasi terpadu. Perpaduan teknologi ini bertujuan membantu menjalankan berbagai pekerjaan AI dengan pemanfaatan sumber daya yang fleksibel. Dalam pengembangan lokal, ruang penyimpanan kerja menjadi kebutuhan mendasar. Karena itu, AMD menempatkan memori terpadu sebagai bagian penting pengembangan.

Platform Ryzen AI Max 400 Series menjadi pengembangan lanjutan dari platform Ryzen AI Max generasi terdahulu. Perubahan yang paling menonjol adalah perluasan ruang kerja terpadu. Jika dibandingkan platform awal, kapasitas maksimum mencapai 128GB. Pada jajaran terbaru, AMD menghadirkan dukungan RAM sampai 192GB. Perubahan kapasitas ini memberikan ruang lebih besar bagi model bahasa besar. Walaupun kapasitas meningkat, konfigurasi akhir tetap ditentukan produsen komputer. Oleh sebab itu, calon pembeli sebaiknya meninjau konfigurasi aktual sebelum merencanakan pemrosesan model besar.

Cara Unified Memory AMD Mendukung Pemrosesan AI Berukuran Besar

Karakteristik yang paling menonjol Gorgon Halo adalah arsitektur unified memory yang memungkinkan CPU dan GPU mengakses kapasitas memori sistem. Tidak sama dengan komputer dengan GPU diskret, arsitektur tersebut dapat mengurangi perpindahan data tertentu antara komponen utama dan grafis. Nilai tambahan sistem tersebut memiliki potensi besar ketika memproses data generatif. Pada inferensi model bahasa, parameter jaringan saraf harus dimuat ke memori. Melalui dukungan memori besar, pengguna memiliki kesempatan menjalankan beban komputasi yang sebelumnya sulit dijalankan pada PC biasa.

AMD menjelaskan, arsitektur tersebut mendukung pembagian ruang kerja GPU sebesar 160 gigabyte. Kapasitas grafis ini berbeda dari kapasitas VRAM dedicated pada GPU diskret. Sebaliknya, alokasi tersebut menggunakan pool RAM terpadu. Karakteristik tersebut harus menjadi pertimbangan karena proses pendukung masih memerlukan alokasi memori. Ketika alokasi model terlalu besar, aplikasi lain mungkin mengalami kekurangan memori. Di samping kapasitas RAM, kemampuan transfer informasi juga memengaruhi kelancaran pemrosesan model. Oleh sebab itu, kapasitas memori tinggi perlu diimbangi perangkat lunak teroptimasi.

Kemampuan Ryzen AI Max PRO 400 Series untuk Menjalankan LLM Lokal

Aspek menarik dari pengembangan Gorgon Halo adalah pemrosesan jaringan saraf berskala tinggi. Berdasarkan penjelasan perusahaan, konfigurasi Ryzen AI Max PRO 400 Series dapat menjalankan model dengan lebih dari 300 miliar parameter menggunakan quantization 4-bit. Kemampuan tersebut memberikan pilihan tambahan bagi organisasi teknologi yang ingin bereksperimen secara lokal. Walaupun kemampuan tersebut menjanjikan, kemampuan memuat parameter bukan jaminan memperoleh performa maksimal. Hasil pemrosesan dalam praktik ditentukan oleh kombinasi arsitektur model serta konfigurasi sistem.

Teknik kuantisasi menjadi komponen utama dalam memungkinkan model berukuran besar berjalan. Pada format presisi tinggi, setiap parameter membutuhkan kapasitas penyimpanan kerja yang besar. Dalam perhitungan sederhana, LLM dengan tiga ratus miliar bobot pada format dua byte per parameter membutuhkan sekitar 600GB hanya untuk bobot. Ketika quantization empat bit digunakan, ukuran dasar bobot dapat mendekati 150GB. Sebagai catatan, file model biasanya membutuhkan informasi tambahan. Di samping ukuran parameter, sistem masih membutuhkan memori untuk konteks dan proses pendukung. Oleh sebab itu, pemilihan model perlu mempertimbangkan ruang memori tambahan.

Peran CPU Zen 5, GPU RDNA 3.5, dan NPU XDNA 2 pada Gorgon Halo

Tidak hanya mengutamakan kapasitas penyimpanan kerja, Gorgon Halo juga menggunakan arsitektur CPU Zen 5, grafis RDNA 3.5, dan NPU XDNA 2. Rancangan pemrosesan tersebut memungkinkan pembagian pekerjaan berdasarkan jenis tugas. Prosesor sentral menangani sistem operasi, sedangkan GPU memiliki kemampuan untuk inferensi model AI. Sebagai akselerator tambahan, NPU dikembangkan guna menangani aktivitas kecerdasan buatan dengan dukungan perangkat lunak. Dengan kombinasi komponen itu, sistem dapat memilih metode pelaksanaan tugas. Namun demikian, pemrosesan model mungkin hanya menggunakan komponen tertentu.

Pada konfigurasi tertinggi, AMD menyediakan prosesor dengan maksimum 16 core, grafis terintegrasi dengan 40 unit komputasi, dan NPU hingga 55 TOPS. Spesifikasi tersebut ditujukan untuk pengembangan AI lokal. Walaupun angka TOPS menunjukkan kapasitas teoritis, kapasitas operasi mentah tidak otomatis menunjukkan hasil generasi token. Pada inferensi LLM, efisiensi memori serta runtime perlu diperhatikan secara khusus. Karena itu, penilaian perangkat sebaiknya menggunakan performa sesuai aplikasi yang akan dijalankan, bukan mengandalkan klaim performa teoritis.

AMD Memperlihatkan Performa Ryzen AI Max 400 Series pada Berbagai Beban Kerja

Sebagai bagian dari pengenalan Gorgon Halo, AMD mengumumkan pengujian kinerja perusahaan. Evaluasi performa ini melibatkan aplikasi kecerdasan buatan lokal seperti pembuatan gambar dan inferensi model bahasa. Berdasarkan presentasi perusahaan, keunggulan performa bervariasi dari peningkatan mendekati 1,1 kali hingga 32,2 kali terhadap konfigurasi pesaing dalam pengujian. Perlu dicermati, hasil pengujian dilakukan dalam kondisi tertentu. Oleh sebab itu, hasil tersebut tidak boleh dianggap berlaku untuk semua aplikasi.

Dalam beberapa pengujian, AMD memanfaatkan ComfyUI untuk pembuatan visual berbasis AI. Dalam evaluasi model bahasa digunakan model terkompresi dengan dukungan Unsloth pada sejumlah beban kerja AI. Konfigurasi quantization dapat memengaruhi kecepatan inferensi. Selain itu, jumlah token masukan berpotensi mengubah throughput pemrosesan. Apabila sistem memproses informasi dalam jumlah luas, throughput mungkin berkurang meskipun perangkat mampu menjalankan inferensi. Oleh karena itu, pengguna profesional dianjurkan memeriksa pengujian independen sebelum menentukan perangkat.

Gorgon Halo Membantu Pengembangan AI Lokal dan Sistem Agen Digital

Peluang utama Gorgon Halo adalah pengujian model bahasa tanpa server eksternal. Dengan dukungan memori terpadu, organisasi memiliki kesempatan memanfaatkan model bahasa besar langsung pada workstation pribadi. Pendekatan ini berpotensi mendukung eksperimen model secara lebih mandiri. Pada kebutuhan pengembangan, perusahaan dapat mencoba agen AI berbasis data organisasi yang memproses berkas secara lokal. Meski model berjalan tanpa cloud, perlindungan data masih membutuhkan perhatian. Perangkat lunak inferensi dapat menyediakan sinkronisasi eksternal, sehingga pengguna perlu memahami kebijakan aplikasi.

Selain model bahasa, Gorgon Halo dapat dimanfaatkan dalam pengembangan agen AI. Dalam sistem AI agent, beberapa proses dapat berjalan berurutan. Pada contoh alur kerja, aplikasi mungkin menganalisis data pendukung, kemudian menentukan langkah lanjutan berdasarkan informasi yang tersedia. Memori besar dapat membantu menyimpan model serta data dalam satu sistem. Walaupun kapasitas memori tinggi, aplikasi kompleks harus mempertimbangkan pembagian pekerjaan yang tepat. Sebagai pertimbangan tambahan, hasil setiap agen perlu diverifikasi agar kesalahan tidak diteruskan ke tahap berikutnya.

Kesimpulan: Memori Terpadu 192GB Menjadi Nilai Penting Gorgon Halo

Pengembangan platform AI lokal generasi terbaru AMD menunjukkan kemajuan penting dalam industri komputer berkinerja tinggi. Melalui dukungan kapasitas unified memory sebesar 192 gigabyte, ruang pemrosesan grafis yang luas, serta arsitektur pemrosesan AMD yang terintegrasi, sistem Gorgon Halo memberikan kesempatan inferensi model bahasa besar. Dukungan LLM berukuran lebih dari 300 miliar parameter menggunakan kompresi bobot empat bit menjadi salah satu keunggulan bagi pengembang profesional. Namun demikian, hasil inferensi tetap perlu diuji berdasarkan panjang konteks dan konfigurasi perangkat. Karena itu, calon pengguna sebaiknya memilih konfigurasi berdasarkan beban kerja. Bagaimana pendapat Anda mengenai, seberapa penting kemampuan menjalankan model besar tanpa cloud? Mari sampaikan pengalaman Anda mengenai masa depan AI lokal.