AMD Ungkap Kemampuan Gorgon Halo dengan Memori Terpadu untuk Pemrosesan AI Lokal

AMD kembali menjadi sorotan industri teknologi setelah mengungkap kemampuan Gorgon Halo, platform prosesor yang ditujukan untuk pemrosesan kecerdasan buatan secara lokal. Melalui jajaran Ryzen AI Max dan Ryzen AI Max PRO 400 Series, perusahaan memperkenalkan pendekatan komputasi yang menggabungkan CPU, GPU, NPU, serta memori terpadu berkapasitas besar. Konfigurasi tertingginya mendukung hingga 192GB RAM, dengan alokasi memori grafis mencapai 160GB untuk menangani model AI berukuran besar. Teknologi tersebut membuka peluang bagi pengembang dan perusahaan untuk menjalankan aplikasi AI tanpa selalu bergantung pada layanan cloud, sekaligus menawarkan fleksibilitas dalam mengelola data, biaya komputasi, dan kebutuhan perangkat profesional.

Inovasi Gorgon Halo Membawa Teknologi AI Berkapasitas Besar ke Komputer Pribadi

Transformasi TEKNOLOGI kecerdasan buatan terus mendorong kebutuhan perangkat komputasi. Berkat pengembangan Ryzen AI Max 400 Series, AMD mengembangkan pilihan sistem komputasi lokal untuk memproses kecerdasan buatan secara mandiri. Keluarga prosesor terbaru tersebut menggabungkan kemampuan CPU, akselerasi GPU, dan akselerator kecerdasan buatan dalam platform prosesor terintegrasi. Pendekatan pemrosesan tersebut dirancang untuk menangani aktivitas generatif kompleks dengan dukungan memori berkapasitas besar. Pada penggunaan profesional, ruang penyimpanan kerja menjadi kebutuhan mendasar. Dengan mempertimbangkan kebutuhan tersebut, AMD mengutamakan arsitektur unified memory sebagai keunggulan utama platform.

Platform Ryzen AI Max 400 Series menjadi pengembangan lanjutan dari arsitektur Ryzen AI Max sebelumnya. Perubahan yang paling menonjol adalah perluasan ruang kerja terpadu. Jika dibandingkan platform awal, RAM terpadu tersedia hingga 128GB. Sementara itu, AMD menghadirkan dukungan RAM sampai 192GB. Peningkatan tersebut memungkinkan alokasi memori lebih luas bagi sistem agen AI. Walaupun kapasitas meningkat, konfigurasi akhir tetap ditentukan produsen komputer. Dengan memahami perbedaan tersebut, pengguna perlu memeriksa spesifikasi perangkat sebelum membeli komputer untuk AI lokal.

Cara Unified Memory AMD Mendukung Pemrosesan AI Berukuran Besar

Karakteristik yang paling menonjol Gorgon Halo adalah penggunaan RAM bersama yang mengintegrasikan akses memori untuk komponen pemrosesan kapasitas memori sistem. Memiliki pendekatan berlainan dibandingkan sistem yang memakai kartu grafis terpisah, arsitektur tersebut memungkinkan pertukaran informasi lebih langsung antara unit pemrosesan yang terintegrasi. Manfaat pendekatan ini dapat membantu ketika menggunakan aplikasi dengan kebutuhan memori tinggi. Ketika LLM digunakan, parameter jaringan saraf memerlukan kapasitas RAM yang mencukupi. Berkat ketersediaan RAM terpadu yang luas, sistem dapat menampung lebih banyak parameter.

Menurut informasi perusahaan, sistem memungkinkan penggunaan hingga 160GB memori untuk GPU. Besarnya alokasi memori tersebut tidak menunjukkan adanya memori kartu grafis khusus sebesar 160GB. Pada platform Gorgon Halo, alokasi tersebut menggunakan pool RAM terpadu. Hal tersebut perlu diperhatikan karena sistem operasi juga menggunakan RAM. Apabila kapasitas tersedia semakin terbatas, performa sistem dapat terpengaruh. Tidak kalah penting, kemampuan transfer informasi memiliki dampak terhadap kecepatan inferensi. Oleh sebab itu, kapasitas memori tinggi perlu diimbangi bandwidth yang sesuai.

Kemampuan Ryzen AI Max PRO 400 Series untuk Menjalankan LLM Lokal

Salah satu kemampuan yang menjadi perhatian adalah dukungan terhadap model AI berukuran besar. Menurut AMD, sistem Gorgon Halo kelas atas memungkinkan penggunaan model bahasa dengan jumlah parameter di atas 300 miliar menggunakan kompresi parameter berpresisi 4-bit. Spesifikasi tersebut menjadi pencapaian menarik bagi organisasi teknologi yang mengembangkan aplikasi tanpa selalu menggunakan server cloud. Meski jumlah parameternya tinggi, dukungan ukuran model belum berarti menghasilkan token dengan latensi rendah. Hasil pemrosesan dalam praktik dipengaruhi oleh arsitektur model serta optimasi perangkat lunak.

Teknik kuantisasi memiliki manfaat besar dalam memungkinkan model berukuran besar berjalan. Pada format presisi tinggi, model memerlukan ruang memori lebih banyak. Dalam perhitungan sederhana, LLM dengan tiga ratus miliar bobot pada presisi 16-bit memerlukan kira-kira 600 gigabyte sebelum overhead. Ketika quantization empat bit digunakan, kebutuhan teoritisnya turun menjadi sekitar 150GB. Sebagai catatan, penyimpanan bobot terkompresi memiliki overhead. Di samping ukuran parameter, aplikasi AI harus menyediakan KV cache. Oleh sebab itu, pemilihan model perlu mempertimbangkan ruang memori tambahan.

Arsitektur AMD Menggabungkan Berbagai Unit Pemrosesan AI

Tidak hanya mengutamakan kapasitas penyimpanan kerja, Gorgon Halo memadukan arsitektur CPU Zen 5, grafis RDNA 3.5, dan NPU XDNA 2. Perpaduan tiga komponen ini memungkinkan pembagian pekerjaan berdasarkan karakter beban kerja. Unit pemrosesan utama berfungsi menjalankan berbagai proses aplikasi, sedangkan pemroses grafis memiliki kemampuan untuk operasi paralel. Sebagai akselerator tambahan, NPU dioptimalkan bagi beban AI tertentu. Dengan kombinasi komponen itu, aplikasi memiliki peluang memanfaatkan metode pelaksanaan tugas. Walaupun seluruh komponen mendukung AI, tidak semua aplikasi otomatis memanfaatkan ketiganya.

Pada konfigurasi tertinggi, AMD menghadirkan CPU hingga 16 inti Zen 5, grafis terintegrasi dengan 40 unit komputasi, dan NPU hingga 55 TOPS. Rancangan perangkat keras tersebut dikembangkan bagi pengembangan AI lokal. Walaupun angka TOPS menunjukkan kapasitas teoritis, pengukuran tersebut tidak langsung menggambarkan kecepatan LLM. Dalam pemrosesan model besar, optimasi perangkat lunak dan komputasi paralel perlu diperhatikan secara khusus. Karena itu, penilaian perangkat sebaiknya menggunakan hasil benchmark pada model yang relevan, bukan hanya melihat angka spesifikasi.

Benchmark Gorgon Halo Menunjukkan Potensi untuk AI Generatif

Sebagai bagian dari pengenalan Gorgon Halo, AMD mengumumkan hasil benchmark internal. Pengujian tersebut menggunakan beban kerja AI generatif seperti generasi visual dan pemrosesan teks menggunakan model besar. Menurut AMD, hasil perbandingan berbeda menurut tugas dari selisih performa kecil sekitar 1,1 kali hingga 32,2 kali terhadap sistem lain yang menjadi acuan. Sebagai catatan penting, hasil pengujian dilakukan dalam kondisi tertentu. Oleh sebab itu, peningkatan maksimum bukan gambaran performa umum.

Dalam beberapa pengujian, AMD menggunakan ComfyUI untuk pembuatan visual berbasis AI. Perusahaan juga memakai format quantization dari Unsloth pada skenario pemrosesan model. Jenis perangkat lunak pengujian dapat memengaruhi hasil benchmark. Di samping pemilihan model, panjang konteks percakapan memiliki dampak terhadap latensi generasi token. Pada konteks sangat panjang, throughput mungkin berkurang meskipun model berhasil dimuat. Berdasarkan kondisi tersebut, pengguna profesional dianjurkan memeriksa pengujian independen sebelum menyimpulkan keunggulan performa.

Gorgon Halo Membantu Pengembangan AI Lokal dan Sistem Agen Digital

Penerapan yang paling relevan Gorgon Halo adalah pengembangan AI lokal. Berkat kapasitas komputasi yang tersedia, tim teknologi dapat menguji sistem analisis dokumen langsung pada workstation pribadi. Pendekatan ini memungkinkan pengujian aplikasi tanpa ketergantungan penuh pada cloud. Pada kebutuhan pengembangan, perusahaan dapat mencoba agen AI berbasis data organisasi yang menangani data pada perangkat sendiri. Namun demikian, privasi tidak otomatis terjamin. Sistem yang digunakan berpotensi mengakses layanan tambahan, sehingga izin dan konfigurasi perlu diperiksa.

Tidak hanya mendukung pemrosesan teks, Gorgon Halo dapat dimanfaatkan dalam pengembangan agen AI. Pada arsitektur agen, beberapa proses dapat berjalan berurutan. Pada contoh alur kerja, agen dapat membaca berkas referensi, kemudian menentukan langkah lanjutan berdasarkan instruksi pengguna. Ruang kerja komputasi yang besar berpotensi memungkinkan pemuatan beberapa komponen pemrosesan. Namun demikian, penggunaan beberapa agen tetap membutuhkan pengaturan sumber daya. Sebagai pertimbangan tambahan, informasi keluaran sebaiknya diperiksa agar kesalahan tidak diteruskan ke tahap berikutnya.

Kesimpulan: Memori Terpadu 192GB Menjadi Nilai Penting Gorgon Halo

Kehadiran Ryzen AI Max 400 Series membuka peluang baru dalam industri komputer berkinerja tinggi. Berkat penggunaan kapasitas unified memory sebesar 192 gigabyte, ruang pemrosesan grafis yang luas, serta perpaduan komputasi umum, grafis, dan akselerator AI, generasi prosesor terbaru ini memberikan kesempatan inferensi model bahasa besar. Potensi pemrosesan model sangat besar menggunakan quantization 4-bit memberikan nilai penting bagi peneliti AI. Namun demikian, hasil inferensi tetap perlu diuji berdasarkan jenis pekerjaan dan kebutuhan komputasi. Karena itu, perusahaan dianjurkan menentukan sistem yang seimbang antara performa dan biaya. Bagaimana pendapat Anda mengenai, seberapa penting kemampuan menjalankan model besar tanpa cloud? Silakan bagikan pendapat Anda mengenai pemanfaatan memori terpadu pada komputer generasi terbaru.