AMD và Nvidia đối đầu trên sàn đấu chip AI

Instinct MI325X là bản kế nhiệm của MI300 ra mắt cuối năm 2023 song được tăng VRAM lên 256 GB HBM3e thay vì 192 GB HBM3 như phiên bản đời trước. Cách thức này tương tự chip AI H200 của Nvidia từ năm 2023 khi giữ nguyên khả năng tính toán nhưng tăng dung lượng bộ nhớ và băng thông.

Biểu tượng của nhà sản xuất chip đồ họa lớn nhất thế giới Nvidia Corp. Ảnh: AFP

Theo trang web về lĩnh vực công nghệ The Register, hướng đi của AMD được coi là hợp lý giữa lúc chip AI cần xử lý khối lượng công việc lớn. Bộ nhớ càng nhanh và càng nhiều, hiệu suất vận hành càng tốt. So với Nvidia, AMD đã mang lại "làn gió mới" khi đưa nhiều bộ nhớ băng thông cao (HBM) hơn vào chip, đáp ứng nhu cầu của các nhà cung cấp đám mây muốn triển khai mô hình với quy mô nghìn tỷ tham số, như GPT-4o của OpenAI, trên ít nút xử lý hơn.

MI325X cung cấp mức tăng băng thông bộ nhớ 6 TB/giây, cao hơn so với 5,3 TB/giây trên MI300X. AMD cho biết trong thử nghiệm thực tế, MI325X sức mạnh cao hơn Nvidia H200 từ 20% đến 40% về hiệu suất suy luận đối với mô hình Llama 3.1 70B (70 tỷ tham số) và 405B (405 tỷ tham số) của Meta.

Theo AMD, Instinct MI325X sẽ được sản xuất hàng loạt trong quý IV/2024, tương thích với các hệ thống của những doanh nghiệp như Dell, Eviden, Gigabyte, Hewlett Packard Enterprise, Lenovo, Supermicro. Tuy vậy, AMD chưa công bố giá bán sản phẩm này. Ngoài MI325X, phiên bản MI355X sẽ được trình làng trong năm 2025.

Anh Quân (Theo Bloomberg)