Nvidia ra mắt chip AI mạnh nhất thế giới

Ngày 13/11, Nvidia công bố ra mắt chip H200, dự kiến ​​sẽ dùng cho siêu máy tính hoặc đào tạo AI, với sức mạnh tính toán gấp đôi H100 hiện tại.

NVIDIA cho biết sự ra mắt của H200 sẽ mang lại bước nhảy vọt về hiệu suất và công ty nhấn mạnh khả năng suy luận của các mô hình AI dữ liệu lớn. H200 dự kiến ​​sẽ có mặt trên thị trường vào quý 2 năm 2024.

Tuy Nvidia không công bố nhiều thông tin về dòng GPU mới, nhưng theo một số nguồn tin đáng tin cậy chúng vẫn được cải tiến đáng kể về dung lượng bộ nhớ và băng thông.

Sản phẩm xây dựng trên kiến trúc Hopper giống bản tiền nhiệm, sử dụng bộ nhớ HBM3e dung lượng 141 GB, băng thông 4,8 TB/s, so với H100 dùng bộ nhớ HBM3 80 GB và băng thông 3,35 TB/s.

Khi tiến hành thử nghiệm với mô hình ngôn ngữ lớn Llama 2 của Meta với 70 tỷ tham số, H200 mang đến hiệu suất gần gấp đôi so với H100 – chip AI thuộc hàng mạnh mẽ nhất hiện nay và được sử dụng phổ biến trong các ứng dụng AI tạo sinh thời gian qua, bao gồm cả GPT-4 của OpenAI.

Bên cạnh đó, chip mới sẽ được trang bị trong các bo mạch Nvidia HGX với cấu hình gồm bốn hoặc tám GPU.

Hãng cũng cung cấp “siêu chip” GH200, kết hợp giữa H200 và CPU Grace với tổng cộng 624GB bộ nhớ.

Với cấu hình sử dụng tám GPU, HGX H200 có khả năng tính toán 32 petaflop (triệu tỷ phép tính mỗi giây).

Một điểm đặc biệt của H200 là tương thích với các hệ thống H100 trước đây, giúp các hệ thống hiện tại có thể dễ dàng nâng cấp.

Amazon Web Services, Google Cloud, Microsoft Azure và Oracle sẽ là những nền tảng điện toán đám mây đầu tiên trang bị H200 khi sản phẩm ra thị trường năm sau.

Theo Tomshardware, “siêu chip” GH200 có thể sẽ được trang bị đầu tiên trên siêu máy tính Venado của Phòng thí nghiệm quốc gia Los Alamos (Mỹ), hoặc siêu máy tính Alps (Thụy Sĩ).

Cổ phiếu Nvidia tăng 0,6% ngay sau khi công bố ra mắt bộ xử lý đồ họa (GPU) mới nhất và mạnh nhất.

Hãy theo dõi trang fan page của METECH theo link bên dưới để được cập nhật tin tức về game, công nghệ và nhiều thông tin thú vị khác nhé!

MetechPC

———————————-