Đơn vị xử lý đồ họa (GPU) do Nvida phát triển, được thiết kế để tăng tốc kết xuất đồ họa trong trò chơi trên máy tính, có sức mạnh tính toán lớn hơn so với chip của đơn vị xử lý trung tâm (CPU). Vì GPU có thể thực hiện nhiều phép tính song song so với CPU nên các công ty công nghệ bắt đầu sử dụng GPU để huấn luyện những mô hình AI đang phát triển.

Năm 2020, Nvidia công bố chip GPU A100, được các công ty công nghệ sử dụng để đào tạo lặp (lặp đi lặp lại) lần đầu tiên chatbot trò chuyện và trình tạo hình ảnh. Nhưng chỉ trong vài năm, chip H100 Hopper ưu việt hơn chip tiền nhiệm nhanh chóng trở thành thành phần quan trọng của những trung tâm dữ liệu, cung cấp sức mạnh tính toán cho các chatbotAI phổ biến ngày nay như ChatGPT. Hiện nay, công ty giới thiệu một con chip “quái vật” bao gồm cả chip CPU và chip GPU trên bo mạch.

Chip Grace Hopper của Nvidia là gì?

Theo thông cáo báo chí, Nvidia đã phát triển con chip mới bằng phương pháp kết hợp nền tảng GPU Hopper với nền tảng CPU Grace (cả hai đều được đặt theo tên của Grace Hopper, nhà tiên phong trong lĩnh vực lập trình máy tính). Hai chip được kết nối bằng công nghệ liên kế chip-to-chip (C2C) NVLink của Nvidia.

Được đặt tên là GH200, siêu chip có 528 lõi tensor GPU, hỗ trợ 480 GB RAM CPU và 96 GB RAM GPU. Băng thông bộ nhớ GPU trên GH200 là 4TB mỗi giây, gấp đôi so với chip A100.

Siêu chip này có tốc độ truyền dữ liệu 900GB/giây trên giao diện bộ nhớ kết hợp, nhanh hơn 7 lần so với thế hệ kết nối PCIe của card đồ họa mới nhất, chỉ mới ra mắt trong năm nay. Cùng với việc chạy tất cả phần mềm Nvidia như HPC SDK, Nvidia AI và Omniverse, GH200 có băng thông bộ nhớ tổng hợp cao hơn 30 lần so với chip A100.

Siêu chip GH200 Grace Hopper, kết hợp CPU và GPU. Ảnh Nvidia

 

Chip Grace Hopper sẽ được sử dụng để làm gì?

Nvidia, đang phát triển nhanh chóng để trở thành công ty vốn hóa thị trường nghìn tỷ USD, kỳ vọng chip GH200 mới sẽ được sử dụng cho những ứng dụng AI và điện toán hiệu năng cao (HPC) quy mô lớn. Tại thời điểm này, khó có thể tưởng tượng được, những mô hình AI và chatbot nào sẽ được xây dựng bằng công nghệ vượt trội này ngoại trừ khả năng gia tăng đột phá về tốc độ và độ chính xác.

Công ty cũng có kế hoạch sử dụng những chip GH200 để xây dựng siêu máy tính exaflop mới, có khả năng thực hiện 1018 phép tính dấu phẩy động mỗi giây (Flops). 256 chip GH200 sẽ được kết hợp với nhau, hoạt động như một GPU lớn và có 144 TB bộ nhớ dùng chung, gấp khoảng 500 lần so với A100.

Ian Buck, phó chủ tịch lĩnh vực điện toán tăng tốc của NVidia giải thích: “AI sáng tạo đang chuyển đổi nhanh chóng các doanh nghiệp, mở ra những cơ hội mới và tăng tốc khám phá trong lĩnh vực chăm sóc sức khỏe, tài chính, dịch vụ kinh doanh và nhiều ngành nghề mới khác. Khi siêu chip Grace Hopper được sản xuất tối đa với nguồn lực sẵn có, các nhà sản xuất trên toàn thế giới sẽ nhanh chóng cung cấp cơ sở hạ tầng tăng tốc mà các công ty cần để xây dựng và triển khai những ứng dụng AI tổng quan, sử dụng tối đa nguồn dữ liệu của doanh nghiệp.”

Các trung tâm siêu máy tính và các siêu máy tính toàn cầu ở Mỹ và Châu Âu sẽ có quyền truy cập vào các hệ thống do GH200 hỗ trợ vào cuối năm 2023, Nvidia cho biết.