So với phiên bản Hopper H100, chip Blackwell của Nvidia có thể đạt tốc độ xử lý AI nhanh hơn từ 7 đến 30 lần tùy theo tác vụ.
“Blackwell nhanh hơn Hopper, nhưng quan trọng là nó có sức mạnh tính toán mạng, giúp AI xử lý nhanh hơn và thực hiện các tác vụ khó khăn trước đây như chuyển đổi giọng nói sang video 3D”. CEO Nvidia Jensen Huang phát biểu tại sự kiện Hội nghị Công nghệ GPU – GTC 2024 của công ty. được tổ chức tại San Jose, California vào sáng sớm ngày 19/3 (giờ Hà Nội).
CEO Nvidia Jensen Huang cầm chip B200 (trái) và H100 trên tay. hình ảnh: Nvidia
Blackwell có 208 tỷ bóng bán dẫn, gấp đôi con số 80 tỷ của chip H100 và có 20 petaflop (2.000 nghìn tỷ phép tính mỗi giây) sức mạnh xử lý AI, gấp 5 lần 4 petaflop của H100. Trên thực tế, Blackwell có thể xử lý các tác vụ nhanh hơn 7-30 lần so với H100, đồng thời tiết kiệm chi phí và sử dụng điện năng ít hơn 25 lần, theo Nvidia.
Ví dụ: Giám đốc điều hành của Nvidia trước đây đã đào tạo một mô hình AI 1.800 tham số, yêu cầu 8.000 GPU và 15 megawatt điện. Giờ đây, 2.000 GPU B200 chỉ cần 4 megawatt điện để thực hiện cùng một khối lượng công việc.
Một trong những cải tiến quan trọng là hệ thống Transformer Engine thế hệ thứ hai, giúp tăng gấp đôi sức mạnh tính toán, băng thông và kích thước mô hình. Khi kết hợp với các bộ chuyển mạch NVLink, hệ thống có thể hỗ trợ tới 576 GPU giao tiếp với nhau với băng thông hai chiều là 1,8 Tb/s.
Chip Nvidia B200. hình ảnh: Nvidia
“Không có vấn đề về bộ nhớ, không có vấn đề về bộ nhớ đệm. Blackwell đơn giản là một con chip khổng lồ. Tham vọng của nó là vượt qua các giới hạn của vật lý”, Huang nói. “GPU Blackwell là động cơ thúc đẩy một cuộc cách mạng công nghiệp AI mới sẽ hiện thực hóa lời hứa của AI cho mọi ngành công nghiệp.”
Jen-Hsun Huang vẫn chưa công bố giá của B200. Trước đây, chip H100 được bán với giá 30.000-40.000 USD. Công ty cũng đang nhắm đến những khách hàng mua số lượng lớn bằng cách đóng gói nhiều chip vào một thiết kế duy nhất có tên GB200 NVL72. Gói này chứa 72 chip AI, 36 bộ xử lý trung tâm, 600.000 bộ phận và nặng 1.361 kg. Giám đốc điều hành Nvidia cũng tiết lộ rằng Amazon, Google, Microsoft và Oracle sẽ sử dụng GB200 NVL72 trong trung tâm dữ liệu của họ.
Ngoài phần cứng, Nvidia cũng đang tung ra các công cụ phần mềm mới có tên microservice. Bộ công cụ giúp hệ thống hoạt động hiệu quả hơn cho nhiều mục đích khác nhau, giúp doanh nghiệp dễ dàng kết hợp các mô hình AI vào công việc của mình hơn, giống như một hệ điều hành máy tính tốt giúp các ứng dụng chạy tốt.
Ngoài ra, tại GTC 2024, Nvidia đã ra mắt nền tảng nghiên cứu dựa trên đám mây sử dụng AI để nghiên cứu và thử nghiệm 6G. Hệ thống này sẽ bao gồm một ứng dụng mô phỏng các môi trường như một tháp di động hoặc toàn bộ thành phố, cho phép các nhà nghiên cứu và tổ chức thử nghiệm mạng 6G trong thời gian thực mà không cần phải cài đặt vật lý. Lô đơn vị tham gia đầu tiên bao gồm Nokia, Ansys, Samsung, SoftBank và Đại học Boston.
Bảo Lâm (dựa theo Reuters, Người trong cuộc kinh doanh)
- FPT Telecom làm việc cả ngày lễ, thứ 7 và chủ nhật, quý khách có nhu cầu đăng ký hoặc tham khảo các gói cước hay liên hệ thông tin đăng ký dịch vụ quý khách hàng vui lòng liên hệ qua web hoặc các thông tin bên dưới để nhân viên hỗ trợ 24/7.
- FPT Telecom – Công Ty Cổ Phần Viễn Thông FPT
- Mobile : 098.1489.411
- Website: https://fpt8.com
Cảm ơn quý khách đã tin tưởng và sử dụng dịch vụ mà FPT Telecom cung cấp, chúng tôi sẽ luôn cập nhật các chương trình ưu đãi khuyến mãi lắp mạng FPT tại Website: https://fpt8.com
