Nhìn vào kiến trúc bên trong máy

Chọn máy trạm hay mini PC GB10

Máy trạm có card GPU

  1. Máy trạm AIChọn CPU, bo mạch và hệ điều hành theo ứng dụng đang dùng.
  2. Card GPU có thể thayĐối chiếu kích thước card và công suất nguồn khi nâng cấp.
  3. RAM và ổ SSDChọn dung lượng và số khe còn trống trên bo mạch.
  4. Bộ ứng dụng làm việcDùng phiên bản hỗ trợ GPU, driver và hệ điều hành của máy.

Máy trạm AI đến Card GPU có thể thay. Máy trạm AI đến RAM và ổ SSD. Bộ ứng dụng làm việc đến Máy trạm AI

Máy trạm cho phép chọn GPU, RAM và SSD theo ứng dụng, sức chứa thùng máy và nguồn điện.

Mini PC ASUS GX10

  1. Mini PC ASUS GX10Thiết bị để bàn nhỏ gọn sử dụng nền tảng GB10.
  2. Chip GB10Tích hợp CPU Arm và GPU Blackwell trong cùng nền tảng.
  3. Bộ nhớ dùng chungCấp dung lượng cho CPU, GPU và hệ điều hành.
  4. Ứng dụng cho Arm64Chọn bản dựng hỗ trợ Arm64 và GPU Blackwell.

Mini PC ASUS GX10 đến Chip GB10. Chip GB10 đến Bộ nhớ dùng chung. Ứng dụng cho Arm64 đến Mini PC ASUS GX10

GX10 tích hợp CPU Arm và GPU Blackwell của GB10, sử dụng bộ nhớ hợp nhất để chạy phần mềm AI tương thích.

GB10 dùng kiến trúc Arm64. Ứng dụng và container có bản Arm64 hỗ trợ Blackwell mới tận dụng được nền tảng này.

Máy trạm thường có CPU và GPU rời, phục vụ cả công việc sáng tạo, lập trình và AI. PC tự lắp cho phép chọn linh kiện theo ngân sách. Với máy nhỏ gọn, hãy xem cấu hình bên trong: kích thước vỏ máy cho biết chỗ đặt, còn CPU, GPU và phần mềm quyết định tác vụ chạy được.

ASUS Ascent GX10 dùng NVIDIA GB10 Grace Blackwell, kết hợp CPU Arm và GPU Blackwell với 128GB bộ nhớ hợp nhất. Arm64 và x86 là hai kiến trúc CPU. Khi chuyển ứng dụng từ PC x86 sang GX10, bạn sẽ cần bản dành cho Arm64 và các thư viện tương thích, kể cả khi ứng dụng được đóng gói trong container.

Máy trạm cho nhóm dùng nhiều công cụ

Chuẩn bị máy trạm cho lần nâng cấp

Đối chiếu GPU với cả hệ thống

  1. Card GPU muốn lắpChọn VRAM và dòng GPU được ứng dụng hỗ trợ.
  2. Bo mạch và khe PCIeKiểm tra số lane, khoảng cách khe và kích thước card.
  3. Bộ nguồn và hệ thống làm mátTính công suất điện, luồng gió và tiếng ồn khi chạy liên tục.
  4. Ứng dụng sẽ sử dụngXác định hệ điều hành và phiên bản driver của quy trình.

Bo mạch và khe PCIe đến Card GPU muốn lắp. Bộ nguồn và hệ thống làm mát đến Card GPU muốn lắp. Ứng dụng sẽ sử dụng đến Card GPU muốn lắp

GPU mới được chọn cùng bo mạch, nguồn, tản nhiệt và phần mềm để lắp vừa và chạy được tác vụ.

Thêm GPU cũng cần chỗ lắp, lane PCIe, nguồn điện và đường thoát nhiệt. Đây là các phần được tính cùng nhau khi nâng cấp workstation.

Ví dụ, một người vừa dựng hình trong ứng dụng đang dùng trên PC, vừa chạy mô hình hỗ trợ viết mã. Máy trạm phù hợp khi các công cụ đó đã hỗ trợ hệ điều hành và GPU dự định mua. Mang cả quy trình ra thử, gồm mở dự án, chạy AI và xuất kết quả, để thấy tài nguyên bị chia sẻ ra sao.

Việc đổi GPU, thêm RAM hoặc SSD phụ thuộc bo mạch, nguồn và khoảng trống trong thùng máy. Nếu dự định gắn thêm card, xem cách chia khe PCIe cùng tản nhiệt ngay từ đầu. Với máy đặt cạnh bàn, tiếng quạt và nhiệt khi chạy lâu cũng ảnh hưởng trải nghiệm hằng ngày.

GX10 cho một góc làm việc AI riêng

Hai đường kết nối của nền tảng GB10

CPU nối GPU trong máy

  1. CPU Arm của GB10Thực hiện công việc phía CPU trong chip GB10.
  2. Liên kết NVLink-C2CĐường trao đổi nội bộ giữa CPU và GPU của GB10.
  3. GPU Blackwell của GB10Thực hiện phép tính AI trong cùng thiết bị.
  4. Bộ nhớ của máy GB10Vùng nhớ hợp nhất phục vụ cả CPU và GPU trong máy.

CPU Arm của GB10 đến Liên kết NVLink-C2C. Liên kết NVLink-C2C đến GPU Blackwell của GB10. CPU Arm của GB10 đến Bộ nhớ của máy GB10. GPU Blackwell của GB10 đến Bộ nhớ của máy GB10

NVLink-C2C nối CPU và GPU bên trong GB10 để hai bộ xử lý truy cập bộ nhớ hợp nhất.

Hai máy trao đổi qua mạng

  1. Máy AI thứ nhấtLưu phần dữ liệu và chạy tiến trình trong bộ nhớ của máy.
  2. Kết nối ConnectX-7Truyền dữ liệu qua cổng mạng theo thiết kế của nhà sản xuất.
  3. Máy AI thứ haiNhận công việc và xử lý bằng tài nguyên của máy thứ hai.
  4. Phần mềm chia việcPhân công tiến trình và đồng bộ dữ liệu giữa hai máy.

Máy AI thứ nhất đến Kết nối ConnectX-7. Kết nối ConnectX-7 đến Máy AI thứ hai. Phần mềm chia việc đến Máy AI thứ nhất. Phần mềm chia việc đến Máy AI thứ hai

Phần mềm phân tán giao việc cho hai máy và dùng mạng ConnectX-7 để trao đổi dữ liệu.

Liên kết CPU–GPU nằm bên trong mỗi máy; trao đổi giữa các máy đi qua mạng. Cổng và cáp của GX10 được chọn theo tài liệu ASUS.

GX10 phù hợp để xem xét khi bạn muốn dành một thiết bị nhỏ gọn cho phát triển và thử nghiệm AI trong hệ phần mềm NVIDIA. Bộ nhớ hợp nhất lớn giúp chứa một số mô hình và dữ liệu; tốc độ xử lý vẫn phụ thuộc băng thông, phần mềm và tác vụ. Con số tính toán FP4 quảng bá mô tả điều kiện tính toán cụ thể, nên đo chat bằng thời gian phản hồi.

NVLink-C2C là kết nối CPU với GPU bên trong thiết bị. Liên kết giữa các máy dùng mạng qua ConnectX-7 theo cấu hình được hỗ trợ. Trước khi chọn GX10, chạy thử bản Arm64 của ứng dụng cùng driver và thư viện hỗ trợ Blackwell.

  • Ghi phiên bản hệ điều hành, bộ công cụ phát triển và container đã chạy thử.
  • Đối chiếu SSD, cổng kết nối và bảo hành theo đúng mã hàng.
  • Quan sát điện, nhiệt và tiếng quạt khi xử lý bộ mẫu.

So hai phương án bằng cùng công việc

Đặt hai nền tảng vào cùng bài thử

So kết quả và chi phí sử dụng

  1. Bộ dữ liệu so sánhGiữ chung mô hình, đầu vào và tiêu chí đánh giá đầu ra.
  2. Máy trạm chạy thửĐo lượng bộ nhớ sử dụng và thời gian hoàn thành tác vụ.
  3. Máy GB10 chạy thửDùng bản Arm64 tương thích rồi ghi cùng các số đo.
  4. Bảng kết quả và chi phíCộng chi phí máy, triển khai, phần mềm, điện và hỗ trợ.

Bộ dữ liệu so sánh đến Máy trạm chạy thử. Bộ dữ liệu so sánh đến Máy GB10 chạy thử. Máy trạm chạy thử đến Bảng kết quả và chi phí. Máy GB10 chạy thử đến Bảng kết quả và chi phí

Cùng bộ dữ liệu được chạy trên máy trạm và máy GB10 để so chất lượng, thời gian chờ và tổng chi phí.

Cùng một mô hình và đầu vào sẽ giúp so sánh thời gian phản hồi giữa hai máy. Thông số FP4 của hãng mô tả năng lực tính toán lý thuyết.

Dùng cùng mô hình, định dạng trọng số và tài liệu để so sánh. Đầu tiên xem tác vụ có chạy vừa bộ nhớ, sau đó đo thời gian chờ với một người và với cả nhóm. Chẳng hạn, trợ lý trả lời nhanh khi dùng riêng có thể phải xếp hàng khi đồng nghiệp cùng gửi yêu cầu.

Cộng chi phí chuyển phần mềm, triển khai, điện và hỗ trợ vào giá máy. Nhóm phụ thuộc ứng dụng x86 có thể tiết kiệm công chuyển đổi với máy trạm. Nhóm muốn thiết bị AI riêng có thể ưu tiên GX10 khi bộ thử Arm64 đạt yêu cầu. Kết quả công việc giúp chốt lựa chọn phù hợp.

Tài liệu tham khảo

Các nguồn dưới đây cung cấp thông số thiết bị và hướng dẫn phần mềm được dùng trong bài. Khi cài đặt, hãy đối chiếu đúng mã máy và phiên bản đang sử dụng.