Nhìn vào kiến trúc bên trong máy

Chọn máy trạm hay mini PC GB10

Máy trạm có card GPU

  1. Máy trạm AI
  2. Card GPU có thể thay
  3. RAM và ổ SSD
  4. Bộ ứng dụng làm việc

Máy trạm AI đến Card GPU có thể thay. Máy trạm AI đến RAM và ổ SSD. Bộ ứng dụng làm việc đến Máy trạm AI

Máy trạm cho phép chọn GPU, RAM và SSD theo ứng dụng, sức chứa thùng máy và nguồn điện.

Mini PC ASUS GX10

  1. Mini PC ASUS GX10
  2. Chip GB10
  3. Bộ nhớ dùng chung
  4. Ứng dụng cho Arm64

Mini PC ASUS GX10 đến Chip GB10. Chip GB10 đến Bộ nhớ dùng chung. Ứng dụng cho Arm64 đến Mini PC ASUS GX10

GX10 tích hợp CPU Arm và GPU Blackwell của GB10, sử dụng bộ nhớ hợp nhất để chạy phần mềm AI tương thích.

GB10 dùng kiến trúc Arm64. Ứng dụng và container có bản Arm64 hỗ trợ Blackwell mới tận dụng được nền tảng này.

Máy trạm thường có CPU và GPU rời, phục vụ cả công việc sáng tạo, lập trình và AI. PC tự lắp cho phép chọn linh kiện theo ngân sách. Với máy nhỏ gọn, hãy xem cấu hình bên trong: kích thước vỏ máy cho biết chỗ đặt, còn CPU, GPU và phần mềm quyết định tác vụ chạy được.

ASUS Ascent GX10 dùng NVIDIA GB10 Grace Blackwell, kết hợp CPU Arm và GPU Blackwell với 128GB bộ nhớ hợp nhất. Arm64 và x86 là hai kiến trúc CPU. Khi chuyển ứng dụng từ PC x86 sang GX10, bạn sẽ cần bản dành cho Arm64 và các thư viện tương thích, kể cả khi ứng dụng được đóng gói trong container.

Máy trạm cho nhóm dùng nhiều công cụ

Chuẩn bị máy trạm cho lần nâng cấp

Đối chiếu GPU với cả hệ thống

  1. Card GPU muốn lắp
  2. Bo mạch và khe PCIe
  3. Bộ nguồn và hệ thống làm mát
  4. Ứng dụng sẽ sử dụng

Bo mạch và khe PCIe đến Card GPU muốn lắp. Bộ nguồn và hệ thống làm mát đến Card GPU muốn lắp. Ứng dụng sẽ sử dụng đến Card GPU muốn lắp

GPU mới được chọn cùng bo mạch, nguồn, tản nhiệt và phần mềm để lắp vừa và chạy được tác vụ.

  • Chọn VRAM và dòng GPU được ứng dụng hỗ trợ.
  • Kiểm tra số lane, khoảng cách khe và kích thước card.
  • Tính công suất điện, luồng gió và tiếng ồn khi chạy liên tục.
  • Xác định hệ điều hành và phiên bản driver của quy trình.
Thêm GPU cũng cần chỗ lắp, lane PCIe, nguồn điện và đường thoát nhiệt. Đây là các phần được tính cùng nhau khi nâng cấp workstation.

Ví dụ, một người vừa dựng hình trong ứng dụng đang dùng trên PC, vừa chạy mô hình hỗ trợ viết mã. Máy trạm phù hợp khi các công cụ đó đã hỗ trợ hệ điều hành và GPU dự định mua. Mang cả quy trình ra thử, gồm mở dự án, chạy AI và xuất kết quả, để thấy tài nguyên bị chia sẻ ra sao.

Việc đổi GPU, thêm RAM hoặc SSD phụ thuộc bo mạch, nguồn và khoảng trống trong thùng máy. Nếu dự định gắn thêm card, xem cách chia khe PCIe cùng tản nhiệt ngay từ đầu. Với máy đặt cạnh bàn, tiếng quạt và nhiệt khi chạy lâu cũng ảnh hưởng trải nghiệm hằng ngày.

GX10 cho một góc làm việc AI riêng

Hai đường kết nối của nền tảng GB10

CPU nối GPU trong máy

  1. CPU Arm của GB10
  2. Liên kết NVLink-C2C
  3. GPU Blackwell của GB10
  4. Bộ nhớ của máy GB10

CPU Arm của GB10 đến Liên kết NVLink-C2C. Liên kết NVLink-C2C đến GPU Blackwell của GB10. CPU Arm của GB10 đến Bộ nhớ của máy GB10. GPU Blackwell của GB10 đến Bộ nhớ của máy GB10

NVLink-C2C nối CPU và GPU bên trong GB10 để hai bộ xử lý truy cập bộ nhớ hợp nhất.

Hai máy trao đổi qua mạng

  1. Máy AI thứ nhất
  2. Kết nối ConnectX-7
  3. Máy AI thứ hai
  4. Phần mềm chia việc

Máy AI thứ nhất đến Kết nối ConnectX-7. Kết nối ConnectX-7 đến Máy AI thứ hai. Phần mềm chia việc đến Máy AI thứ nhất. Phần mềm chia việc đến Máy AI thứ hai

Phần mềm phân tán giao việc cho hai máy và dùng mạng ConnectX-7 để trao đổi dữ liệu.

Liên kết CPU–GPU nằm bên trong mỗi máy; trao đổi giữa các máy đi qua mạng. Cổng và cáp của GX10 được chọn theo tài liệu ASUS.

GX10 phù hợp để xem xét khi bạn muốn dành một thiết bị nhỏ gọn cho phát triển và thử nghiệm AI trong hệ phần mềm NVIDIA. Bộ nhớ hợp nhất lớn giúp chứa một số mô hình và dữ liệu; tốc độ xử lý vẫn phụ thuộc băng thông, phần mềm và tác vụ. Con số tính toán FP4 quảng bá mô tả điều kiện tính toán cụ thể, nên đo chat bằng thời gian phản hồi.

NVLink-C2C là kết nối CPU với GPU bên trong thiết bị. Liên kết giữa các máy dùng mạng qua ConnectX-7 theo cấu hình được hỗ trợ. Trước khi chọn GX10, chạy thử bản Arm64 của ứng dụng cùng driver và thư viện hỗ trợ Blackwell.

  • Ghi phiên bản hệ điều hành, bộ công cụ phát triển và container đã chạy thử.
  • Đối chiếu SSD, cổng kết nối và bảo hành theo đúng mã hàng.
  • Quan sát điện, nhiệt và tiếng quạt khi xử lý bộ mẫu.

So hai phương án bằng cùng công việc

Đặt hai nền tảng vào cùng bài thử

So kết quả và chi phí sử dụng

  1. Bộ dữ liệu so sánh
  2. Máy trạm chạy thử
  3. Máy GB10 chạy thử
  4. Bảng kết quả và chi phí

Bộ dữ liệu so sánh đến Máy trạm chạy thử. Bộ dữ liệu so sánh đến Máy GB10 chạy thử. Máy trạm chạy thử đến Bảng kết quả và chi phí. Máy GB10 chạy thử đến Bảng kết quả và chi phí

Cùng bộ dữ liệu được chạy trên máy trạm và máy GB10 để so chất lượng, thời gian chờ và tổng chi phí.

  • Giữ chung mô hình, đầu vào và tiêu chí đánh giá đầu ra.
  • Đo lượng bộ nhớ sử dụng và thời gian hoàn thành tác vụ.
  • Dùng bản Arm64 tương thích rồi ghi cùng các số đo.
  • Cộng chi phí máy, triển khai, phần mềm, điện và hỗ trợ.
Cùng một mô hình và đầu vào sẽ giúp so sánh thời gian phản hồi giữa hai máy. Thông số FP4 của hãng mô tả năng lực tính toán lý thuyết.

Dùng cùng mô hình, định dạng trọng số và tài liệu để so sánh. Đầu tiên xem tác vụ có chạy vừa bộ nhớ, sau đó đo thời gian chờ với một người và với cả nhóm. Chẳng hạn, trợ lý trả lời nhanh khi dùng riêng có thể phải xếp hàng khi đồng nghiệp cùng gửi yêu cầu.

Cộng chi phí chuyển phần mềm, triển khai, điện và hỗ trợ vào giá máy. Nhóm phụ thuộc ứng dụng x86 có thể tiết kiệm công chuyển đổi với máy trạm. Nhóm muốn thiết bị AI riêng có thể ưu tiên GX10 khi bộ thử Arm64 đạt yêu cầu. Kết quả công việc giúp chốt lựa chọn phù hợp.

Tài liệu tham khảo

Các nguồn dưới đây cung cấp thông số thiết bị và hướng dẫn phần mềm được dùng trong bài. Khi cài đặt, hãy đối chiếu đúng mã máy và phiên bản đang sử dụng.