Cisco mở rộng Secure AI Factory với NVIDIA: cần kiểm chứng gì ở rack-scale?

Cisco Newsroom ngày 25/08/2026 nêu mở rộng Secure AI Factory with NVIDIA cho rack-scale/high-density compute, hợp tác Supermicro và các lựa chọn liên quan Vera Rubin NVL72, HGX Rubin NVL8. Networking trải trên Cisco Silicon One và NVIDIA Spectrum-X, được hợp nhất dưới Cisco Nexus One theo mô tả hãng.

Cisco cho biết sẽ bắt đầu cung cấp Supermicro compute solutions trong Secure AI Factory từ tháng 10/2026. Đây là mốc availability cụ thể cho phần giải pháp đó, không đồng nghĩa mọi cấu hình Vera Rubin, switch, cooling, region và service đã có cùng ngày.

Hãng cũng giới thiệu Cisco Validated Infrastructure Services (CVIS), mô tả dịch vụ xác nhận hạ tầng được xây đúng thiết kế/reference architecture. Blog ngày 27/08 tiếp tục nhấn mạnh pre-validated path, Hybrid Mesh Firewall trên NVIDIA BlueField và AgenticOps/Cisco Cloud Control.

Điểm đáng chú ý là phạm vi chuyển từ “các thành phần AI” sang full-stack rack-to-fabric gồm compute, accelerator, networking, security, observability, cooling và dịch vụ validation. Ở quy mô rack, lỗi cabling, optics, firmware, thermal, PFC/ECN hoặc workload placement có thể ảnh hưởng toàn job.

CVIS/NVIS tạo một lớp assurance cho việc deployment khớp thiết kế. Tuy nhiên Cisco cũng thừa nhận trong blog rằng compliance/reference architecture không nhất thiết chứng minh một deployment cụ thể được xây đúng; đó là lý do hãng đưa dịch vụ validation. Với NetVali, acceptance test vẫn phải gắn BOM và workload của khách hàng.

Topology phải tách front-end/management, storage và back-end accelerator fabric; ghi switch/silicon/OS, NIC/DPU, optics, link speed, rail/cooling và failure domain. Cụm “NCP compliant” hoặc “validated design” chỉ có ý nghĩa khi mapping đúng versioned architecture và BOM.

KPI không nên chỉ là port throughput. Cần collective communication/job completion time, fabric utilization, loss/ECN/PFC, latency tail, retransmission, link/optics error, GPU idle/wait, storage throughput, power/thermal, deployment time và recovery sau component failure.

Observability end-to-end là một tuyên bố cần test: event từ job, GPU, NIC/DPU, optics, queue và switch có cùng timestamp/identity không; log có mất khi collector lỗi không; root-cause workflow có phân biệt compute, network và storage bottleneck không.

• Doanh nghiệp/neocloud/sovereign cloud lập kế hoạch AI rack-scale.
• Network/data center team thiết kế Ethernet fabric cho GPU cluster.
• Platform/ML team chịu trách nhiệm job scheduling và cost per token/job.
• Facility team quản lý power, liquid/air cooling và rack readiness.
• Security/SOC đánh giá DPU enforcement, tenant isolation và audit.
• Procurement/PoC team cần tách roadmap, availability, BOM và service scope.

Nguồn công bố không cung cấp benchmark độc lập cho workload của khách hàng. Các cụm “pressure-tested”, “less risk”, “faster time to value” là tuyên bố/định vị của hãng; không thay số liệu topology, workload, duration và pass/fail.

Không thể kết luận mọi Vera Rubin/HGX Rubin configuration có sẵn tháng 10/2026 chỉ từ mốc Supermicro compute solutions. Không thể suy diễn NCP compliance cho mọi N9300/N9100/BOM; tài liệu Cisco phân biệt architecture/silicon và trạng thái hỗ trợ.

CVIS xác nhận alignment với thiết kế theo phạm vi dịch vụ, nhưng chưa biết từ nguồn này toàn bộ test coverage, ngưỡng, raw evidence và trách nhiệm khi workload không đạt. Các mục đó cần statement of work và deliverable cụ thể.

• [ ] Yêu cầu BOM/version matrix: server, GPU, DPU/NIC, switch, OS, optics, storage.
• [ ] Xác nhận phần nào GA, tháng 10/2026, coming soon hay roadmap.
• [ ] Lấy đúng version của NCP/ERA/Cisco reference architecture.
• [ ] Xác nhận front-end, back-end, storage, management và failure domain.
• [ ] Kiểm tra rack power, cooling, weight, cabling và maintenance clearance.
• [ ] Chốt workload/collective, dataset/model, scale và duration cho PoC.
• [ ] Chốt KPI: JCT, GPU utilization/wait, tail latency, loss/ECN/PFC, thermal.
• [ ] Kiểm tra security policy, DPU path, tenant isolation, RBAC và audit.
• [ ] Yêu cầu CVIS scope, raw evidence, exception handling và revalidation trigger.
• [ ] Có rollback/upgrade plan cho firmware, NOS, driver, CUDA/NCCL và controller.

Pha 1 inventory/bring-up xác minh BOM, optics, cabling, firmware và time sync. Pha 2 fabric baseline đo packet loss, latency, ECN/PFC/queue dưới traffic profile đại diện. Pha 3 chạy collective/application benchmark. Pha 4 tạo lỗi link/switch/node/collector có kiểm soát. Pha 5 soak và thermal/power observation. Pha 6 rollback/repeat để chứng minh tính tái lập.

Test case · KPI · Bằng chứng

Fabric baseline · loss, tail latency, queue · generator + switch/NIC

Collective/workload · JCT, GPU wait/utilization · job + fabric timeline

Link/optics fault · convergence, affected jobs · event + packet/job

Node/DPU failure · isolation/recovery · scheduler + security log

Collector/control loss · telemetry gap, operation · raw counter + alert

Soak/thermal · throttling, error, stability · power/thermal/job

Pass/fail phải do workload owner và infrastructure owner cùng duyệt. Một fabric benchmark đẹp không chứng minh model training ổn; một job chạy xong không chứng minh network còn headroom hoặc failure recovery đạt SLO.

• AI Factory: Hạ tầng tích hợp compute, accelerator, network, storage, security và operations cho AI.
• Rack-scale: Thiết kế/triển khai ở cấp rack tích hợp thay vì server rời.
• Reference architecture: Thiết kế tham chiếu có phạm vi/BOM/version xác định.
• NCP: NVIDIA Cloud Partner program/reference architecture context.
• DPU: Data Processing Unit xử lý networking/security/offload gần server.
• JCT: Job Completion Time.
• Collective communication: Trao đổi dữ liệu giữa nhiều accelerator trong workload phân tán.
• Validation service: Dịch vụ kiểm tra deployment phù hợp thiết kế theo scope đã cam kết.