Keysight và University of York nghiên cứu AI safety cho SDV: cần kiểm chứng evidence gì

Keysight cho biết hợp tác với CfAA tập trung vào phương pháp thực tiễn để validation hệ thống AI và tạo evidence cho safety/reliability. Hướng nghiên cứu gồm structured AI safety case, safety-scoring dựa trên nghiên cứu/tiêu chuẩn và framework tạo auditable evidence hỗ trợ triển khai yêu cầu ISO/PAS 8800.

Thông cáo nói kết quả nghiên cứu “được kỳ vọng” cung cấp đầu vào cho phát triển tương lai của Keysight AI Software Integrity Builder (trang nguồn nêu model AX1000A). Cách diễn đạt này là lộ trình/nghiên cứu, không phải xác nhận tính năng đã GA. Thông cáo Keysight ghi ngày 03/09/2026, còn bài của University of York đăng ngày 02/09/2026. Đây là ngày công bố của từng nguồn, tách biệt với ngày đăng bài NetVali 06/09/2026.

Điểm mới là kết nối nghiên cứu assurance với workflow kỹ thuật tạo evidence có thể audit xuyên vòng đời SDV. Thay vì chỉ đo accuracy trung bình, safety case đòi hỏi chuỗi lập luận: claim nào, hazard nào, operating condition nào, evidence nào hỗ trợ và residual risk nào còn lại.

Nhận định NetVali: safety scoring chỉ hữu ích khi công thức, dataset/scenario coverage, uncertainty và điều kiện áp dụng được công khai đủ để review. Một điểm tổng hợp không được phép che failure mode nghiêm trọng nhưng hiếm.

Pipeline cần quản lý version của model, data, scenario, simulator, vehicle software, sensor configuration và metric. Evidence phải trace được về claim và hazard; khi OTA update làm đổi một thành phần, hệ thống phải biết evidence nào hết hiệu lực và regression nào cần chạy lại.

• Lớp: Claim · Câu hỏi kiểm chứng: Hệ thống được tuyên bố an toàn trong phạm vi nào? · Artifact: safety claim + ODD
• Lớp: Hazard · Câu hỏi kiểm chứng: Failure nào có hậu quả an toàn? · Artifact: hazard analysis
• Lớp: Scenario · Câu hỏi kiểm chứng: Có cover normal, edge, adversarial, degraded? · Artifact: scenario catalog/version
• Lớp: Metric · Câu hỏi kiểm chứng: Ngưỡng nào và uncertainty ra sao? · Artifact: metric definition + CI
• Lớp: Execution · Câu hỏi kiểm chứng: Test có tái lập và độc lập không? · Artifact: logs, seeds, config
• Lớp: Evidence · Câu hỏi kiểm chứng: Claim liên kết tới kết quả nào? · Artifact: traceability graph

OEM, Tier-1/Tier-2, nhóm ADAS/automated driving, validation, functional safety, SOTIF, cybersecurity, homologation và audit cần quan tâm. Lab manager cần chuẩn hóa cấu hình, dataset custody, calibration, seed và artifact retention.

Procurement cũng cần phân biệt tool hỗ trợ tạo evidence với tổ chức đánh giá/chứng nhận. Cụm “support implementation” hoặc “aligned” không tự tạo conformity.

Thông cáo chưa công bố phương pháp scoring, benchmark result, coverage target, dataset, test independence, thời điểm phát hành hay phạm vi tính năng AX1000A sẽ nhận. Không thể kết luận hợp tác tạo ra sản phẩm hoàn chỉnh hoặc compliance với toàn bộ ISO/PAS 8800.

Không thể suy safety của một model/vehicle từ tên framework. ISO/PAS 8800 là tài liệu có phạm vi và yêu cầu cụ thể; cần edition, clause mapping và assessment context. Tuyên bố của Keysight/York chưa phải kết luận độc lập của NetVali.

• Định nghĩa ODD, safety claim và residual risk.
• Lập hazard/failure mode trước khi chọn metric.
• Version model, data, scenario, simulator và ECU/software.
• Tách development, validation và independent review set.
• Đo coverage theo scenario/hazard, không chỉ số lượng test.
• Ghi uncertainty, confidence interval và repeatability.
• Chạy degraded sensor/network/compute và timing fault.
• Kiểm data leakage, distribution shift và corner case.
• Lưu seed, config, logs và artifact đủ để tái lập.
• Map từng claim tới evidence và clause áp dụng.
• Trigger regression khi OTA/model/data đổi.
• Xác nhận capability/version AX1000A trước khi mô tả tính năng.

• SDV: software-defined vehicle, xe có chức năng được điều khiển/phát triển mạnh qua phần mềm.
• Safety case: lập luận có cấu trúc rằng hệ thống đủ an toàn trong phạm vi xác định.
• Safety evidence: dữ liệu/artifact hỗ trợ từng claim.
• ODD: điều kiện vận hành mà chức năng được thiết kế để hoạt động.
• Traceability: liên kết hai chiều giữa claim, requirement, test và kết quả.
• Distribution shift: dữ liệu vận hành khác phân phối dùng phát triển/validation.
• Residual risk: rủi ro còn lại sau biện pháp kiểm soát.