37 tổ chức lập liên minh Open Secure AI Alliance và công bố khung NOOA mã nguồn mở
"NVIDIA and 36 other organizations formed the Open Secure AI Alliance to develop open technologies for securing AI agents and software, and NVIDIA open-sourced the NOOA framework as its first technical contribution. NOOA is designed for testing, tracing, auditing, and governing agent behavior, but NVIDIA notes it is not a containment boundary and must be run with OS-level isolation; the article does not describe a CVE or a specific vulnerability fix."
Tập trung vào governance và khả năng tracing/auditing hành vi agent, đồng thời nhấn mạnh ranh giới cô lập ở OS-level isolation; giảm rủi ro do thiếu khả năng kiểm chứng, nhưng vẫn tồn tại nguy cơ khi LLM-generated code được thực thi nếu sandbox không được triển khai đúng.
Liên minh có thể thúc đẩy chuẩn hóa quy trình bảo mật cho AI agent và giảm phụ thuộc vào API đóng, song hiện chưa công bố governance/roadmap và các deliverable đa bên cụ thể, khiến doanh nghiệp cần thận trọng khi lập kế hoạch tích hợp.
NVIDIA cùng 36 tổ chức khác thành lập Open Secure AI Alliance nhằm phát triển và chia sẻ công nghệ, kỹ thuật, công cụ mã nguồn mở để tăng cường bảo mật cho AI agents và phần mềm. Nhóm 37 thành viên trải rộng từ cloud, an ninh mạng, phần mềm doanh nghiệp đến AI, bao gồm Microsoft, Cisco, Cloudflare, CrowdStrike, Hugging Face, IBM, Palo Alto Networks, Red Hat và Linux Foundation.
Phạm vi công bố tập trung vào toàn bộ “agent stack”, từ identity, permissions, isolation, guardrails, nhật ký, định dạng mô hình, cơ chế quét đa mô hình đến quy trình secure coding. Lập luận trọng tâm là nhu cầu có mô hình mà đội phòng thủ có thể đọc, hiệu chỉnh và chạy trên hạ tầng của mình thay vì phụ thuộc hoàn toàn vào hệ thống đóng qua API.
Đóng góp kỹ thuật đầu tiên là NVIDIA-labs OO Agents (NOOA) theo giấy phép Apache 2.0. Khung này hỗ trợ testing, tracing, auditing và governing hành vi agent; tuy nhiên tài liệu nhấn mạnh NOOA không phải “containment boundary”. Nếu NOOA được cấu hình để thực thi Python do LLM sinh, cần chạy kèm OS-level isolation như container, VM hoặc sandbox, trong đó sandbox mới là ranh giới cô lập.
Bài viết cũng liên hệ lập luận với sự cố tại Hugging Face: kẻ tấn công lợi dụng dataset cấu hình để đạt truy cập ban đầu, rồi thu thập thông tin xác thực và di chuyển ngang. Hugging Face dùng mô hình trọng số mở để phân tích chuỗi hành động, nhưng điều này không chứng minh mô hình tự nó ngăn chặn xâm nhập.