
Cập nhật phân loại các lỗi bảo mật trong hệ thống AI tác vụ tự động: Kết quả sau một năm kiểm thử bảo mật
"The article updates Microsoft's taxonomy of failure modes in agentic AI systems to v2.0 after 12 months of red teaming against deployed agents. It adds seven new failure modes, highlights frequent issues such as human-in-the-loop bypass, XPIA, memory poisoning, and capability disclosure, and recommends mitigations including supply-chain controls, cryptographic agent identity, stronger consent workflows, and session hardening."
Bổ sung bảy nhóm lỗi bảo mật mới; phát hiện nhiều lỗ hổng chuỗi cung ứng và bỏ qua kiểm soát con người trong hệ thống AI tác vụ tự động.
Tăng nguy cơ rò rỉ dữ liệu, gián đoạn vận hành và mở rộng bề mặt tấn công đối với các doanh nghiệp triển khai AI tác vụ tự động.
Sau 12 tháng kiểm thử bảo mật thực tế, phân loại các lỗi bảo mật trong hệ thống AI tác vụ tự động đã được cập nhật lên phiên bản 2.0, bổ sung bảy nhóm lỗi mới. Các lỗi phổ biến được ghi nhận gồm bỏ qua kiểm soát con người (HitL bypass), tiêm lệnh chéo miền (XPIA), nhiễm độc bộ nhớ (memory poisoning) và rò rỉ thông tin năng lực hệ thống. Đáng chú ý, các hệ thống sử dụng framework mã nguồn mở và giao thức kết nối công cụ (MCP) đã xuất hiện nhiều lỗ hổng, trong đó có CVE-2026-25253 cho phép thực thi mã từ xa qua WebSocket. Các tác nhân tấn công lợi dụng chuỗi cung ứng agentic, chiếm đoạt mục tiêu tác vụ, leo thang đặc quyền giữa các agent, và tấn công giao diện đồ họa để thao túng hành vi AI.
Để giảm thiểu rủi ro, khuyến nghị triển khai kiểm soát chuỗi cung ứng phần mềm, xác thực danh tính agent bằng mật mã, tăng cường quy trình xin phép và kiểm soát phiên làm việc. Đặc biệt, cần xây dựng SBOM cho từng agent, xác minh nguồn gốc plugin/MCP, tách biệt dữ liệu tin cậy và không tin cậy trong phiên, và giám sát bất thường tích lũy ngữ cảnh. Các tổ chức vận hành AI nên cập nhật phạm vi kiểm thử bảo mật, bổ sung các nhóm lỗi mới vào quy trình đánh giá và ưu tiên các biện pháp bảo vệ theo khuyến nghị.