Khảo sát: Doanh nghiệp gặp sự cố an ninh liên quan AI do tác nhân AI không được kiểm soát
"A commissioned DigiCert survey found that 78% of enterprises reported AI-related security incidents or identified AI-related vulnerabilities, with issues attributed mainly to unauthorized or misconfigured AI agents rather than flaws in AI-generated code. The report highlights weak AI governance, limited dedicated budgets, and poor traceability of AI decisions back to models and source data, but it does not cite a specific CVE or a software patch."
Tác động bảo mật đáng kể do rủi ro từ AI agents không được ủy quyền/cấu hình sai và thiếu khả năng truy vết. Các điểm then chốt: 78% báo cáo sự cố/lỗ hổng; 53% có thể truy vết quyết định; nguyên nhân chủ yếu không phải lỗi từ mã AI sinh ra.
Rủi ro vận hành tăng vì thiếu quản trị AI và năng lực giải trình khi AI tạo ra kết quả không mong đợi. Các điểm then chốt: chỉ 50% có ngân sách quản trị; 90% mới dừng ở thảo luận cấp cao; thiếu traceability có thể làm chậm phản ứng và tăng chi phí tuân thủ.
Theo khảo sát do DigiCert thực hiện (mẫu 1.001 lãnh đạo CNTT và an ninh mạng tại Mỹ, Anh, Australia), 78% doanh nghiệp cho biết đã gặp sự cố an ninh liên quan AI hoặc phát hiện lỗ hổng liên quan AI. Trong đó, 27,7% ghi nhận ít nhất một sự cố, 21,9% gặp nhiều sự cố; 28,4% không báo cáo sự cố nhưng vẫn phát hiện lỗ hổng.
Điểm đáng chú ý là nguyên nhân được quy cho tác nhân AI (AI agents) không được ủy quyền hoặc cấu hình sai, thay vì lỗi xuất phát từ mã do AI sinh ra. Báo cáo cũng nhấn mạnh các khoảng trống về quản trị AI, mức đầu tư ngân sách dành riêng còn hạn chế và khả năng truy vết quyết định của AI về model và dữ liệu nguồn còn yếu.
Về quản trị, dù 90% tổ chức đã thảo luận ở cấp ban lãnh đạo, chỉ 50% có ngân sách và chương trình quản trị chính thức. Chỉ 53% cho biết có thể truy vết được lý do AI đưa ra kết quả. Khuyến nghị: thiết lập cơ chế kiểm soát danh tính/ủy quyền cho tác nhân, chuẩn hóa cấu hình, và tăng năng lực traceability để giải thích hành vi khi kết quả bất ngờ hoặc gây tranh cãi.