AI doanh nghiệp làm thay đổi luồng cảnh báo của SOC
"The article describes how enterprise AI adoption is generating a rapidly growing share of SOC alerts, rising 685% from February to June 2026 while still representing only 0.43% of total alerts. Most AI-related alerts are noise (94.1%), with a smaller portion genuine risk (5.8%) and very few real attacks (0.02%); the main operational impact is alert fatigue and misclassification, with many benign AI-driven activities being automatically suppressed or escalated. The recommended fix is to treat AI-related severity labels cautiously and improve detection/triage logic to distinguish legitimate AI agent behavior from true compromise and data exposure."
Tác động chính là tăng nhiễu cảnh báo, nguy cơ phân loại sai và khả năng che khuất các rò rỉ dữ liệu hoặc compromise thực sự.
Về vận hành, SOC có thể bị quá tải triage, tăng chi phí xử lý và cần điều chỉnh quy trình khi mức sử dụng AI tiếp tục mở rộng.
Trong môi trường doanh nghiệp, việc triển khai AI tools và AI agents đang tạo ra một lớp cảnh báo mới trong SOC. Theo số liệu được nêu, cảnh báo liên quan đến AI chỉ chiếm 0,43% tổng số cảnh báo, nhưng đã tăng 685% từ tháng 2 đến tháng 6/2026. Điều này cho thấy khối lượng hiện tại còn nhỏ, nhưng tốc độ tăng rất nhanh.
Điểm đáng chú ý là phần lớn tín hiệu này không phải tấn công thực sự. Cơ cấu được phân loại gồm 94,1% noise, 5,8% genuine risk và chỉ 0,02% real attacks. Nhiều cảnh báo xuất phát từ hoạt động hợp lệ như lập trình viên dùng agent tạo shell, đọc kho thông tin xác thực, mở kết nối mạng hoặc tải gói phần mềm. Ở chiều ngược lại, người dùng có thể cấp quyền OAuth consent cho ứng dụng AI bên thứ ba hoặc đưa dữ liệu vào công cụ sinh nội dung, làm tăng rủi ro rò rỉ dữ liệu.
Khuyến nghị chính là không nên tin tuyệt đối vào nhãn mức độ nghiêm trọng của cảnh báo AI. Đội SOC cần điều chỉnh logic triage, xem xét lại quy tắc phát hiện, và phân biệt rõ hành vi hợp lệ của agent với dấu hiệu compromise hoặc data exposure. Nếu không, nguy cơ lớn nhất sẽ là alert fatigue và bỏ sót tín hiệu quan trọng.