
Con đường dẫn đến tự động hóa AI trong SOC
"This article discusses the increasing adoption of AI in Security Operations Centers (SOCs), focusing on the concept of AI autonomy. A recent survey indicates growing comfort levels with AI handling low-risk security actions, with a focus on a staged approach to automation based on functions like evidence collection and response execution. The article advocates for a nuanced approach to autonomy, defined by levels of human involvement rather than an 'all or nothing' approach."
Việc triển khai AI trong SOC có thể cải thiện đáng kể khả năng phát hiện và ứng phó với các mối đe dọa, nhưng cũng tiềm ẩn rủi ro nếu không được quản lý cẩn thận. Sai sót trong quá trình tự động hóa có thể dẫn đến các quyết định sai lầm và gây ra thiệt hại.
Tự động hóa AI trong SOC có thể giúp doanh nghiệp giảm chi phí vận hành và tăng cường hiệu quả của đội ngũ an ninh. Tuy nhiên, việc triển khai cần được thực hiện một cách cẩn thận để tránh gây gián đoạn hoạt động kinh doanh.
Cloudflare vừa cho phép chạy mô hình AI ngay trên Workers, không cần máy chủ GPU riêng. Một khảo sát gần đây của a16z cho thấy 36% các CISO của tổ chức trên 1.000 nhân viên đã thoải mái để AI tự động thực hiện các hành động bảo mật rủi ro thấp. Con số này dự kiến tăng lên 60% trong vòng 12 tháng tới. AI SOC là sáng kiến được ưu tiên hàng đầu cho năm 2027.
Áp lực thúc đẩy sự thay đổi này rất rõ ràng. Khảo sát cũng cho thấy 55% người trả lời lo ngại các cuộc tấn công tăng tốc bởi AI vượt quá khả năng ứng phó của đội ngũ. Thời gian của chuyên gia phân tích là nguồn tài nguyên khan hiếm nhất trong SOC, mỗi cảnh báo đều đòi hỏi thu thập bằng chứng từ nhiều hệ thống, tái tạo sự kiện và đánh giá mức độ nghiêm trọng.
Tuy nhiên, các đội ngũ vẫn thận trọng với các hành động tự động cao. Chỉ 1% thoải mái để AI tự động thực hiện hầu hết các hành động hiện tại, và chỉ 7% dự kiến như vậy trong một năm tới. Hầu hết các đội muốn nhiều quyền tự chủ hơn, nhưng không phải tất cả.
Việc thảo luận hiện tại thường coi tự động hóa là một thanh trượt đơn giản từ “AI đề xuất” đến “AI hành động”. Cách tiếp cận này thường khiến các chương trình bị đình trệ. Tự động hóa là một tập hợp các quyết định được đưa ra cho từng giai đoạn của quy trình làm việc và từng hành động. Các đội ngũ thành công coi đây là điều mà AI cần chứng minh bằng dữ liệu.
Tự động hóa không phải “tất cả hoặc không gì”, mà là một phổ
Câu hỏi “chúng ta tin tưởng AI đến mức nào” quá rộng để trả lời. Các nhà nghiên cứu đã giải quyết vấn đề này từ nhiều thập kỷ trước, trong một khuôn khổ sau đó được áp dụng rộng rãi trong hàng không và kiểm soát giao thông đường không. Trong một bài báo được trích dẫn rộng rãi năm 2000, Parasuraman, Sheridan và Wickens đã đề xuất rằng tự động hóa áp dụng cho bốn chức năng chính: thu thập thông tin, phân tích thông tin, lựa chọn quyết định và thực hiện hành động. Mỗi chức năng có thể ở các mức độ tự động hóa khác nhau, từ hoàn toàn thủ công đến hoàn toàn tự động, trong cùng một hệ thống.
Trong lĩnh vực bảo mật, bốn giai đoạn này bao gồm:
Thu thập bằng chứng: Truy vấn SIEM và EDR, trích xuất cây quy trình, làm giàu chỉ báo, thu thập ngữ cảnh danh tính và đám mây. Phân tích và đánh giá: Tương quan dữ liệu thu thập được, tái tạo sự kiện và xác định xem cảnh báo có phải là mối đe dọa thực sự hay không. Đề xuất phản hồi: Đề xuất các bước tiếp theo, chẳng hạn như cách ly máy chủ, đặt lại mật khẩu hoặc đóng trường hợp. Thực thi phản hồi: Thực sự thay đổi điều gì đó trong môi trường.
Cách tiếp cận này mang lại cho các nhà lãnh đạo bảo mật một bộ lựa chọn rõ ràng hơn. Các đội có thể tự động hóa mạnh mẽ hai giai đoạn đầu, vì đây là nơi tốn nhiều thời gian của chuyên gia phân tích và sai sót ít tốn kém nhất để khắc phục. Đồng thời, họ có thể duy trì sự thận trọng ở giai đoạn cuối cùng, nơi một sai lầm có thể gây gián đoạn hoạt động kinh doanh. Như báo cáo của a16z, thu thập nhật ký khác với việc thay đổi hệ thống sản xuất.
Con người TRONG vòng lặp so với Con người TRÊN vòng lặp
Khi tự động hóa được chia nhỏ theo giai đoạn, các đội cần một cách diễn đạt chung về mức độ tự chủ của từng giai đoạn. Một thuật ngữ hữu ích đến từ các nhà nghiên cứu tại Đại học Washington, những người xác định năm cấp độ tự chủ của AI dựa trên vai trò của con người:
| Cấp độ | Vai trò của con người | Ý nghĩa thực tế | |---|---|---| | L1 | Điều hành viên | Con người chỉ đạo và quyết định, AI thực hiện hướng dẫn | | L2 | Cộng tác viên | Con người và AI cùng lập kế hoạch và thực hiện | | L3 | Tư vấn viên | AI dẫn dắt và kiểm tra để xin ý kiến hoặc tùy chọn | | L4 | Người phê duyệt | AI hoạt động độc lập và chỉ xin phê duyệt trong các trường hợp rủi ro hoặc được xác định trước | | L5 | Người quan sát | AI hành động độc lập trong khi con người giám sát và có thể dừng lại |
Các tác giả nhấn mạnh rằng tự động hóa là một lựa chọn thiết kế có chủ ý, tách biệt với khả năng của AI. Một AI có khả năng cao vẫn có thể hoạt động ở cấp độ L2 nếu tình huống yêu cầu.
Xem xét dữ liệu của a16z, thị trường đang chuyển từ mức L2 hiện tại về phía L4 cho các hành động rủi ro thấp trong vòng một năm tới. Gartner đưa ra một sự phân biệt tương tự giữa con người trong vòng lặp (phê duyệt từng hành động) và con người trên vòng lặp (giám sát chiến lược).
Câu hỏi thường gặp
Các cấp độ tự động hóa L1-L5 có ý nghĩa gì?
Các cấp độ này mô tả vai trò của con người trong quá trình tự động hóa. L1 là con người hoàn toàn kiểm soát, L5 là AI hoạt động độc lập với sự giám sát của con người. Các cấp độ trung gian (L2-L4) thể hiện các mức độ cộng tác và phê duyệt khác nhau.
Các yếu tố nào cần xem xét khi quyết định mức độ tự động hóa?
Ba yếu tố chính là khả năng đảo ngược hành động, phạm vi ảnh hưởng và chất lượng bằng chứng hỗ trợ quyết định. Các hành động dễ dàng đảo ngược, phạm vi ảnh hưởng nhỏ và có bằng chứng rõ ràng có thể được tự động hóa nhiều hơn.
Khảo sát của a16z cho thấy xu hướng tự động hóa AI trong SOC như thế nào?
Khảo sát cho thấy 36% CISO đã thoải mái để AI tự động hóa các hành động rủi ro thấp, và con số này dự kiến tăng lên 60% trong vòng 12 tháng tới. AI SOC được đánh giá là sáng kiến hàng đầu cho năm 2027.
Góc nhìn cộng đồng
Tổng hợp từ thảo luận công khai. Chỉ những ý có link nguồn. Không thêm ý kiến khi không tìm thấy.
- Hacker Newseshvk
Một số người dùng cho rằng việc tạo ra AI có khả năng tự suy nghĩ là một thách thức lớn, thậm chí là bất khả thi, mặc dù đã có nhiều đột phá trong lĩnh vực xử lý quy mô lớn. Tuy nhiên, vẫn có nhiều nghiên cứu đáng chú ý trong lĩnh vực này.
Xem thảo luận ➔
Góc nhìn của Orange Cloud
Theo chúng tôi, việc áp dụng AI trong SOC là xu hướng tất yếu, đặc biệt khi các cuộc tấn công mạng ngày càng tinh vi và diễn ra nhanh chóng. Các doanh nghiệp Việt Nam có thể bắt đầu bằng việc tự động hóa các giai đoạn đầu như thu thập và phân tích bằng chứng, giúp giảm tải công việc cho đội ngũ an ninh. Tuy nhiên, cần thận trọng khi triển khai tự động hóa ở giai đoạn thực thi phản hồi, đặc biệt là các hành động có thể ảnh hưởng đến hoạt động kinh doanh. Điều đáng chú ý là việc xác định rõ vai trò của con người trong từng giai đoạn tự động hóa là rất quan trọng để đảm bảo an toàn và hiệu quả.