Vai trò CISO thay đổi: Bảo vệ trong kỷ nguyên AI agent
"This article discusses the evolving role of CISOs in light of the rapid adoption of AI agents within organizations. It highlights the need for improved observability and governance of these agents, focusing on identity management and data protection to mitigate risks. The article emphasizes balancing innovation with security as attackers also leverage AI."
Sự gia tăng của AI agent tạo ra các lỗ hổng bảo mật mới, đặc biệt liên quan đến quản lý quyền truy cập và bảo vệ dữ liệu. Doanh nghiệp cần chủ động triển khai các biện pháp bảo mật để giảm thiểu rủi ro.
Việc triển khai AI agent có thể giúp doanh nghiệp tăng năng suất, nhưng cũng đòi hỏi đầu tư vào bảo mật. Các doanh nghiệp cần cân nhắc chi phí và lợi ích của việc sử dụng AI agent.
Microsoft cho biết số lượng AI agent trong hệ sinh thái Microsoft 365 tăng 15 lần so với năm trước, thậm chí 18 lần ở các doanh nghiệp lớn. Nhân viên xây dựng và triển khai hệ thống AI có thể truy cập dữ liệu, tương tác ứng dụng và thực hiện tác vụ thay họ. Các hệ thống này có thể gây rủi ro nếu không quản lý quyền truy cập và hành vi phù hợp.
Nhiều người trong công ty đang xây dựng bằng AI, kể cả những người ít kinh nghiệm lập trình. Họ có thể chưa cân nhắc bảo mật như đội ngũ an ninh. Đây là hệ quả của việc công nghệ phát triển nhanh, cho phép nhiều người xây dựng và đạt được nhiều hơn.
Điều này tạo ra hai thay đổi lớn cho CISO. Họ cần bảo vệ doanh nghiệp hoạt động thông qua AI agent và phải suy nghĩ lại cách phòng thủ khi kẻ tấn công sử dụng AI để tăng tốc độ và quy mô. CISO cần cân bằng đổi mới với bảo mật, hiện đại hóa phòng thủ mà vẫn giữ vững các nguyên tắc bảo mật cơ bản.
Nhà phát triển nên cấp identity riêng cho agent thay vì dùng chung tài khoản. Khi có sự cố, cần biết agent nào gây ra và có thể tắt nó. Cần bảo vệ dữ liệu mà agent truy cập, giả định agent sẽ sử dụng dữ liệu đó. Agent không có khả năng đánh giá như con người, nên cần kiểm soát quyền truy cập cẩn thận. CISO muốn bạn xây dựng, nhưng cần biết bạn xây dựng gì để hỗ trợ bảo mật.
CISO cần đặt guardrail để người dùng đổi mới an toàn. Observability là quan trọng nhất: cần biết agent nào tồn tại, ai sở hữu, quyền truy cập ra sao và đang làm gì. Không thể bảo vệ những gì không nhìn thấy. Cần theo dõi thay đổi hành vi của agent để can thiệp kịp thời. Cần kiểm soát chặt chẽ identity và data protection: mọi agent cần identity được quản lý với quyền truy cập tối thiểu, dữ liệu phải được phân loại và bảo vệ. Microsoft đang tiếp cận quản trị agent theo cách này.
Cuối cùng, CISO cần thay đổi cách phòng thủ. Kẻ tấn công đang sử dụng AI để...
Câu hỏi thường gặp
AI agent là gì?
AI agent là hệ thống AI có thể tự động thực hiện các tác vụ thay cho con người, như truy cập dữ liệu, tương tác ứng dụng và đưa ra quyết định. Chúng thường được sử dụng để tự động hóa các quy trình làm việc.
Tại sao CISO cần quan tâm đến AI agent?
AI agent có thể tạo ra rủi ro bảo mật nếu không được quản lý đúng cách. CISO cần đảm bảo rằng các agent này được cấp quyền truy cập phù hợp và không gây ra vi phạm dữ liệu hoặc các sự cố bảo mật khác.
Microsoft đề xuất giải pháp nào cho CISO?
Microsoft đề xuất CISO tập trung vào observability, identity management và data protection. Cần biết agent nào đang hoạt động, ai sở hữu chúng, quyền truy cập của chúng là gì và chúng đang làm gì.
Góc nhìn của Orange Cloud
Theo chúng tôi, sự tăng trưởng nhanh chóng của AI agent đặt ra thách thức lớn cho các doanh nghiệp Việt Nam. Việc quản lý quyền truy cập và bảo vệ dữ liệu trở nên phức tạp hơn. Các doanh nghiệp nên bắt đầu triển khai các giải pháp observability để theo dõi hoạt động của agent và đảm bảo tuân thủ chính sách bảo mật. Điều đáng chú ý là, việc đào tạo nhân viên về bảo mật AI cũng rất quan trọng, đặc biệt là những người không có nền tảng kỹ thuật.