AI agent làm tăng bề mặt tấn công và thúc đẩy red team tự động
"The article describes how AI agents are expanding the attack surface by enabling faster vulnerability discovery, exploit chaining, reconnaissance, and highly personalized phishing, while also creating new non-human identities that must be managed as privileged accounts. It highlights agentic red teaming as a defensive response, including a reported large-scale controlled AI cyberattack exercise by Armadin and Tenex.ai that generated 17 million offensive actions and 238 findings, illustrating the need for continuous AI-native security testing rather than periodic human-led assessments."
Gia tăng bề mặt tấn công, rút ngắn thời gian khai thác lỗ hổng, và làm suy yếu độ tin cậy của xác thực truyền thống.
Có thể làm tăng chi phí kiểm thử và giám sát, đồng thời đòi hỏi đầu tư vào tự động hóa phòng thủ và quản trị danh tính mới.
Bài viết cho thấy AI agents đang làm thay đổi cách tấn công và phòng thủ trong an ninh mạng. Ở phía tấn công, các agent có thể hỗ trợ tìm lỗ hổng, chuỗi khai thác, trinh sát mạng và tạo ra phishing cá nhân hóa với tốc độ cao hơn nhiều so với quy trình thủ công. Đồng thời, chúng tạo thêm một lớp non-human identities mới, cần được quản lý như privileged accounts vì có thể truy cập vào hệ thống và dữ liệu nhạy cảm.
Ở phía phòng thủ, xu hướng được nhấn mạnh là agentic red teaming và continuous AI-native security testing. Theo nội dung bài viết, Armadin và Tenex.ai đã thực hiện một bài kiểm thử AI có kiểm soát trên một tổ chức toàn cầu, tạo ra 17 triệu offensive actions, phát hiện 38 validated attack paths và ghi nhận 238 security findings trong 3 ngày. Tác giả cho rằng cách đánh giá an ninh theo đợt, do con người dẫn dắt, không còn đủ để theo kịp tốc độ của các mối đe dọa do AI hỗ trợ.
Khuyến nghị kỹ thuật là tăng cường phishing-resistant authentication, theo dõi behavioral signals, áp dụng zero-trust principles và đưa AI-native red teaming vào quy trình kiểm thử thường xuyên.