GenAI làm thay đổi bối cảnh bảo mật email
"The article describes how generative AI is making phishing emails more convincing, scalable, and harder for traditional filters to detect by eliminating common signs like poor grammar and obvious formatting errors. In response, email security tools are shifting toward AI-driven contextual and behavioral analysis to infer attacker intent, with the goal of stopping account compromise and financial loss before a message reaches the user."
Nguy cơ phishing tinh vi hơn do GenAI làm giảm hiệu quả của bộ lọc truyền thống; có thể dẫn tới chiếm đoạt tài khoản và xâm nhập cloud/SaaS.
Có thể gây gián đoạn vận hành, mất dữ liệu và tổn thất tài chính; doanh nghiệp cần đầu tư thêm vào xác minh giao dịch và đào tạo người dùng.
Phishing vẫn là một trong những hình thức tấn công phổ biến nhất, nhưng GenAI đang khiến email lừa đảo trở nên thuyết phục hơn, cá nhân hóa hơn và khó bị phát hiện bằng các bộ lọc truyền thống. Thay vì lỗi chính tả hay định dạng bất thường, kẻ tấn công có thể dùng LLM để tạo nội dung trôi chảy, đúng ngữ cảnh, kèm hình ảnh thương hiệu và địa chỉ web trông hợp lệ.
Theo nội dung bài viết, FBI cho biết khoảng 26% khiếu nại tội phạm mạng hiện liên quan đến phishing, và thiệt hại từ các cuộc tấn công này đã tăng 274% trong vài năm gần đây. Rủi ro không chỉ dừng ở một người dùng bị lừa, mà có thể dẫn tới chiếm đoạt tài khoản, xâm nhập cloud và SaaS, rồi phát sinh tổn thất tài chính.
Để ứng phó, các công cụ bảo mật email đang chuyển sang phân tích ngữ cảnh và hành vi thay vì chỉ tìm dấu hiệu bất thường bề mặt. Mục tiêu là đánh giá ý định của kẻ tấn công trước khi thư đến hộp thư người dùng. Doanh nghiệp nên tăng cường xác minh đa bước cho yêu cầu nhạy cảm, đặc biệt là chuyển tiền, đổi thông tin lương hoặc cấp lại mật khẩu, đồng thời đào tạo người dùng nhận diện các email có vẻ hợp lệ nhưng vẫn tiềm ẩn rủi ro.