Phishing dùng văn bản ẩn để vượt bộ lọc AI/LLM trong email
"The article describes phishing emails that use hidden text salting to evade AI and LLM-based security filters, allowing malicious messages to bypass detection and reach inboxes. No specific CVE is mentioned; the issue is a detection weakness in email security systems, and the implied fix is to improve filtering against obfuscated or hidden content."
Nguy cơ tăng do email lừa đảo có thể vượt bộ lọc AI/LLM nhờ văn bản ẩn/obfuscation, dẫn tới lọt vào inbox và tăng khả năng người dùng bị nhắm mục tiêu.
Có thể làm tăng chi phí xử lý sự cố và gián đoạn vận hành do tăng tỷ lệ phishing thành công, đồng thời ảnh hưởng uy tín nếu xảy ra sự cố do người dùng tin nhắn giả mạo.
Một bài viết cảnh báo rằng các hệ thống lọc thư dựa trên AI và LLM có thể bị suy giảm hiệu quả trước kỹ thuật text salting (thêm “muối”/biến đổi nội dung) và văn bản ẩn trong email. Theo mô tả, kẻ tấn công lợi dụng điểm yếu trong khả năng nhận diện nội dung bị che giấu hoặc đã được biến đổi để email độc hại bypass cơ chế phát hiện, từ đó vẫn có thể lọt vào hộp thư đến.
Vì không có CVE cụ thể được nêu, trọng tâm nằm ở khoảng trống trong logic lọc và mô hình phân loại khi xử lý nội dung bị obfuscation. Khuyến nghị cho tổ chức là rà soát quy trình lọc hiện tại theo hướng kết hợp nhiều lớp: phân tích nội dung hiển thị so với nội dung nguồn, kiểm tra các dấu hiệu ẩn/không hiển thị trong HTML, tăng cường rule-based cho các mẫu lừa đảo phổ biến, và theo dõi phản hồi từ người dùng để tinh chỉnh bộ lọc.
Ngoài ra, nên ưu tiên kiểm thử theo bộ dữ liệu có chứa nội dung bị che giấu để đánh giá lại hiệu quả của bộ lọc AI/LLM trong điều kiện thực tế.