AI tạo sinh xóa dấu hiệu hành vi, làm suy yếu phát hiện dựa trên hành vi
"Generative AI is enabling more convincing and personalized phishing and business email compromise (BEC) attacks by removing traditional behavioral indicators like awkward language and reused templates. The FBI reported over 22,000 AI-related complaints in 2025 with $900M in losses, alongside $3.05B in BEC losses. Detection strategies must shift from identifying unusual messages to analyzing intent and combined text/image analysis."
Sự phát triển của AI tạo sinh làm suy yếu đáng kể các phương pháp phát hiện tấn công phishing và BEC truyền thống, tăng nguy cơ thành công của các cuộc tấn công này.
Các doanh nghiệp có thể phải đối mặt với thiệt hại tài chính đáng kể và mất uy tín do các cuộc tấn công phishing và BEC thành công, đặc biệt là các công ty phụ thuộc nhiều vào giao tiếp qua email.
Proofpoint báo cáo AI tạo sinh đang khiến các cuộc tấn công phishing và BEC (Business Email Compromise - Lừa đảo thay đổi thông tin thanh toán) trở nên thuyết phục hơn, cá nhân hóa hơn bằng cách loại bỏ các chỉ báo hành vi truyền thống như ngôn ngữ vụng về và các mẫu thư được sử dụng lại. FBI ghi nhận hơn 22.000 khiếu nại liên quan đến AI năm 2025, với thiệt hại gần 900 triệu USD, cùng với 3,05 tỷ USD thiệt hại từ các vụ BEC.
Sự thay đổi này khiến các kỹ sư bảo mật tại Việt Nam cần xem xét lại phương pháp phát hiện: từ việc tìm kiếm các tin nhắn bất thường sang phân tích ý định và kết hợp phân tích văn bản/hình ảnh.
AI đã thay đổi điều gì
Bộ lọc email trước đây dựa vào việc kẻ tấn công phải cắt giảm chi phí. Việc nghiên cứu mục tiêu, viết văn bản thuyết phục, giả mạo nhà cung cấp và tạo đủ biến thể để vượt qua chữ ký đều tốn thời gian, nên kẻ tấn công thường tái sử dụng mẫu và cơ sở hạ tầng. Điều này để lại các dấu vết mà hệ thống phát hiện hành vi có thể nhận biết: cơ sở hạ tầng mới, ngôn ngữ vụng về, thời gian bất thường và các yêu cầu không phù hợp với ngữ cảnh.
AI tạo sinh loại bỏ những hạn chế này:
* Ngôn ngữ: Văn bản trôi chảy, bản địa hóa mọi ngôn ngữ, không có lỗi chính tả hoặc lỗi dịch thuật. * Ngữ cảnh: Phản hồi phù hợp với luồng hội thoại, vai trò người nhận và thời điểm. * Nhân dạng: Phong cách viết phù hợp, khối chữ ký và lịch sử hội thoại hoàn toàn được tạo ra. * Biến thể: Một tin nhắn duy nhất cho mỗi người nhận, được tạo ra trong vài giây, do đó không có mẫu nào để so khớp.
Kết quả là, hành vi trở thành một tín hiệu yếu đi. Khi AI cho phép kẻ tấn công làm cho mọi tin nhắn trông bình thường, việc phân tích cũng phải thay đổi, từ việc hỏi liệu một tin nhắn có vẻ bất thường hay không sang việc nó đang cố gắng làm gì.
30 cuộc trò chuyện, một yêu cầu
Chiến dịch nhắm vào các công ty bất động sản minh họa rõ điều này. Việc viết hơn 30 yêu cầu về bất động sản riêng biệt, thuyết phục, mỗi yêu cầu được điều chỉnh cho một danh sách khác nhau và một đại lý khác nhau, là công việc mà AI tạo sinh hiện tại có thể thực hiện trong vài giây. Các câu hỏi mở đầu rất thông thường: liệu một tài sản có còn mở để kiểm tra hay không, mức giá là bao nhiêu, liệu có thể xem vào tuần này hay không. Hộp thư người gửi là hợp lệ và phản hồi được gửi đến các luồng mà các đại lý đang trả lời.
Trong một luồng, một yêu cầu kiểm tra được gửi lúc 2:58 sáng đã biến thành một lời mời họp 13 phút sau đó, hoàn chỉnh với một mẫu thương hiệu và tuyên bố rằng cuộc họp yêu cầu sự "chú ý ngay lập tức" của đại lý. Liên kết tham gia là một chuyển hướng google.com hợp lệ, vì vậy các kiểm tra danh tiếng cho kết quả sạch, trong khi một tham số trong URL chuyển nhấp chuột đến một trang web không liên quan.
Vì mỗi người gửi đang liên hệ lần đầu, bộ lọc hành vi không có lịch sử để so sánh và vì mỗi tin nhắn đều khác nhau, nên không có nội dung nào được lặp lại. Điều mà các tin nhắn chia sẻ không phải là hình thức của chúng mà là những gì chúng đang cố gắng khiến người nhận thực hiện.
AI giúp dễ dàng thực hiện mô hình này đối với bất kỳ doanh nghiệp nào phụ thuộc vào việc nghe từ người lạ, bao gồm các phòng khám tiếp nhận bệnh nhân mới, các công ty ký kết khách hàng mới, ngân hàng mở tài khoản và công ty bảo hiểm báo giá chính sách, Proofpoint cho biết.
Câu hỏi thường gặp
BEC là gì?
BEC (Business Email Compromise) là một loại tấn công lừa đảo mạng trong đó kẻ tấn công giả mạo email của một người đáng tin cậy, chẳng hạn như CEO hoặc nhà cung cấp, để lừa người nhận thực hiện các hành động như chuyển tiền hoặc chia sẻ thông tin nhạy cảm.
AI tạo sinh ảnh hưởng đến phát hiện tấn công email như thế nào?
AI tạo sinh cho phép kẻ tấn công tạo ra các email thuyết phục hơn, cá nhân hóa hơn và khó phát hiện hơn bằng các phương pháp truyền thống. Các chỉ báo hành vi như ngôn ngữ vụng về hoặc các mẫu thư được sử dụng lại trở nên ít đáng tin cậy hơn.
Các doanh nghiệp có thể làm gì để bảo vệ mình khỏi các cuộc tấn công phishing và BEC?
Các doanh nghiệp nên triển khai các giải pháp bảo mật email nâng cao có khả năng phân tích ngữ nghĩa và hành vi, đào tạo nhân viên về các dấu hiệu nhận biết tấn công BEC và thực hiện các quy trình xác minh nghiêm ngặt cho các yêu cầu chuyển tiền hoặc thay đổi thông tin tài khoản.
Góc nhìn của Orange Cloud
Theo chúng tôi, sự phát triển này đặc biệt đáng lo ngại đối với các doanh nghiệp Việt Nam đang tăng cường sử dụng email trong giao tiếp với khách hàng và đối tác. Các công ty nên ưu tiên triển khai các giải pháp bảo mật email có khả năng phân tích ngữ nghĩa và hành vi nâng cao, thay vì chỉ dựa vào các quy tắc lọc truyền thống. Điều đáng chú ý là việc đào tạo nhân viên về các dấu hiệu nhận biết tấn công BEC cũng rất quan trọng.