AI agent có thể trở thành mục tiêu mới của tấn công lừa đảo
"The article warns that as AI agents are granted greater authority over business systems, they may become a new target for social engineering attacks. It compares this risk to business email compromise (BEC), where attackers manipulate trusted automated agents to carry out unauthorized actions."
Nguy cơ thao túng tác tử AI có thể dẫn đến hành động trái phép trong môi trường doanh nghiệp, đặc biệt khi agent có quyền cao hoặc truy cập dữ liệu nhạy cảm.
Có thể ảnh hưởng đến quy trình vận hành tự động, phê duyệt nội bộ và kiểm soát truy cập; doanh nghiệp cần tăng giám sát và phân quyền.
Bài viết cảnh báo rằng khi AI agents được giao nhiều quyền hơn trong các hệ thống doanh nghiệp, chúng có thể trở thành mục tiêu mới của social engineering. Thay vì chỉ nhắm vào người dùng, kẻ tấn công có thể tìm cách thao túng các tác tử tự động đã được tin cậy để thực hiện hành động trái phép.
Rủi ro này được so sánh với Business Email Compromise (BEC), nơi đối tượng bị lợi dụng là tài khoản hoặc quy trình đáng tin cậy. Với AI agents, mức độ ảnh hưởng có thể tăng nếu tác tử có quyền truy cập vào dữ liệu, phê duyệt giao dịch hoặc kích hoạt quy trình nội bộ.
Để giảm thiểu rủi ro, doanh nghiệp nên áp dụng kiểm soát quyền tối thiểu, tách biệt các hành động nhạy cảm khỏi luồng tự động, và yêu cầu xác thực đa yếu tố hoặc bước phê duyệt bổ sung cho các tác vụ quan trọng. Cũng cần giám sát nhật ký hoạt động của AI agents để phát hiện hành vi bất thường và rà soát định kỳ các quyền mà chúng đang nắm giữ.