Nghiên cứu chỉ ra lỗ hổng quản trị danh tính trong tác nhân AI
"New research describes "GhostJacking," a technique where attackers exploit security alerts and blocked events to manipulate and hijack AI agents. The report highlights identity governance gaps in AI agent workflows; no CVE is mentioned and the content does not describe a specific patch or fix."
Rủi ro tập trung vào chiếm quyền điều khiển tác nhân AI và lạm dụng cảnh báo/sự kiện bị chặn để thao túng hành vi.
Có thể ảnh hưởng đến tính toàn vẹn quy trình tự động hóa và làm tăng rủi ro vận hành nếu tác nhân AI ra quyết định sai.
Nghiên cứu mới mô tả kỹ thuật GhostJacking, trong đó kẻ tấn công lợi dụng cảnh báo bảo mật và các sự kiện bị chặn để tác động vào luồng xử lý của AI agents và chiếm quyền điều khiển hành vi của chúng. Báo cáo cho thấy các quy trình identity governance trong môi trường tác nhân AI còn thiếu chặt chẽ, đặc biệt ở khâu kiểm soát danh tính, quyền truy cập và phản hồi với sự kiện an ninh.
Điểm đáng chú ý là nội dung này không đề cập CVE và cũng không nêu bản vá cụ thể. Vì vậy, trọng tâm hiện tại là rà soát cách các tác nhân AI xử lý cảnh báo, sự kiện bị từ chối và các tín hiệu hệ thống có thể bị lạm dụng để điều hướng hành vi.
Khuyến nghị cho đội kỹ thuật: kiểm tra luồng quyết định của AI agents, siết quản trị danh tính và quyền, ghi log đầy đủ các sự kiện bị chặn, và thiết lập cơ chế xác thực chéo trước khi tác nhân thực thi hành động nhạy cảm.