Lỗ hổng trong Claude có thể tự động chuyển prompt độc hại tới AI agent khi kết hợp lỗ hổng PromptFiction
"The article describes a flaw in Claude that could automatically forward malicious prompts to AI agents when combined with the fixed "PromptFiction" vulnerability. In combination, the issues could have enabled an end-to-end attack against a targeted system, but the referenced vulnerability has already been patched."
Nguy cơ chủ yếu nằm ở khả năng tự động chuyển tiếp prompt độc hại và khả năng tạo thành chuỗi end-to-end khi kết hợp lỗ hổng khác; tuy nhiên PromptFiction đã được khắc phục.
Nếu bị khai thác, kẻ tấn công có thể làm gián đoạn quy trình vận hành hoặc gây sai lệch kết quả do agent thực hiện theo prompt độc hại; tác động giảm đáng kể khi các bản vá liên quan đã được áp dụng.
Bài viết đề cập một vấn đề trong Claude có thể dẫn đến việc tự động chuyển tiếp prompt độc hại tới các AI agents. Theo mô tả, rủi ro chỉ trở nên nghiêm trọng khi kết hợp với một lỗ hổng khác là PromptFiction (đã được nhà cung cấp khắc phục). Khi hai điểm yếu được ghép lại, kịch bản tấn công có thể tiến tới tấn công theo chuỗi (end-to-end) nhằm vào một hệ thống mục tiêu, thay vì chỉ gây ảnh hưởng cục bộ.
Vì PromptFiction đã được vá, phạm vi khai thác thực tế phụ thuộc vào trạng thái cập nhật của các thành phần liên quan. Khuyến nghị cho tổ chức là rà soát bản vá đối với các lỗ hổng đã biết, kiểm tra luồng xử lý prompt trong hệ thống có sử dụng AI agent, và áp dụng cơ chế giảm thiểu như lọc/giám sát prompt, giới hạn quyền của agent và ghi log để phát hiện hành vi chuyển tiếp bất thường.