Tấn công prompt injection qua header HTTP bắt đầu xuất hiện
"Researchers discovered instances of indirect prompt injection attacks occurring via HTTP headers on approximately 30 websites. These attacks attempt to manipulate AI agents by embedding instructions within webpage metadata, potentially leading to unintended behavior. Mitigation strategies include allowlisting metadata and treating redirect points as untrusted."
Tấn công prompt injection có thể dẫn đến việc AI agent thực hiện các hành động không mong muốn, gây ra rò rỉ dữ liệu hoặc làm sai lệch kết quả phân tích.
Các doanh nghiệp sử dụng AI agent có thể bị ảnh hưởng bởi các cuộc tấn công này, dẫn đến tổn thất tài chính và uy tín.
Nghiên cứu mới cho thấy khoảng 30 trang web đã bị lợi dụng để thực hiện tấn công prompt injection gián tiếp thông qua header HTTP. Các cuộc tấn công này cố gắng thao túng AI agent bằng cách nhúng lệnh vào metadata của trang web, có thể dẫn đến hành vi không mong muốn.
Với các doanh nghiệp Việt Nam đang sử dụng AI agent để tự động hóa quy trình, việc hiểu rõ về các lỗ hổng này là rất quan trọng. Tấn công thành công có thể gây ra rò rỉ dữ liệu hoặc làm sai lệch kết quả phân tích.
Prompt injection là một kỹ thuật tấn công mà kẻ tấn công chèn lệnh vào dữ liệu đầu vào của mô hình ngôn ngữ lớn (LLM). Trong trường hợp này, lệnh được nhúng vào header HTTP, một phần của giao thức truyền tải dữ liệu trên web. HTTP header chứa thông tin metadata về trang web, như loại nội dung, ngôn ngữ, và các chỉ dẫn cho trình duyệt hoặc AI agent.
Signals Corps đã phân tích 217 triệu phản hồi HTTP và phát hiện ra 8.000 trang web giao tiếp với AI agent qua header. Trong đó, 30 trang web cố gắng thực hiện prompt injection. Phần lớn các cuộc tấn công (22/30) chỉ là trò đùa, ví dụ như yêu cầu AI agent xóa dữ liệu huấn luyện. Tuy nhiên, một số khác có thể gây ảnh hưởng thực sự, như thay đổi trạng thái ứng viên trong hệ thống tuyển dụng AI. https://www.theregister.com/2026/10/15/indirect_prompt_injection_headers/
Để giảm thiểu rủi ro, các tổ chức nên kiểm soát metadata, coi các điểm chuyển hướng là không đáng tin cậy, và xác thực các hành động được đề xuất bởi AI agent.
Câu hỏi thường gặp
Prompt injection là gì?
Prompt injection là một kỹ thuật tấn công trong đó kẻ tấn công chèn lệnh vào dữ liệu đầu vào của mô hình ngôn ngữ lớn (LLM), khiến mô hình thực hiện các hành động không mong muốn.
Header HTTP là gì?
Header HTTP là một phần của giao thức truyền tải dữ liệu trên web, chứa thông tin metadata về trang web, như loại nội dung, ngôn ngữ, và các chỉ dẫn cho trình duyệt hoặc AI agent.
Làm thế nào để ngăn chặn tấn công prompt injection qua header HTTP?
Các tổ chức nên kiểm soát metadata, coi các điểm chuyển hướng là không đáng tin cậy, và xác thực các hành động được đề xuất bởi AI agent.
Góc nhìn của Orange Cloud
Theo chúng tôi, các doanh nghiệp Việt Nam cần đặc biệt chú ý đến các header HTTP mà AI agent của họ xử lý. Việc kiểm tra và lọc các header này có thể ngăn chặn các cuộc tấn công prompt injection. Điều đáng chú ý là, mặc dù các cuộc tấn công hiện tại chủ yếu mang tính chất thử nghiệm, nhưng tiềm năng gây hại là rất lớn khi các AI agent được sử dụng rộng rãi hơn trong các ứng dụng quan trọng.