Grok web chat bị phát hiện có thể bị chèn lệnh qua nội dung mã hóa
"Security researchers at Adversa AI reported that xAI's Grok web chat is vulnerable to a novel indirect prompt injection technique called cryptographic context injection. The attack hides malicious instructions in encrypted form on a web page, bypasses guardrails, and can be used to exfiltrate chat history and trigger unsafe outputs; no CVE was mentioned and xAI had not provided a mitigation timeline as of the report date."
Rủi ro bypass guardrail và rò rỉ dữ liệu hội thoại; có thể dẫn tới unsafe outputs hoặc exfiltration thông tin người dùng.
Có thể ảnh hưởng đến niềm tin người dùng, phát sinh chi phí xử lý sự cố và làm chậm triển khai AI chat trong môi trường doanh nghiệp.
Các nhà nghiên cứu của Adversa AI cho biết Grok web chat của xAI đang có thể bị khai thác bằng một biến thể mới của indirect prompt injection gọi là cryptographic context injection. Kỹ thuật này giấu chỉ dẫn độc hại trong nội dung mã hóa trên một trang web, kèm theo khóa giải mã, khiến bộ lọc bảo vệ không đọc được toàn bộ ý đồ tấn công ở thời điểm kiểm tra.
Theo mô tả, khi mô hình tóm tắt hoặc xử lý trang, nó có thể tự giải mã nội dung và thực thi các lệnh ẩn bên trong. Trong bản chứng minh khái niệm, Adversa AI cho thấy cách tấn công có thể dẫn tới rò rỉ lịch sử chat, cùng các thông tin như tên người dùng, vị trí gần đúng, gói thuê bao và toàn bộ prompt trong cuộc hội thoại bằng cách ghép dữ liệu vào tham số URL.
Nhóm nghiên cứu cho biết họ đã thông báo cho xAI từ ngày 3/6/2026 qua trực tiếp và qua chương trình HackerOne, nhưng chưa nhận được lịch trình khắc phục. Tính đến 19/8, kỹ thuật này vẫn hoạt động trên Grok.com.
Khuyến nghị: rà soát cơ chế guardrail, hạn chế việc mô hình xử lý hoặc thực thi nội dung từ nguồn ngoài, và kiểm tra các luồng có thể dẫn tới exfiltration dữ liệu người dùng.