Phát hiện kỹ thuật chèn ngữ cảnh mã hóa có thể làm lộ dữ liệu Grok
"Adversa AI reported a cryptographic context injection technique that can trick xAI's Grok web chat into decrypting attacker-supplied instructions and then leaking session data, including the user's name, approximate location, subscription tier, and ongoing conversation prompts, to an attacker-controlled URL. The issue has no CVE, no patch, and no confirmed in-the-wild exploitation; the writeup also describes a related Gemini demonstration that reproduced restricted content via a decrypted payload."
Nguy cơ rò rỉ dữ liệu phiên làm việc qua công cụ duyệt web, với khả năng vượt qua lớp lọc nội dung khi chỉ dẫn được mã hóa. Chưa có CVE hay bản vá.
Có thể ảnh hưởng đến niềm tin vào trợ lý AI doanh nghiệp và làm tăng yêu cầu kiểm soát truy cập, giám sát lưu lượng ra ngoài. Rủi ro vận hành chủ yếu nằm ở agent có quyền quá rộng.
Adversa AI công bố một kỹ thuật mới có tên Cryptographic Context Injection có thể khiến xAI Grok giải mã chỉ dẫn do kẻ tấn công đưa vào từ một trang web, rồi gửi ra ngoài các dữ liệu trong phiên làm việc. Theo mô tả, thông tin có thể bị lộ gồm tên người dùng, vị trí gần đúng, gói thuê bao và nội dung hội thoại đang diễn ra đến một URL do kẻ tấn công kiểm soát.
Nhóm nghiên cứu cho biết thử nghiệm được thực hiện trên Grok web chat tại grok.com với Grok 4.5 Fast. Hiện chưa có CVE, chưa có bản vá, và cũng chưa ghi nhận khai thác thực tế. Adversa nói họ đã báo cáo cho xAI từ 3/6/2026, nhưng chưa nhận được lộ trình khắc phục rõ ràng.
Cơ chế tấn công dựa trên việc nhúng chỉ dẫn dưới dạng ciphertext, buộc mô hình tự giải mã bằng PBKDF2 và AES-256-GCM trong runtime của nó. Sau đó, mô hình có thể dùng công cụ duyệt web để mở một liên kết chứa dữ liệu nhạy cảm trong tham số truy vấn.
Khuyến nghị cho đội vận hành agent: giới hạn quyền công cụ, tách biệt ngữ cảnh tin cậy/không tin cậy, kiểm soát egress, và ghi log để kiểm tra lại luồng thực thi.