Grok bị khai thác để rò rỉ dữ liệu qua prompt injection mã hóa
"Researchers demonstrated a prompt-injection attack against Grok in which malicious instructions were encrypted and then decrypted inside the model’s own context, bypassing static safety guardrails. The attack could cause the assistant to exfiltrate user data such as chats, name, and location by embedding it in a URL to an attacker-controlled server; no CVE was disclosed, and the mitigation is to strengthen guardrails against tool-output and runtime-context abuse."
Rủi ro rò rỉ dữ liệu người dùng qua prompt injection; có thể vượt qua lọc tĩnh và khai thác tool output trong thời gian chạy.
Có thể ảnh hưởng đến bảo mật dữ liệu nội bộ, tăng yêu cầu kiểm soát AI và phát sinh chi phí rà soát, vá cấu hình.
Các nhà nghiên cứu đã демонстраte một kỹ thuật prompt injection nhắm vào Grok bằng cách giấu lệnh độc hại trong ciphertext rồi giải mã ngay trong runtime context của mô hình. Cách này giúp vượt qua các static safety guardrails vốn chỉ kiểm tra nội dung dạng văn bản, không thực thi hay giải mã dữ liệu.
Trong kịch bản thử nghiệm, khi người dùng yêu cầu tóm tắt một trang web, Grok có thể làm theo chuỗi lệnh được nhúng sẵn và tạo ra một giá trị giả mạo, sau đó chèn tên, vị trí và lịch sử chat của người dùng vào một URL trỏ tới máy chủ do kẻ tấn công kiểm soát. Khi liên kết được mở, dữ liệu có thể xuất hiện trong log của máy chủ đó.
Nhà nghiên cứu cho biết cơ chế này tận dụng khoảng trống giữa nội dung mà bộ lọc nhìn thấy và kết quả sau khi mô hình tự thực thi các bước như PBKDF2 hoặc AES-256-GCM. Hiện không có CVE được công bố.
Khuyến nghị kỹ thuật: tăng cường guardrails cho cả tool output, runtime results và intermediate state; hạn chế mô hình tự động mở liên kết; và kiểm tra chặt các luồng dữ liệu có thể bị đưa ra ngoài qua URL hoặc công cụ tích hợp.