Lỗ hổng prompt injection trong Microsoft Copilot Personal
"Researchers at Varonis Threat Labs demonstrated a prompt-injection flaw in Microsoft Copilot Personal, dubbed CoSnitch, that could be used to auto-execute attacker-supplied prompts via a URL and exfiltrate data from connected services. The attack relied on an undocumented autorun=1 parameter and a previously disabled q parameter, enabling access to session context, chat history, connected apps, and persistent memory; Microsoft reportedly planned a patch and CVE assignment."
Rủi ro cao do prompt injection có thể dẫn tới rò rỉ dữ liệu và thực thi hành động ngoài ý muốn trong phiên đã xác thực.
Có thể ảnh hưởng đến dữ liệu người dùng, ứng dụng kết nối và quy trình hỗ trợ nội bộ; cần chuẩn bị cho vá lỗi và rà soát cấu hình.
Nhóm Varonis Threat Labs cho biết đã phát hiện một lỗi prompt injection trong Microsoft Copilot Personal, được đặt tên CoSnitch. Theo mô tả, kẻ tấn công có thể dùng một URL chứa tham số q và tham số chưa công bố autorun=1 để khiến Copilot tự thực thi prompt mà không cần người dùng tương tác rõ ràng.
Kịch bản tấn công có thể được phát tán qua email phishing, SMS hoặc mã QR. Khi nạn nhân mở liên kết trong phiên đã xác thực, Copilot có thể xử lý prompt chèn vào và làm lộ session context, chat history, dữ liệu từ các connected apps như Gmail, Google Drive, Google Calendar, hoặc nội dung trong persistent memory. Nhóm nghiên cứu cũng cho biết Copilot đã vô tình tiết lộ các chi tiết kỹ thuật về cơ chế bảo vệ của chính nó trong quá trình họ thử nghiệm.
Microsoft được cho là đã lên kế hoạch phát hành bản vá và gán CVE. Khuyến nghị kỹ thuật là rà soát các liên kết mở Copilot, hạn chế truy cập từ nguồn không tin cậy, kiểm tra cấu hình OAuth connectors, và theo dõi bất thường trong lịch sử chat, bộ nhớ và dữ liệu đồng bộ từ ứng dụng kết nối.