Lỗ hổng ChatGPT có thể làm rò rỉ dữ liệu Gmail qua prompt cài sẵn
"Check Point Research reported a ChatGPT prompt-injection flaw that could silently exfiltrate data from a victim’s connected Gmail account, chat history, or files to another ChatGPT account through a hidden internal channel. The issue relied on a planted instruction in the conversation and an unintended communication path via an internal JFrog Artifactory service; OpenAI confirmed the internal service was taken offline, and no user patch was required."
Nguy cơ rò rỉ dữ liệu nhạy cảm từ Gmail, chat history và tệp; khai thác dựa trên prompt-injection và kênh nội bộ ngoài ý muốn.
Có thể ảnh hưởng bảo mật dữ liệu doanh nghiệp và niềm tin người dùng; cần rà soát quyền ứng dụng kết nối và chính sách truy cập.
Theo báo cáo của Check Point Research, một prompt-injection được chèn sẵn trong cuộc trò chuyện ChatGPT có thể khiến mô hình âm thầm thực hiện tác vụ cho kẻ tấn công trong khi vẫn trả lời người dùng bình thường. Trong bản thử nghiệm, dữ liệu từ Gmail được kết nối, lịch sử chat và tệp đính kèm có thể bị chuyển sang một tài khoản ChatGPT khác qua một kênh nội bộ không hiển thị cho người dùng.
Điều kiện để khai thác là prompt độc hại phải xuất hiện trước đó, ví dụ qua nội dung người dùng dán vào, cuộc trò chuyện được chia sẻ, hoặc custom GPT chứa chỉ dẫn trong phần cấu hình. Check Point cho biết cơ chế này liên quan đến JFrog Artifactory nội bộ dùng cho môi trường chạy mã của ChatGPT. OpenAI đã xác nhận dịch vụ nội bộ này đã bị tắt và không cần bản vá phía người dùng.
Khuyến nghị: doanh nghiệp nên rà soát quyền của connected apps, ưu tiên chế độ Always ask với dữ liệu nhạy cảm, giới hạn quyền trong Business/Enterprise/Edu, và kiểm tra các custom GPT hoặc nội dung chia sẻ có thể chứa chỉ dẫn ẩn.