
Nghiên cứu phát hiện rò rỉ dữ liệu trong chuỗi cung ứng AI
"Researchers discovered widespread data leakage within the AI supply chain by embedding 2 million unique 'canary' secrets into AI prompts. The experiment revealed compromised AI providers, prompt theft by resellers, and failures to respect privacy settings like Zero Data Retention (ZDR). Attackers exploited stolen AWS keys tens of thousands of times."
Nghiên cứu chỉ ra rò rỉ dữ liệu và vi phạm quyền riêng tư nghiêm trọng trong chuỗi cung ứng AI. Khóa AWS bị đánh cắp có thể dẫn đến xâm nhập hệ thống.
Các doanh nghiệp có thể gặp rủi ro về mất dữ liệu và thiệt hại uy tín do rò rỉ thông tin. Việc lựa chọn nhà cung cấp AI cần cân nhắc kỹ lưỡng về bảo mật dữ liệu.
Một nhà nghiên cứu vừa cấy 2 triệu 'canary' (mật mã theo dõi) vào các prompt AI để kiểm tra rò rỉ dữ liệu. Kết quả cho thấy nhiều nhà cung cấp AI bị xâm phạm, prompt bị đánh cắp bởi người bán lại, và không tuân thủ cài đặt riêng tư như Zero Data Retention (ZDR - không lưu trữ dữ liệu). Kẻ tấn công đã sử dụng trái phép các khóa AWS bị đánh cắp hàng chục nghìn lần.
Ngày nay, nhiều ứng dụng AI sử dụng các dịch vụ trung gian như OpenRouter hoặc Vercel để tìm kiếm mô hình phù hợp nhất dựa trên giá hoặc khả năng xử lý. Thay vì trực tiếp dùng Anthropic hay OpenAI, nhà phát triển thuê các 'router AI' này.
Vi phạm bảo mật, đánh cắp prompt và xâm phạm quyền riêng tư
Nghiên cứu của HD Moore bao gồm các khóa truy cập AWS, mật khẩu SSH, URL, DNS và tham chiếu kho git riêng tư. Ông kiểm soát cơ sở hạ tầng nhận các yêu cầu này. Ông cấy mỗi bí mật vào một prompt duy nhất gửi đến một nhà cung cấp. Khi bí mật bị rò rỉ, ông có thể xác định được mắt xích nào trong chuỗi cung ứng AI chịu trách nhiệm.
Kết quả đáng chú ý:
- Ít nhất ba nhà cung cấp AI bị tấn công, kẻ tấn công dùng quyền truy cập để đánh cắp prompt.
- Nhiều người bán lại trong thị trường inference (suy luận) ghi lại prompt và chuyển cho người khác sử dụng thông tin đăng nhập.
- Một số nhà cung cấp AI không tuân thủ cài đặt riêng tư của người dùng, ví dụ như ZDR.
Moore viết: “Chúng tôi gửi gần hai triệu prompt AI chứa bí mật duy nhất đến các nhà cung cấp, sau đó theo dõi chúng xuất hiện ở đâu. Kết quả cho thấy vi phạm bảo mật, đánh cắp prompt và việc bảo vệ dữ liệu khách hàng yếu kém.”
Prompt được mã hóa khi truyền, nhưng giải mã tại mỗi bước trong mạng lưới người bán lại. Router AI đọc prompt để chọn mô hình phù hợp. Prompt có thể đi qua nhiều router (ví dụ, Vercel đến OpenRouter) và mỗi bên có thể ghi lại prompt theo chính sách của họ.
Chuỗi cung ứng AI: 'Miền Tây hoang dã'
Ba nhà cung cấp bị tấn công, kẻ tấn công tái sử dụng “một vài trăm” khóa AWS. Moore cho biết: “Mỗi khóa được gửi trong một yêu cầu duy nhất đến một nhà cung cấp, trong một khoảng thời gian ngắn vào cuối tháng 10, và mọi yêu cầu chúng tôi gửi trong khoảng thời gian đó đều bị đánh cắp.” Kẻ tấn công truy cập front door của nhà cung cấp, không phải sâu trong hệ thống.
Bí mật gửi đến hai nhà cung cấp bị tấn công được sử dụng gần như ngay lập tức từ cùng một máy chủ thuê, cho thấy cùng một đối tượng tấn công. Một số bí mật bị đánh cắp bởi chính người bán lại, họ chào giá thấp để thu hút prompt, sau đó bật tính năng ghi lại. Moore xác định điều này bằng cách gửi yêu cầu đến cùng một mô hình qua các người bán khác nhau.
Một phòng thí nghiệm AI Trung Quốc cũng bị phát hiện thu thập URL bí mật từ prompt, vi phạm điều khoản riêng tư. Họ thu thập URL từ hơn một nửa prompt, bao gồm cả prompt có cài đặt “không thu thập dữ liệu” hoặc ZDR. Việc thu thập diễn ra trong vòng hai đến ba ngày sau khi nhận yêu cầu. Thậm chí, prompt gửi qua các nhà cung cấp Hoa Kỳ cũng bị chuyển về phòng thí nghiệm này.
Câu hỏi thường gặp
Canary trong nghiên cứu này là gì?
Canary là các mật mã theo dõi độc nhất vô nhị được nhà nghiên cứu cấy vào prompt AI. Khi các mật mã này xuất hiện ở nơi không mong muốn, nó cho thấy dữ liệu đã bị rò rỉ và giúp xác định nguồn gốc rò rỉ.
Zero Data Retention (ZDR) có hiệu quả không?
Nghiên cứu cho thấy ZDR không phải lúc nào cũng hiệu quả. Kẻ tấn công có thể xâm nhập vào hệ thống trước khi cài đặt ZDR được áp dụng, hoặc các nhà cung cấp có thể không tuân thủ cài đặt này.
Những loại dữ liệu nào có thể bị rò rỉ?
Nghiên cứu phát hiện rò rỉ các khóa truy cập AWS, mật khẩu SSH, URL, DNS và tham chiếu kho git riêng tư. Điều này cho thấy nhiều loại dữ liệu nhạy cảm có thể bị xâm phạm.
Góc nhìn của Orange Cloud
Theo chúng tôi, kết quả này cho thấy các doanh nghiệp Việt Nam cần cẩn trọng khi sử dụng các dịch vụ AI trung gian. Việc đánh cắp prompt và vi phạm quyền riêng tư có thể gây rủi ro về bảo mật dữ liệu. Các công ty nên xem xét các giải pháp AI on-premise (tự triển khai) hoặc các nhà cung cấp có chính sách bảo mật rõ ràng. Điều đáng chú ý là, việc kiểm tra các cài đặt ZDR không đảm bảo an toàn tuyệt đối, vì kẻ tấn công có thể xâm nhập trước khi cài đặt này được áp dụng.