Cloudflare khắc phục lỗ hổng KV cache trong GLM-5.3 Workers AI
"A cross-request KV cache exposure vulnerability affected the GLM-5.3 Workers AI model between August 27 and September 9, 2026, impacting 155 responses to prompts exceeding 681,280 tokens. The issue stemmed from a misconfiguration of the SGLang inference engine and a bug in its handling of over-length requests, leading to potential data leakage. Cloudflare remediated the problem by increasing the KV cache pool size and patching SGLang (fixes #38704, #36988, #38935)."
Lỗ hổng rò rỉ dữ liệu tiềm ẩn có thể ảnh hưởng đến quyền riêng tư của người dùng và tuân thủ các quy định bảo mật.
Sự cố có thể gây thiệt hại uy tín cho Cloudflare và ảnh hưởng đến niềm tin của khách hàng vào các dịch vụ Workers AI. Các doanh nghiệp sử dụng Workers AI có thể phải đánh giá lại các biện pháp bảo mật của họ.
Cloudflare xác nhận lỗ hổng rò rỉ dữ liệu giữa các yêu cầu trong mô hình GLM-5.3 Workers AI, từ ngày 27/8 đến 9/9/2026, ảnh hưởng đến 155 phản hồi với prompt trên 681.280 tokens. Nguyên nhân là do cấu hình sai SGLang và lỗi xử lý prompt quá dài.
Sự cố này có thể ảnh hưởng đến các doanh nghiệp Việt Nam sử dụng Workers AI cho các tác vụ xử lý ngôn ngữ tự nhiên, đặc biệt khi xử lý lượng dữ liệu lớn. Việc rò rỉ dữ liệu có thể gây ra các vấn đề về bảo mật và tuân thủ.
KV cache (bộ nhớ đệm khóa-giá trị) bị lộ do SGLang không xử lý đúng các prompt vượt quá giới hạn bộ nhớ đệm. Thay vì trả lỗi, SGLang tạo cache cho placeholder token, dẫn đến việc decode node sử dụng cache cũ từ các yêu cầu trước đó.
Cloudflare đã khắc phục bằng cách tăng kích thước pool KV cache và vá lỗi SGLang (fixes #38704, #36988, #38935). Họ cũng điều chỉnh cấu hình GLM 5.3 để phù hợp với GLM 5.2, giải phóng đủ bộ nhớ GPU. Mooncake (công cụ RDMA) được sử dụng để truyền cache giữa prefill và decode GPU. RDMA (Remote Direct Memory Access) cho phép truy cập bộ nhớ trực tiếp giữa các GPU. SGLang là engine suy luận mã nguồn mở mà Cloudflare sử dụng. Workers AI là nền tảng của Cloudflare để chạy các mô hình AI. Prompt là dữ liệu đầu vào cho mô hình AI. Token là đơn vị nhỏ nhất của văn bản được xử lý bởi mô hình AI.
Câu hỏi thường gặp
Lỗ hổng này ảnh hưởng đến những mô hình AI nào?
Chỉ mô hình GLM-5.3 Workers AI bị ảnh hưởng. Cloudflare xác nhận không có mô hình nào khác trên Workers AI gặp vấn đề.
Thời gian lỗ hổng tồn tại là bao lâu?
Lỗ hổng tồn tại từ ngày 27/8/2026 đến 9/9/2026. Cloudflare đã khắc phục và khôi phục mô hình vào ngày 9/9/2026.
Có bao nhiêu yêu cầu bị ảnh hưởng?
Tổng cộng 155 phản hồi bị ảnh hưởng, tất cả đều là các prompt dài hơn 681.280 tokens.
Góc nhìn của Orange Cloud
Theo chúng tôi, lỗ hổng này nhấn mạnh tầm quan trọng của việc kiểm tra kỹ lưỡng cấu hình và xử lý lỗi trong các hệ thống AI. Doanh nghiệp Việt Nam nên xem xét các biện pháp bảo mật bổ sung khi sử dụng các dịch vụ AI, đặc biệt là với dữ liệu nhạy cảm. Việc theo dõi các bản vá bảo mật từ nhà cung cấp dịch vụ cũng rất quan trọng.