Cloudflare bổ sung nhân sự từ Ensemble AI để tối ưu hạ tầng và suy luận mô hình lớn
"Cloudflare announced that key members of Ensemble AI are joining its AI team to strengthen AI infrastructure and improve the efficiency of serving large models at scale. The post highlights Ensemble AI’s model-compression and efficient-inference work, including NdLinear and NdLinear-LoRA, and says the team will help improve Workers AI economics, GPU utilization, and scalable deployment; no CVE is involved."
Tin mang tính tổ chức và tối ưu hiệu năng, không nêu lỗ hổng. Tác động bảo mật gián tiếp chủ yếu ở khía cạnh vận hành: giảm chi phí suy luận có thể hỗ trợ kiểm soát rủi ro do lạm dụng tài nguyên, nhưng không có thông tin về thay đổi bảo mật cụ thể.
Việc bổ sung chuyên môn về model compression và efficient inference nhằm cải thiện GPU utilization và economics khi chạy mô hình lớn trên Workers AI, giúp tăng khả năng mở rộng và giảm chi phí vận hành cho nhà phát triển.
Ngày 2026-06-15, Cloudflare cho biết một số thành viên chủ chốt từ Ensemble AI sẽ gia nhập đội AI nhằm tăng tốc phát triển AI infrastructure và giúp nhà phát triển chạy mô hình AI lớn hiệu quả hơn ở quy mô toàn cầu.
Ensemble AI (thành lập năm 2023 tại San Francisco) tập trung vào bài toán làm mô hình lớn nhanh hơn, nhỏ hơn và rẻ hơn khi triển khai, thông qua các hướng tiếp cận model compression và efficient inference. Nhóm đã phát triển NdLinear, thay thế “drop-in” cho lớp linear trong transformer, xử lý trực tiếp trên multidimensional activations để giảm tham số và chi phí tính toán, đồng thời giữ cấu trúc có ý nghĩa (ví dụ các trục như heads/channels/kích thước không gian). Ngoài ra là NdLinear-LoRA, một phương pháp thích nghi hiệu quả nhằm giảm số tham số huấn luyện khi fine-tuning.
Cloudflare nhấn mạnh việc tối ưu chi phí suy luận cho Workers AI (GPU serverless trên mạng toàn cầu), liên quan đến GPU utilization và triển khai có khả năng mở rộng. Kế hoạch đầu tư sẽ mở rộng các năng lực máy học nền tảng, bổ sung cho các nỗ lực hiện có như Infire và kỹ thuật nén tensor (ví dụ Unweight), với trọng tâm cải thiện economics khi phục vụ mô hình lớn và kiến trúc AI nâng cao. Bài viết không đề cập CVE hay lỗ hổng bảo mật cụ thể.