Cloudflare tối ưu bộ nhớ cache DNS 1.1.1.1
"Cloudflare described a series of five memory-layout optimizations to the 1.1.1.1 DNS cache (Big Pineapple) that reduced per-entry storage by over 50%, freeing roughly 100 terabytes of RAM across its fleet. The changes replaced growable vectors/strings with fixed-size boxed slices/strings, reduced pointer-heavy list storage, and packed fields more tightly, while also improving performance with 43% higher insert throughput and 19% lower lookup latency."
Tác động bảo mật trực tiếp thấp; chủ yếu là tối ưu sử dụng RAM và giảm áp lực tài nguyên cho DNS cache. Tuy nhiên, việc vận hành ổn định hơn có thể hỗ trợ khả năng phục vụ truy vấn trong các cụm lớn.
Tác động vận hành đáng kể: tiết kiệm khoảng 100 terabytes RAM và cải thiện throughput/latency có thể giảm chi phí hạ tầng, đồng thời tăng hiệu quả phục vụ DNS ở quy mô lớn.
Cloudflare cho biết đã thực hiện 5 tối ưu hóa bố cục bộ nhớ cho DNS cache Big Pineapple của 1.1.1.1, giúp giảm hơn 50% dung lượng lưu trữ trên mỗi mục cache và giải phóng khoảng 100 terabytes RAM trên toàn hệ thống. Theo mô tả, các thay đổi tập trung vào việc thay Vec và String có khả năng mở rộng bằng Box<[T]> và Box<str>, giảm cấu trúc danh sách nhiều con trỏ, đồng thời đóng gói trường dữ liệu chặt hơn để giảm phần đệm không cần thiết.
Big Pineapple đang lưu hơn 250 tỷ bản ghi DNS cache tại bất kỳ thời điểm nào, nên chỉ cần tiết kiệm một byte mỗi mục cũng tạo ra chênh lệch đáng kể ở quy mô toàn cụm. Cloudflare cũng cho biết các tối ưu này không làm giảm hiệu năng: throughput ghi tăng 43% và độ trễ tra cứu giảm 19% nhờ ít cấp phát hơn và cải thiện memory locality.
Với các hệ thống cache lớn, bài học kỹ thuật là cần rà soát lại kiểu dữ liệu, cấp phát động, và padding/alignment. Đội vận hành nên đo cả resident memory lẫn hiệu năng trong quá trình triển khai để xác nhận lợi ích thực tế trước khi áp dụng rộng rãi.