Lỗi OpenSSL HollowByte gây cạn/đóng băng bộ nhớ TLS do yêu cầu ClientHello 11 byte
"OpenSSL fixed a TLS memory-allocation flaw dubbed HollowByte in releases 4.0.1, 3.6.3, 3.5.7, 3.4.6, and 3.0.21, where an attacker could send an 11-byte ClientHello and cause the server to reserve up to 131 KB per connection before the handshake completed. The issue can lead to memory fragmentation and denial of service, especially on glibc systems, but OpenSSL did not assign a CVE or publish a formal advisory; the fix applies to TLS only, not DTLS."
Có thể gây DoS bằng cách làm máy chủ TLS cấp phát/giữ bộ nhớ tối đa 131 KB mỗi kết nối rồi treo handshake; trên glibc có thể dẫn tới phân mảnh heap khiến bộ nhớ không được thu hồi nhanh.
Rủi ro gián đoạn dịch vụ do OOM/treo khi bị khai thác đồng thời nhiều kết nối; ảnh hưởng đặc biệt lớn với hạ tầng TLS công khai và môi trường phụ thuộc allocator của hệ điều hành.
Một lỗi cấp phát bộ nhớ trong OpenSSL (tên gọi HollowByte) có thể khiến máy chủ TLS chưa vá bị chiếm giữ bộ nhớ cho mỗi kết nối khi nhận ClientHello không hoàn chỉnh. Theo thông tin được công bố, kẻ tấn công chỉ cần gửi 11 byte để OpenSSL dựa vào độ dài khai báo trong tiêu đề TLS (4 byte, trong đó 3 byte là độ dài phần thân) và dự trữ tối đa 131 KB mỗi kết nối trước khi handshake được kiểm tra đầy đủ. Kết nối sau đó bị treo vì phần thân không bao giờ được gửi.
Điểm đáng chú ý là hành vi này có thể dẫn đến phân mảnh heap và từ chối dịch vụ (DoS) kéo dài, đặc biệt trên hệ thống dùng glibc: khi ngắt kết nối, bộ nhớ được giải phóng nhưng allocator có thể không trả về kernel, khiến resident set size tăng và không giảm ngay.
Các bản vá đã được phát hành vào ngày 9/6 cho OpenSSL 4.0.1, 3.6.3, 3.5.7, 3.4.6 và 3.0.21. Lưu ý: OpenSSL xử lý theo hướng bug or hardening nên không có CVE hoặc advisory riêng; phạm vi được nêu là TLS chỉ, không bao gồm DTLS.
Khuyến nghị: nâng cấp lên các phiên bản đã nêu, rà soát bản phân phối/đóng gói có backport hay không, và áp dụng giới hạn kết nối ở lớp mạng nhưng vẫn giả định có thể cần biện pháp bổ sung do cơ chế phân mảnh.