Как Cloudflare сэкономила 100 терабайт памяти, оптимизировав DNS-кэш 1.1.1.1

источник

Масштаб задачи
Платформа Big Pineapple, на которой работает публичный DNS-резолвер 1.1.1.1, одновременно хранит свыше 250 миллиардов записей в кэше. При таких объёмах каждый лишний байт на одну запись оборачивается перерасходом в 250 гигабайт по всему парку серверов. Инженеры компании подошли к проблеме системно и внесли пять последовательных изменений в то, как записи размещаются в памяти.

Что получилось
Расход памяти на одну запись сократился с 953 до 420 байт — на 56%. В масштабах всей инфраструктуры это высвободило около 100 терабайт, столько же оперативной памяти несут 130 серверов последнего поколения. Причём за экономию не пришлось платить скоростью: скорость записи в кэш выросла на 43%, а задержка при чтении снизилась на 19%.

Пять оптимизаций
Запас, который никогда не пригодится. Динамический массив в Rust хранит не только сами данные, но и служебное поле с запасом места на будущее расширение. Но DNS-ответ, попав в кэш, уже никогда не меняется, поэтому запас там не нужен. Переход на неизменяемые типы избавил и от лишнего поля, и от зарезервированной впустую памяти.

Один список вместо трёх. DNS-ответ состоит из трёх секций, и раньше каждая хранилась отдельным списком со своим указателем и длиной. Их объединили в один список с двухбайтовыми метками границ — минус 28 байт на запись.

Отказ от повторения имени. Обычно домен в самой записи совпадает с тем, что был запрошен, а запрос и так лежит рядом, в ключе кэша. Теперь имя хранится только там, где действительно отличается — например, за псевдонимом CNAME.

Ужатие типов записей. Перечисление в Rust всегда занимает столько места, сколько нужно самому крупному его варианту. Из-за этого четырёхбайтовый адрес IPv4 занимал те же 144 байта, что и редкий громоздкий тип записи. Крупные варианты вынесли в отдельную область памяти, оставив в основной структуре только указатель.

Хранение в двоичном виде. На последнем шаге разобранные структуры заменили сплошным блоком байтов, где каждая запись предваряется своей длиной. Данные легли в памяти вплотную друг к другу, а при отправке ответа их в большинстве случаев достаточно просто скопировать, не собирая заново.

Результаты
Развёртывание шло с 18 мая по 6 июля 2026 года, и, поскольку каждый релиз приносил одну-две оптимизации, память убывала ступенями. В верхнем процентиле потребление на экземпляр упало с 9,3 до 5,3 гигабайта (−43%), в девяностом — с 6,5 до 3,8 (−42%); больше всех выиграли серверы с самыми полными кэшами.

Код

Память на запись     953 байта -> 420 байт (-56%) Выделений на запись  1,1 КБ -> 461 байт (-58%) Скорость вставки     625 000 -> 893 000 записей/с (+43%) Задержка поиска      828 -> 670 нс (-19%)

Суммарно по всей инфраструктуре высвободилось около 100 терабайт — столько оперативной памяти несут 130 серверов последнего поколения. Освободившееся место в Cloudflare планируют пустить на увеличение самого кэша: чем он больше, тем чаще ответ находится на месте и тем реже приходится обращаться к вышестоящим серверам.