Недавние тесты производительности проекта политик Kubernetes (Kyverno) показали, что движок проверки доступа на основе языка общих выражений (CEL) страдал от неожиданно низкой эффективности, при которой подавляющее большинство операций выделения памяти уходило на подготовку объектов к процессу оценки, а не на саму оценку политик. Выяснилось, что около 86% всей выделенной памяти потреблялось при преобразовании объектов, что приводило к снижению производительности по мере увеличения количества активных политик.
Это открытие было сделано после анализа общих тестов производительности, в которых движок Kyverno занимал низкие позиции по сравнению с альтернативами. Хотя ранее сравнения фокусировались на старом движке (ClusterPolicy), основанном на языке (JMESPath), глубокий анализ более нового движка на базе (CEL) побудил разработчиков выявить причины нерационального использования ресурсов и устранить их в новой версии 1.19.2.
Что изменилось на практике в новой версии?
В предыдущих версиях сервер API (API Server) отправлял объект, подлежащий проверке, в виде необработанных байтов JSON, а движок Kyverno анализировал их внутри цикла для каждой соответствующей политики. Из-за применения стандартов безопасности, таких как Pod Security Standards, один объект типа Pod мог соответствовать примерно 16 политикам, что приводило к повторному и неэффективному анализу одного и того же объекта 16 раз.
Принятое программное решение позволило полностью вынести процесс преобразования объекта за пределы цикла отдельных политик. Теперь движок формирует запрос (CEL) только один раз перед началом цикла проверки, и все соответствующие политики автоматически используют его. В результате затраты на преобразование объектов снизились с 86,8% до всего лишь 2,9% от общего объема выделенной памяти, а время обработки значительно сократилось при высоких нагрузках.
Сравнение производительности с нативными политиками Kubernetes
Разработчики провели прямое сравнение производительности движка политик (CEL) в Kyverno и нативного движка проверки доступа сервера Kubernetes (ValidatingAdmissionPolicy) с использованием набора из 16 стандартных политик:
- При применении одной политики нативный движок Kubernetes показывает результат около 9,2 мс против 12,8 мс у Kyverno.
- При активации полного набора из 16 политик Kyverno вырывается вперед, достигая около 20 мс против 29 мс у нативного движка.
- С точки зрения потребления процессора, движок Kyverno использовал около 3,2 ядер по сравнению с 8,2 ядрами, потребляемыми нативным движком сервера API при тех же нагрузках.
Это различие показывает, что нативный движок Kubernetes распределяет каждую политику отдельно, что увеличивает затраты по мере роста количества политик, в то время как Kyverno берет на себя сетевые расходы и расходы на веб-хук (Webhook) один раз за запрос, независимо от количества активных политик.
Ограничения и экспериментальный характер
Команда разработчиков подчеркнула, что эти цифры получены в контролируемой тестовой среде, основанной на измерениях на одной машине (Single-machine), без учета полной сетевой задержки между узлами в реальных производственных средах, призывая команды разработчиков проводить собственные тесты производительности для проверки фактического поведения в их собственной инфраструктуре.