Опыты · JavaScript: от замыканий до автономных систем · Глава 5

Прогрев функции

Многоуровневая JIT-компиляция в JavaScript

Тема
ОпытПрогрев функции
Нажмите кнопку, и браузер вызовет dot из опыта книги несколько тысяч раз с холодного старта. На графике видно, сколько стоит вызов в начале и после того, как движок его скомпилировал, а полосы показывают уровни V8 из книги. «Ещё раз» берёт новую холодную копию функции, и спад может прийтись на другой вызов.

Всё считается в вашем браузере, никуда ничего не отправляется.

Про этот опыт

Что такое многоуровневая компиляция в JavaScript?

Движок JavaScript не компилирует программу заранее. Он начинает исполнять код интерпретатором, попутно записывая, какие типы проходят через каждую операцию, и переводит функцию в машинный код только тогда, когда её вызывают часто. Таких ступенек несколько. В V8 это интерпретатор Ignition, простой компилятор Sparkplug, быстрый оптимизирующий компилятор Maglev и TurboFan, который строит лучший код и тратит на него больше всего времени. Оптимизирующие компиляторы опираются на записанные типы; если потом код встречает другие, оптимизированную версию выбрасывают, и функция спускается ниже.

В мае 2017 года V8 остановился на паре из интерпретатора Ignition и компилятора TurboFan. Между ними позже встали Sparkplug, в 2021 году, и Maglev, в 2023 году вместе с Chrome 117. Каждая ступенька по-своему отвечает на один вопрос: сколько стоит компиляция и сколько она принесёт. Функцию, которую вызывают часто и которая ведёт себя одинаково, движок поднимает выше, а в журнале V8 причина записана тремя словами: hot and stable.

Кнопка вызывает в вашем браузере функцию dot из опыта книги, скалярное произведение двух массивов по 256 чисел, восемь тысяч раз с холодного старта. На графике по горизонтали номер вызова, по вертикали время одного вызова, обе оси логарифмические. Часы браузера огрублены, поэтому вызовы идут через несколько холодных копий функции и партиями, а полые точки - замеры на пределе точности часов. «Ещё раз» компилирует новую копию, и всё начинается с интерпретатора.

В книге, на Node 24 и M4 Max, вызов в интерпретаторе занимал 7,0–7,4 мкс, на Maglev 0,39–0,64 мкс, на TurboFan 0,19–0,36 мкс. В пяти запусках Maglev включался на 36–180-м вызове, TurboFan на 1620–3780-м, а в одном запуске за 4060 вызовов не включился вовсе. Сам вызов, на котором происходит переход, стоил 17–300 мкс.

Глава делает из этого вывод о предсказуемости. Ответ у программы всегда один и тот же, а скорость зависит от того, как она исполнялась до этого и как операционная система раздала время фоновым потокам компилятора. Поэтому все замеры в книге сделаны после разогрева, в отдельных процессах и с медианой вместо среднего, и поэтому два нажатия кнопки могут нарисовать два разных графика.

Из книги

JavaScript: от замыканий до автономных систем · Глава 5

От интерпретатора к JIT

Рядом с этим опытом в главе
[marking ... for optimization to MAGLEV, ConcurrencyMode::kConcurrent, reason: hot and stable] Слова «горячая и стабильная» описывают всю стратегию движка. Компиляция стоит времени и памяти, поэтому тратить их имеет смысл только на код, который вызывают часто и который ведёт себя одинаково. Иначе оптимизированный код придётся выбросить при первой же смене типов. Движок вкладывается в функцию так, как осторожный инвестор вкладывается в компанию, которая несколько кварталов подряд приносила прибыль, и чем дольше функция оправдывает ожидания, тем больше в неё вкладывают.