Опыты · JavaScript: от замыканий до автономных систем · Глава 7
Цепочка проигранных ставок
Спекулятивная оптимизация и деоптимизация в V8
Всё считается в вашем браузере, никуда ничего не отправляется.
Про этот опыт
Что такое деоптимизация в V8?
Деоптимизация - это то, что делает V8, когда проигрывает ставка его оптимизирующего компилятора. Пока функция работает в интерпретаторе, V8 записывает, какие типы проходят через каждую операцию. Оптимизирующий компилятор строит машинный код в расчёте на то, что типы останутся прежними, и ставит проверку там, где расчёт может не оправдаться. Если проверка не прошла, например целая сумма переполнилась или у массива сменился вид элементов, машинный код выбрасывается и выполнение возвращается в интерпретатор. Потом функцию оптимизируют заново, уже с учётом более широких сведений о типах.
Движок вроде V8 сначала исполняет функцию в интерпретаторе и записывает, что через неё проходит. Когда функция становится горячей, оптимизирующий компилятор читает эти записи и ставит на то, что дальше будет так же. Если в массиве всегда были маленькие целые, он складывает их одной инструкцией процессора и оставляет две проверки: что элементы по-прежнему маленькие целые и что сумма помещается в 31 бит. Непрошедшая проверка - это проигранная ставка, и движок откатывается в интерпретатор.
Нажмите кнопку фазы пять раз. Одна и та же функция sum() получает массив из тысячи маленьких целых, потом большие целые, сумма которых вылезает за 31 бит, потом дробные, потом строки и наконец снова маленькие целые. Каждую фазу, как в книге, сначала разгоняют тремя тысячами вызовов, а потом меряют на вашем движке. Последняя кнопка для сравнения запускает свежую копию функции только на маленьких целых.
В книге, на Node 24, вызов в первой фазе стоил 0,46–0,50 мкс, после переполнения 0,92–1,04 мкс, на дробных 0,79 мкс, на строках 4,5–5,3 мкс. На второй фазе V8 записал в журнал overflow, на каждой из трёх следующих wrong map. Последняя фаза заняла 1,83–2,46 мкс, в четыре-пять раз больше первой на тех же данных.
Глава называет это цепочкой проигранных ставок. Движок помнит всё, что функции давали, и после целых, дробных и строк его сведения говорят, что следующим может прийти что угодно, поэтому переоптимизированный код получается общим и медленным. Скорость функции зависит от того, что ей давали раньше, а по тексту программы этого не видно.
Из книги
JavaScript: от замыканий до автономных систем · Глава 7
Спекулятивное исполнение
На последнем этапе функции опять дают те же маленькие целые, с которых всё начиналось, и тут выясняется, что движок злопамятен. Вызов теперь занимает около двух микросекунд, в четыре–пять раз больше, чем в начале, хотя данные те же самые. Таблица движка помнит всё, что через функцию проходило: целые, дробные, строки. Умный компилятор читает её и на этот раз осторожничает, строит код, готовый ко всему, и такой код медленнее. Если запустить последний этап в свежем процессе, он снова пройдёт за полмикросекунды. Скорость функции теперь зависит от того, что ей давали раньше, и обманутый движок, как человек, которого несколько раз подвели, ещё долго не возвращает прежнего доверия.