Experimentos · JavaScript: das closures aos sistemas autônomos · Capítulo 5
Uma função aquecendo
Compilação JIT em níveis no JavaScript
Tudo é calculado no seu navegador; nada é enviado.
Sobre este experimento
O que é compilação em níveis no JavaScript?
Um motor de JavaScript não compila o programa de antemão. Ele começa executando o código num interpretador, anotando que tipos passam por cada operação, e só transforma uma função em código de máquina quando ela é chamada com frequência. Há vários desses níveis. No V8 são o interpretador Ignition, o compilador simples Sparkplug, o Maglev, um compilador otimizador rápido, e o TurboFan, que gera o melhor código e gasta mais tempo nisso. Os compiladores otimizadores se apoiam nos tipos anotados; se depois o código encontra outros tipos, a versão otimizada é descartada e a função desce de nível.
Em maio de 2017 o V8 se fixou num par, o interpretador Ignition e o compilador TurboFan. Entre eles entraram depois o Sparkplug, em 2021, e o Maglev, em 2023, com o Chrome 117. Cada nível responde à mesma pergunta do seu jeito: quanto custa compilar e quanto isso vai render. Uma função chamada com frequência e que se comporta sempre igual sobe de nível, e o registro do V8 dá o motivo em três palavras, hot and stable.
O botão chama no seu navegador a função dot do experimento do livro, o produto escalar de dois arrays de 256 números, oito mil vezes a partir do zero. No gráfico, o número da chamada fica na horizontal e o tempo de uma chamada na vertical, os dois em escala logarítmica. O navegador arredonda o relógio, por isso as chamadas passam por várias cópias frias da função e em lotes, e os pontos vazados são medições no limite da precisão do relógio. “De novo” compila uma cópia nova, e tudo recomeça no interpretador.
No livro, no Node 24 e num M4 Max, uma chamada levava 7,0–7,4 µs no interpretador, 0,39–0,64 µs no Maglev e 0,19–0,36 µs no TurboFan. Em cinco execuções o Maglev entrou entre a chamada 36 e a 180, e o TurboFan entre a 1620 e a 3780; numa delas o TurboFan não chegou em 4060 chamadas. A própria chamada em que a troca acontece custou 17–300 µs.
O capítulo tira disso uma conclusão sobre previsibilidade. O programa sempre dá a mesma resposta, mas a velocidade depende de como ele rodou antes e de como o sistema operacional dividiu o tempo com as threads de fundo do compilador. Por isso todas as medições do livro são feitas depois do aquecimento, em processos separados e com mediana em vez de média, e por isso dois cliques no botão podem desenhar dois gráficos diferentes.
Do livro
JavaScript: das closures aos sistemas autônomos · Capítulo 5
Do interpretador ao JIT
[marking ... for optimization to MAGLEV, ConcurrencyMode::kConcurrent, reason: hot and stable] As palavras «quente e estável» descrevem toda a estratégia do motor. Compilar custa tempo e memória, então só faz sentido gastá-los com código que é chamado com frequência e se comporta sempre igual. Senão o código otimizado vai ter de ser jogado fora na primeira mudança de tipos. O motor investe numa função como um investidor cauteloso investe numa empresa que deu lucro vários trimestres seguidos, e quanto mais tempo a função corresponde às expectativas, mais se investe nela.