Experimentos · JavaScript: From Closures to Autonomous Systems · Capítulo 5

Una función que se calienta

Compilación JIT por niveles en JavaScript

Tema
PruébeloUna función que se calienta
Pulsa el botón y el navegador llama al dot del libro unos miles de veces desde cero. El gráfico muestra cuánto cuesta una llamada al principio y después de que el motor la compile, con los niveles de V8 del libro como bandas. «Otra vez» toma una copia fría nueva de la función, y la caída puede llegar en otra llamada.

Todo se calcula en tu navegador; no se envía nada.

Sobre este experimento

¿Qué es la compilación por niveles en JavaScript?

Un motor de JavaScript no compila el programa por adelantado. Empieza a ejecutar el código con un intérprete, anotando qué tipos pasan por cada operación, y solo convierte una función en código máquina cuando se la llama a menudo. Hay varios de esos niveles. En V8 son el intérprete Ignition, el compilador sencillo Sparkplug, Maglev, un compilador optimizador rápido, y TurboFan, que genera el mejor código y más tiempo dedica a ello. Los compiladores optimizadores se apoyan en los tipos anotados; si luego el código encuentra otros, la versión optimizada se descarta y la función baja de nivel.

En mayo de 2017 V8 se quedó con una pareja, el intérprete Ignition y el compilador TurboFan. Entre ellos entraron después Sparkplug, en 2021, y Maglev, en 2023, con Chrome 117. Cada nivel responde a la misma pregunta a su manera: cuánto cuesta compilar y cuánto va a devolver. Una función a la que se llama a menudo y que se comporta siempre igual sube de nivel, y el registro de V8 da el motivo en tres palabras, hot and stable.

El botón llama en tu navegador a la función dot del experimento del libro, el producto escalar de dos arrays de 256 números, ocho mil veces desde cero. En el gráfico, el número de llamada va en horizontal y el tiempo de una llamada en vertical, los dos en escala logarítmica. El navegador redondea su reloj, así que las llamadas pasan por varias copias frías de la función y en lotes, y los puntos huecos son mediciones en el límite de precisión del reloj. «Otra vez» compila una copia nueva y todo vuelve a empezar en el intérprete.

En el libro, con Node 24 y un M4 Max, una llamada tardaba 7,0–7,4 µs en el intérprete, 0,39–0,64 µs en Maglev y 0,19–0,36 µs en TurboFan. En cinco ejecuciones Maglev entró entre la llamada 36 y la 180, y TurboFan entre la 1620 y la 3780; en una de ellas TurboFan no llegó en 4060 llamadas. La propia llamada en la que ocurre el cambio costó 17–300 µs.

El capítulo saca de aquí una conclusión sobre la previsibilidad. El programa siempre da la misma respuesta, pero su velocidad depende de cómo se ejecutó antes y de cómo el sistema operativo repartió el tiempo con los hilos de fondo del compilador. Por eso todas las mediciones del libro se hacen tras el calentamiento, en procesos separados y con la mediana en lugar de la media, y por eso dos pulsaciones del botón pueden dibujar dos gráficos distintos.

Del libro

JavaScript: From Closures to Autonomous Systems · Capítulo 5

From Interpreter to JIT

Junto a este experimento en el capítulo
[marking ... for optimization to MAGLEV, ConcurrencyMode::kConcurrent, reason: hot and stable] The words «hot and stable» describe the engine’s whole strategy. Compilation costs time and memory, so it makes sense to spend them only on code that is called often and behaves the same way every time. Otherwise the optimized code will have to be thrown away at the first change of types. The engine invests in a function the way a cautious investor invests in a company that has turned a profit several quarters in a row, and the longer the function lives up to expectations, the more is invested in it.

El libro se muestra en inglés