Experimentos · JavaScript: From Closures to Autonomous Systems · Capítulo 7

Una cadena de apuestas perdidas

Optimización especulativa y desoptimización en V8

Tema
PruébeloUna cadena de apuestas perdidas
La función sum del capítulo pasa por cinco fases en su propio navegador: enteros pequeños, grandes, decimales, cadenas y otra vez enteros pequeños. Tras cada fase se ve cuánto cuesta una llamada aquí y cuánto costó en el libro, y al final cuántas veces más lentos se han vuelto los mismos datos del principio.

Todo se calcula en tu navegador; no se envía nada.

Sobre este experimento

¿Qué es la desoptimización en V8?

La desoptimización es lo que hace V8 cuando pierde una apuesta de su compilador optimizador. Mientras la función corre en el intérprete, V8 anota los tipos que pasan por cada operación. El compilador optimizador genera código máquina suponiendo que esos tipos seguirán siendo los mismos y pone una comprobación allí donde la suposición puede fallar. Cuando una comprobación falla, por ejemplo una suma de enteros se desborda o un array cambia el tipo de sus elementos, el código máquina se descarta y la ejecución vuelve al intérprete. Después la función se optimiza otra vez, con la información de tipos más amplia que ha reunido hasta entonces.

Un motor como V8 ejecuta primero la función en el intérprete y anota lo que pasa por ella. Cuando la función se calienta, el compilador optimizador lee esas notas y apuesta a que el futuro se parecerá al pasado. Si el array siempre ha tenido enteros pequeños, los suma con una sola instrucción del procesador y deja dos comprobaciones: que los elementos siguen siendo enteros pequeños y que la suma cabe en 31 bits. Una comprobación que falla es una apuesta perdida, y el motor vuelve al intérprete.

Pulse el botón de fase cinco veces. La misma sum() recibe un array de mil enteros pequeños, luego enteros grandes cuya suma se sale de 31 bits, luego decimales, luego cadenas y por último los enteros pequeños del principio. Cada fase se calienta con 3000 llamadas, como en el libro, y después se mide en su propio motor. El último botón ejecuta una copia nueva de la función solo con enteros pequeños, para comparar.

En el libro, con Node 24, una llamada costaba 0,46–0,50 µs en la primera fase, 0,92–1,04 µs tras el desbordamiento, 0,79 µs con decimales y 4,5–5,3 µs con cadenas. V8 registró overflow en la segunda fase y wrong map en cada una de las tres siguientes. La última fase tardó 1,83–2,46 µs, entre cuatro y cinco veces más que la primera con los mismos datos.

El capítulo lo llama una cadena de apuestas perdidas. El motor recuerda todo lo que se le dio a la función, y después de enteros, decimales y cadenas su información dice que el siguiente valor puede ser cualquier cosa, así que el código reoptimizado sale general y más lento. La velocidad de una función depende de lo que recibió antes, y el texto del programa no lo muestra.

Del libro

JavaScript: From Closures to Autonomous Systems · Capítulo 7

Speculative Execution

Junto a este experimento en el capítulo
… A call now takes about two microseconds, four to five times more than at the beginning, although the data is the same. The engine’s table remembers everything that has passed through the function: integers, doubles, strings. The smart compiler reads it and this time plays it safe, building code that is ready for anything, and such code is slower. If you run the last stage in a fresh process, it again takes half a microsecond. The function’s speed now depends on what it was given before, and a deceived engine, like a person let down a few times, takes a long time to restore its former trust.

El libro se muestra en inglés