Experimentos · JavaScript: das closures aos sistemas autônomos · Capítulo 19

Um agente durável: log, assinatura, versão, chave

Execução durável para agentes de IA

Tema
ExperimenteUm agente durável: log, assinatura, versão, chave
O agente cai no meio do trabalho e reinicia. Compare chamar o modelo direto do código e através do log em quarenta reinícios, derrube o processo enquanto ele espera uma assinatura, ponha dois agentes na mesma conta e repita um reembolso com e sem chave de idempotência.

Tudo é calculado no seu navegador; nada é enviado.

Sobre este experimento

O que é execução durável?

Execução durável é um jeito de rodar processos longos para que sobrevivam à queda da máquina. Cada passo que toca o mundo de fora é gravado num log. Depois de reiniciar, o código do processo roda de novo desde o começo, os passos gravados não se repetem, o resultado deles vem do log, e o processo continua a partir do primeiro passo que o log ainda não tem. O Temporal é o sistema mais conhecido feito assim. Isso só funciona se o código entre os passos fizer a mesma coisa em toda execução, então tudo o que é não determinístico, como a hora, um número aleatório ou a resposta de um modelo, precisa ser gravado como passo.

Um agente que trabalha por horas ou dias vai ver a máquina reiniciar pelo menos uma vez. Se a conversa dele com o modelo está na memória, ela se perde, e o agente ou começa de novo ou faz algo duas vezes. No capítulo 19 o agente passa para um processo durável no modelo do Temporal: o laço do agente vira o código do processo, e cada chamada ao modelo e cada chamada de ferramenta vira um passo com o resultado no log.

O experimento tem quatro abas, os quatro modos do script do livro. Em Reexecução, o «modelo» escolhe ao acaso se primeiro faz o reembolso ou manda o e-mail, o processo cai depois da primeira ação e reinicia; alterne entre chamar o modelo direto do código e chamá-lo como passo do log, e aperte «40 reinícios» para contar as divergências no seu navegador. Em Aprovação o reembolso espera uma pessoa: derrube o processo durante a espera e depois aprove. Corrida põe dois agentes na mesma conta. Repetição derruba o processo depois do reembolso e antes da gravação no log. Nenhum modelo de verdade é chamado: como no livro, o modelo é Math.random e o banco é um contador.

Os números do livro, Node 24.16.0: com o modelo chamado direto do código, em 18 reinícios de 40 o código pediu um passo diferente do que estava no log; com o modelo como passo do log, 0 de 40. O processo com aprovação cai durante a espera, vai até o fim depois da aprovação, e o reembolso é preparado uma vez. Dois agentes que leram saldo 100 e debitam 80 cada deixam −60 sem verificar a versão e 20 verificando. Uma queda entre a ação e a gravação no log dá dois reembolsos sem chave de idempotência e um com ela.

Cada aba é uma das obrigações que o capítulo deixa para o programador. A aleatoriedade do modelo não se esconde, só se grava. O portão de uma ação perigosa é um sinal no mesmo log. Agentes que pensam muito entre ler e gravar precisam de bloqueio otimista mais do que ninguém. E como um passo roda pelo menos uma vez, mas não necessariamente exatamente uma, toda ferramenta que muda algo no mundo precisa aceitar uma chave de idempotência.

Do livro

JavaScript: das closures aos sistemas autônomos · Capítulo 19

O agente durável

Ao lado deste experimento no capítulo
Há um ponto em que esse esquema quebra. Se o programador mudou o código do processo enquanto processos com o código antigo ainda estão rodando, a reexecução com o código novo pode divergir do log gravado pelo antigo. Para isso a biblioteca do Temporal tem meios específicos, com os quais se marcam os lugares em que a versão antiga e a nova se comportam de forma diferente. Com um agente a tentação de mudar o código no meio do trabalho é especialmente grande: ajustar o prompt de sistema, acrescentar uma ferramenta. Cada ajuste desses muda o que o modelo vê e, portanto, o que ele vai responder, e um agente durável precisa ou terminar a vida com o código antigo, ou passar explicitamente para o novo.