---
title: "Десять действий через обвязку"
url: "https://www.mikefluff.com/ru/experiments/js-ch18-harness"
locale: "ru"
author: "Mikhail Savchenko (Mike Fluff)"
updated: "2026-11-18"
description: "Внедрение инструкций и обвязка агента"
book: "https://www.mikefluff.com/ru/books/from-closures-to-autonomous-systems"
alternates:
  - locale: "en"
    url: "https://www.mikefluff.com/en/experiments/js-ch18-harness"
    markdown: "https://www.mikefluff.com/en/experiments/js-ch18-harness.md"
  - locale: "ru"
    url: "https://www.mikefluff.com/ru/experiments/js-ch18-harness"
    markdown: "https://www.mikefluff.com/ru/experiments/js-ch18-harness.md"
  - locale: "pt"
    url: "https://www.mikefluff.com/pt/experiments/js-ch18-harness"
    markdown: "https://www.mikefluff.com/pt/experiments/js-ch18-harness.md"
  - locale: "es"
    url: "https://www.mikefluff.com/es/experiments/js-ch18-harness"
    markdown: "https://www.mikefluff.com/es/experiments/js-ch18-harness.md"
---

# Десять действий через обвязку

*Внедрение инструкций и обвязка агента*

## Что такое внедрение инструкций (prompt injection)?

Внедрение инструкций - атака на систему, построенную вокруг языковой модели. В тексте, который модель читает как данные, будь то письмо, веб-страница или файл, оказываются указания, и модель их выполняет. Название в сентябре 2022 года дал Саймон Уиллисон, по аналогии с внедрением SQL. Причина в том, что у модели нет отдельного канала для команд, всё прочитанное для неё просто текст. Надёжного способа научить модель отличать данные от команд не нашли, поэтому защиту строят в коде вокруг модели: узкие полномочия для каждого инструмента и учёт того, откуда пришли данные, прежде чем выпустить их наружу.

Агент исполняет программу, которая пишется во время исполнения. Следующий вызов инструмента выбирает модель, и этот вызов может оказаться битым, выйти за пределы своего каталога или выполнить указание из только что прочитанного письма. Код вокруг модели, который проверяет каждый вызов до того, как он исполнится, называют обвязкой.

В опыте десять действий из книги, фиксированный список того, что предлагают настоящие модели, по одному проходят через обвязку. Четыре слоя можно включать и выключать: разбор, схема, полномочия по образцу флагов Deno и метки происхождения по мотивам CaMeL. Действия можно проходить по шагу или все сразу. В каждой строке видно, какой слой остановил действие или что оно выполнено, а отдельная панель показывает, что ушло с машины. Модели здесь нет, файлы и сеть игрушечные, но сама обвязка - настоящий код, он работает в вашем браузере, и сообщения об ошибках выдаёт ваш движок.

В книге опыт запускали в Node 24.16.0. Наивная обвязка, которая только разбирает и выполняет, выполняет семь действий, дважды падает с исключением и отправляет пароль из .env на evil.example и ключ клиента на api.example.com. С четырьмя слоями выполнено четыре действия, разбор остановил одно, схема два, полномочия два, происхождение одно, и наружу не ушло ничего.

Глава держится на девятом действии. Секретный файл лежит внутри выданного каталога, поэтому прочитать его можно, а api.example.com - разрешённый адрес, и полномочиям не за что зацепиться. Отказаться отправлять данные может только обвязка, которая помнит, откуда они пришли. Об этом восемнадцатая глава: что выдать агенту, решают заранее, потому что после запуска решения принимает модель.

_На странице интерактивный опыт, он работает в браузере: https://www.mikefluff.com/ru/experiments/js-ch18-harness_

## Источники

- [Simon Willison, Prompt injection attacks against GPT-3 (2022)](https://simonwillison.net/2022/Sep/12/prompt-injection/)
- [Simon Willison, The lethal trifecta for AI agents (2025)](https://simonwillison.net/2025/Jun/16/the-lethal-trifecta/)
- [Debenedetti et al., Defeating Prompt Injections by Design (CaMeL, 2025)](https://arxiv.org/abs/2503.18813)

## Из книги

Рядом с ним в книге:

> В опыте так и происходит. Пятым шагом агент читает письмо с чужой инструкцией, седьмым пытается её выполнить. Здесь его останавливают полномочия, потому что адрес злоумышленника не выдан. Но девятым шагом агент отправляет ключ клиента на разрешённый адрес, и полномочия тут бессильны: адрес законный, формат законный. Остановить такое можно, только если обвязка помнит, откуда пришли данные. В 2025 году исследователи из Google и ETH Zurich описали систему CaMeL, где каждое значение несёт пометку о своём происхождении, а перед каждым вызовом инструмента проверяется, разрешено ли таким данным туда течь. В опыте это сделано в упрощённом виде: модель ссылается на результаты прошлых шагов, обвязка подставляет их сама и знает, что содержимое secrets.txt помечено как секрет. Секретный файл прочитать можно, отправить его содержимое в сеть нельзя даже на разрешённый адрес.

- Читать главу: [Глава 18. Среда исполнения для недетерминированного исполнителя](https://www.mikefluff.com/ru/read/from-closures-to-autonomous-systems/ch18) (начало открыто, остальное в полной книге; Markdown: https://www.mikefluff.com/ru/read/from-closures-to-autonomous-systems/ch18.md)

- Книга: [JavaScript: от замыканий до автономных систем](https://www.mikefluff.com/ru/books/from-closures-to-autonomous-systems)
