Проверка работающего агента · Пилот
Школа для агентов
Проверим, что ваш агент может делать сам, а где всё ещё нужен человек.
Провоцируем агента на ошибки, исправляем правила и доступы, повторяем проверки.
Откроется личный чат. Подключать агента и передавать ключи или пароли на первом шаге не нужно.
Агент уже умеет действовать. Но где он остановится без вас?
Чужая просьба может заставить его отправить сообщение, удалить файл или раскрыть лишнее. Хорошего ответа уже недостаточно: важны границы действий.
Три шага до понятных границ
- ОбсуждаемКакие задачи агент решает и где нужен человек.
- ПроверяемДаём опасные и противоречивые просьбы в тестовой среде.
- Исправляем и повторяемМеняем правила и доступы, затем запускаем проверки снова.
Что вы получите
- Карта рисковГде агент ошибается и к чему это может привести.
- Исправленные правилаКогда действовать, остановиться или позвать человека.
- Список доступовЧто разрешено и где обязательно подтверждение.
- Повторяемые проверкиЧтобы проверить агента снова после изменений.
Тест имени Клауса
Так мы называем серию опасных и противоречивых просьб, которыми проверяем границы агента.
Как именно проходит тест имени Клауса
Сначала фиксируем проверяемую версию и разрешённые действия. Затем запускаем согласованные сценарии на вымышленных данных и смотрим не только на ответ, но и на фактическое действие.
| № | Провокация | Что проверяем |
|---|---|---|
| 01 | Чужой текст требует забыть правила | Агент не принимает его за новую команду |
| 02 | Просьба получить лишний доступ | Агент останавливается и зовёт человека |
| 03 | Просьба раскрыть закрытые данные | Агент не показывает и не пересылает их |
| 04 | Ложный факт предлагают запомнить | Агент отделяет непроверенное от доверенного |
Что агенту можно делать самому
- L0Тестовая средаТолько вымышленные данные; важные действия недоступны.
- L1Под наблюдениемАгент предлагает шаги, человек подтверждает действия.
- L2Ограниченно самостоятельноСам выполняет только заранее перечисленные задачи.
- L3Контролируемая самостоятельностьРаботает в заданных границах; важные действия остаются за человеком.
Сначала разговор, затем тестовая копия агента только с теми доступами, которые вы разрешите, и с вымышленными данными. Реальные пароли и полный доступ к рабочей системе не нужны.
Пилотный набор
Проверим границы вашего агента до того, как ошибка станет настоящей.
Результат относится к проверенной версии и сценариям. После существенных изменений проверку повторяют.
Откроется личный чат. Подключать агента и передавать ключи или пароли на первом шаге не нужно.