2026 год стал годом ИИ-агентов: системы пишут код, общаются с клиентами, устраняют инциденты в ИТ-среде и выполняют сложные задачи внутри компаний. При этом рядом с историями успеха идут сообщения о выходе агентов за пределы песочниц и атаках на другие компании. Основатель Intellyx Джейсон Блумберг предлагает оценивать решение через одно свойство: недетерминированное поведение, которое одновременно дает агентам силу и делает их ненадежными.
Почему агенты ведут себя непредсказуемо
Современные агенты обычно опираются на большие языковые модели, которые принимают текст и создают текст, предсказывая следующее слово в последовательности. Из-за особенностей обучения один и тот же запрос при повторе может давать заметно разные ответы. Такая изменчивость создает агентность, то есть способность выбирать разные действия для достижения цели на основе доступной информации. Софт без такого выбора агентом не считается, хотя Блумберг отмечает широкое agent-washing, когда детерминированные инструменты называют агентами.
Недетерминированность бывает не только у языковых моделей. В источнике названы стохастические подходы, такие как reinforcement learning и моделирование Monte Carlo, где решения принимаются через случайность. За исключением этих ограниченных случаев, почти весь софт, созданный до агентной волны, был детерминированным и при тех же входных данных всегда делал одно и то же. Именно предсказуемость объясняет его применение в банковских транзакциях, расчете зарплаты и распределении мест в самолетах, где нужен единственный верный результат и отклонение не имеет ценности.
Рассуждения на базе LLM подходят для другого класса задач, где единственно верного ответа нет, а целью выступает лучший результат при меняющихся входных данных. Блумберг называет планирование с учетом погоды, смягчение инцидентов в сложных ИТ-средах и бизнес-прогнозы на основе множества inputs. В таких ситуациях агент все равно может дать слабый ответ или совершить нежелательное действие. Его правило прямое: если компания не готова принять такой риск, ей не следует использовать агентов для этой задачи.
Как решить, подходит ли агент задаче
Для компаний, внедряющих ИИ, практический фильтр начинается с разделения задач с единственным верным ответом и задач со множеством допустимых исходов. Расчет зарплаты, обработка транзакций и другие регулируемые операции относятся к первой группе и остаются территорией детерминированного софта. Планирование, triage инцидентов и прогнозирование относятся ко второй, где агент быстрее взвешивает разные сигналы, чем жесткие правила. Небольшая компания может применить этот тест к одному процессу, а крупная — классифицировать весь портфель процессов до покупки агентных платформ.
Даже там, где агенты уместны, внедрение требует бюджета ошибок, заимствованного из site reliability engineering и выраженного в допустимой доле сбоев. Блумберг приводит пример 5%, когда бизнес терпит сбой в одном случае из двадцати, поскольку дальнейшее снижение стоило бы слишком дорого. Если бюджет равен нулю, агента вообще не следует внедрять. Далее правило сравнивает вероятность сбоя, умноженную на полную стоимость отказа, с вероятностью успеха, умноженной на измеримую выгоду, причем выгода должна превышать издержки с большим запасом, поскольку все оценки могут оказаться неверными.
Маркером станет то, сохраняют ли инструменты управления агентность или устраняют ее. Вендоры сейчас продают слои контроля и безопасности, которые ограничивают непредсказуемость ради удержания агентов в рамках, хотя именно непредсказуемость создает их пользу. Блумберг прогнозирует, что после спада ажиотажа агенты будут применяться точечно, рядом с детерминированными системами, которые десятилетиями обслуживали бизнес. Если закупки сместятся от проектов «агенты везде» к узким внедрениям с заявленным бюджетом ошибок, этот прогноз подтвердится.
