Anthropic начала консультироваться с юридическими фирмами о честных нормах переговоров для ИИ-агентов, которые будут действовать от имени пользователей, сообщает Financial Times. Такие агенты будут торговаться о ценах, урегулировать жалобы и добиваться лучших условий контрактов. В экспериментах компания уже установила, что более сильные модели добиваются более выгодных сделок, а такой разрыв может усилить социальное неравенство. Для бизнеса это признак того, что автономные переговоры переходят из исследований в коммерческую практику.
Юрфирмы и стипендиаты формируют правила переговоров
По данным издания, Anthropic хочет определить допустимое поведение до того, как агенты начнут массово заключать сделки. Речь идет о трех практических ситуациях: торг о цене, разрешение жалоб и улучшение контрактных предложений. Юридические фирмы привлечены как внешние консультанты по вопросу, что считать честным поведением в таких обменах. Вопрос сроков важен, поскольку общих стандартов переговоров между двумя агентами либо между агентом и человеком-продавцом пока нет.
Внутренние эксперименты придают этой работе срочность. Anthropic заметила, что более способные модели добиваются лучших результатов в переговорах, чем слабые системы. Этот разрыв означает, что ранние пользователи передовых систем смогут систематически получать более низкие цены или сильные условия. Механика проста: лучшая модель считывает оппонента, корректирует предложения и дольше удерживает позицию. Без правил такое преимущество будет накапливаться в тысячах автоматизированных сделок.
Параллельный наем показывает, как Anthropic намерена закрыть дефицит экспертизы. Компания набирает Conceptual Reasoning Fellows, в частности юристов, на четырехмесячные проекты по проверке Claude на сложных оценочных вопросах. Указанная оплата составляет от $100,000 до $167,000. Их работа охватывает право, философию, когнитивистику, экономику и политологию. По сути, Anthropic покупает структурированное человеческое суждение для создания тестов и оценок.
Что переговоры агентов означают для компаний
Для компаний с большими объемами закупок и продаж переговоры агентов меняют структуру затрат и работу продаж. Отделы закупок смогут использовать агентов для давления на поставщиков по цене, получения компенсаций по жалобам и переработки формулировок контрактов в круглосуточном режиме. Крупные фирмы с более сильными моделями и большим числом сделок получат выгоду первыми. Мелкие поставщики, напротив, столкнутся с неутомимыми оппонентами, которые не пропускают даты продления или штрафные оговорки.
Ограничения столь же конкретны и требуют проверки до внедрения. Исследователь Anthropic Джастин Керл, сотрудник технического персонала по направлению права, институтов и ИИ, называет определение качества в праве notoriously hard, то есть заведомо сложной задачей. В математике и коде проверяемых данных много либо их легко создать, а в гуманитарных науках правильные и неверные ответы редко очевидны. Поэтому покупателям стоит спрашивать поставщиков, как измеряется честность, какие тактики переговоров запрещены и как агент фиксирует свои предложения и уступки.
Маркером станет публикация тестов или норм, разработанных Anthropic совместно с юрфирмами и стипендиатами. Открытая оценка поведения в переговорах с последующим внедрением в выпуски Claude подтвердит переход от эксперимента к продукту. Тогда поставщикам и корпоративным юристам придется согласовывать собственные правила для агентов. До этого момента автономные переговоры остаются контролируемой исследовательской ставкой.
