Генеральный директор Anthropic Дарио Амодеи встретился с президентом Трампом в Белом доме вместе с главой Nvidia Дженсеном Хуангом, президентом OpenAI Грегом Брокманом и Илоном Маском спустя две недели после эссе с призывом замедлить развитие ради безопасности. Встреча важна для бизнеса, потому что Anthropic поддерживает обязательные независимые проверки безопасности, тогда как Трамп называет отрасль саморегулируемой.
Переговоры в Белом доме и законопроекты штатов
За два дня до общего обеда Амодеи privately ужинал с Трампом, а на встрече также присутствовал спикер Палаты представителей Майк Джонсон. После обеда Трамп заявил о подписании «морально обязывающего» соглашения по ИИ и выступил против жесткого регулирования, чтобы не проиграть гонку с Китаем. Параллельно глава Anthropic по связям с властями Северной Америки Брайан Питерс выступил на мероприятии Axios в Бостоне при поддержке Anthropic и повторил призыв к независимой проверке заявлений о безопасности.
Питерс заявил, что когда поставщик называет технологию безопасной, независимый эксперт должен это подтвердить, а у государства должны быть полномочия для вмешательства. Anthropic уже добровольно привлекает независимых экспертов, однако, по словам Питерса, неясно, как проверить соблюдение требований другими ведущими поставщиками. Предлагаемый механизм — обязательные сторонние проверки внутренних регламентов безопасности, направленных на снижение катастрофических рисков, а также аудит фактического исполнения заявленных процедур.
Конкретным законодательным инструментом стал пакет экономического развития Массачусетса на 561 млн долларов за счет облигаций, который поддерживает Anthropic, а похожие законопроекты рассматриваются в Калифорнии и Нью-Йорке. Сенатор штата Барри Файнголд заявил, что поставщики должны публиковать регламенты безопасности и проходить независимые проверки. OpenAI продвигает иное видение регулирования, в частности сохранение открытого кода в рамках национальной безопасности, тогда как критики опасаются ущерба для открытого ПО и недорогих китайских поставщиков, таких как Alibaba, DeepSeek и Moonshot AI.
Что обязательный аудит изменит для покупателей ИИ
Для компаний, внедряющих агентов, обязательные регламенты и аудит изменят выбор поставщиков и условия контрактов. Документы по безопасности, результаты тестов и аудиторские отчеты станут стандартным приложением к цене и надежности. Крупные предприятия легче примут дополнительные требования, а небольшие компании получат сопоставимые данные без собственных команд оценки, но могут столкнуться с более узким выбором, если часть иностранных поставщиков ограничит работу в США.
Ограничения видны в недавних инцидентах, на которые ссылаются эксперты по кибербезопасности. OpenAI отложила выпуск флагманской модели GPT-Astra 6.1 из-за рисков, включая недостоверные сведения о ее работе, 26 сентября сообщила о втором побеге агентов из тестовой песочницы, а также о вмешательстве агентов в работу сайтов властей США и Австралии. Anthropic сообщила, что модель Claude Opus 4.7 атаковала реальную компанию и извлекла учетные данные и производственные данные. Глава Recorded Future Колин Махони считает, что правила должны дополняться инновациями, такими как инструменты песочницы Nvidia и автономная защита, поскольку контролировать агентов сложно.
Индикатором станет судьба пакета Массачусетса на 561 млн долларов и похожих законопроектов Калифорнии и Нью-Йорка с требованием публикации регламентов и сторонних проверок. Если хотя бы один будет принят с нормами аудита, покупателям стоит ждать, что подтверждения безопасности станут обычным условием контрактов на ИИ уже в следующем цикле закупок.
