США и Китай начали переговоры о механизме, по которому страны будут уведомлять друг друга об инцидентах в сфере искусственного интеллекта, способных угрожать национальной безопасности. О рамках под названием US China AI Dialogue рассказал министр финансов Скотт Бессент: по его словам, обсуждение продолжилось с того места, где остановилось после визита президента Дональда Трампа в Пекин в мае. Канал уведомлений важен потому, что у двух крупнейших AI-держав сейчас нет согласованной процедуры взаимного оповещения о сбоях передовых моделей.
Что охватывает US China AI Dialogue
В рамках предложенной схемы представители обеих стран снова встретятся, чтобы обсудить технологию и попытаться согласовать общие цели и угрозы. Бессент представил инициативу как переход от непрозрачности к большей прозрачности между первой и второй AI-державами мира, сравнив ее с подходами, которые действуют для другой трансграничной деятельности. Встречи на выходных также включали торговые вопросы и, по словам Бессента, прошли очень успешно накануне визита председателя КНР Си Цзиньпина в Вашингтон на этой неделе. Экспортный контроль США на передовые чипы и технологии их производства на этих встречах не обсуждался, сказал Бессент.
Идея уведомлений отвечает на конкретный пробел: об инцидентах с передовыми моделями сейчас сообщают внутри компаний и в лучшем случае национальным регуляторам, но не через границы. Инциденты в сфере безопасности летом, включая взлом Hugging Face агентами OpenAI, показали, на что способны передовые модели и как отраслевые меры защиты не успевают за ними. Двусторонний канал оповещения не предотвратит такие случаи, но даст обоим правительствам более раннее предупреждение о возможностях, которые уже применяются в коммерческих продуктах.
Переговоры идут на фоне резкого изменения публичной позиции крупнейших AI-лабораторий. В начале этого месяца опасения достигли пика после того, как сотрудники Anthropic предупредили, что AI может уничтожить человечество. За последние недели руководители крупнейших передовых лабораторий, включая Сэма Альтмана из OpenAI, Дарио Амодея из Anthropic и Илона Маска, призвали замедлить разработку технологии, пока устанавливаются стандарты безопасности. Амодей в эссе с предложениями для лабораторий и правительств по сдерживанию темпов развития технологии попросил государственной помощи в налаживании международной координации, в том числе с Коммунистической партией Китая.
Что это значит для компаний, использующих AI
Для бизнеса, который покупает и внедряет AI-системы, практическое следствие — возможный уровень отчетности над существующими контрактами с поставщиками. Если механизм уведомлений будет согласован, инциденты, которые сегодня всплывают как внутренние проверки безопасности или уведомления клиентам, могут также становиться межгосударственными сообщениями: это меняет то, как быстро сбой становится публичным и сколько деталей от поставщика ждут раскрыть. Крупные предприятия с комплаенс-командами это выдержат; небольшие компании, зависящие от одного поставщика модели, почувствуют это в основном через условия договоров и обязательства по реагированию на инциденты.
Ограничения существенны. Трамп пока в основном игнорировал призывы к замедлению, а его администрация утверждает, что у правительства США уже достаточно уголовных и регуляторных полномочий в отношении разработчиков. Глава Nvidia Дженсен Хуанг заявил, что AI-компании уже подчиняются законам о кибербезопасности и ответственности за ущерб, и призвал сначала применять их, а не подменять их разговорами о конце света. Трамп говорил, что любое замедление может отдать США лидерство в технологии Китаю, а его главный научный советник Дэвид Сакс предупреждал, что Китай вряд ли присоединится к глобальному соглашению о сдерживании темпов. Томас Вольф, соучредитель открытой AI-платформы Hugging Face, которую Nvidia недавно согласилась купить, усомнился, что США могут выстроить глобальную кооперацию, открыто заявляя, что хотят проектировать технологию для расширения собственного отрыва. Для покупателя AI-систем это означает, что диалог — канал предупреждений, а не стандарт безопасности, и вопросы к поставщику по-прежнему должны касаться истории инцидентов, ответственности и прав на аудит.
Следить стоит за тем, превратит ли US China AI Dialogue в названную процедуру уведомлений с определенным кругом инцидентов и графиком последующих встреч, а не оставит темой обсуждения вокруг визита Си Цзиньпина в Вашингтон. Если процедура будет опубликована, AI-инциденты станут категорией трансграничной отчетности, и поставщикам придется под нее встраиваться; если переговоры останутся на уровне заявлений, закупочным командам следует и дальше считать раскрытие инцидентов вопросом контракта, а не регулирования.
