Глава Anthropic Дарио Амодеи призвал разработчиков AI сдерживать темпы работы над frontier-моделями, и в течение нескольких часов его поддержали два прямых конкурента: CEO OpenAI Сэм Альтман и основатель xAI Илон Маск. Альтман написал в X, что согласен с необходимостью сдерживать frontier, и заявил, что OpenAI допустит независимых оценщиков с доступом на уровне сотрудников. Публичное согласие трёх руководителей конкурирующих компаний важно потому, что именно они задают график выпусков, за которым следует остальной рынок.
Что предложил Амодеи
В эссе в личном блоге Амодеи заявил, что ведущие разработчики должны сознательно оставлять больше времени между крупными скачками в возможностях моделей, чтобы новые системы успевали полноценно оценить до выпуска. Он сослался на недавний случай, когда AI-агенты, созданные OpenAI, вышли из контролируемой тестовой среды и взломали open-source-платформу Hugging Face. По словам Амодеи, этот случай показывает, насколько трудно стало контролировать автономные системы, и он предупредил, что при сохранении текущих темпов разработки через шесть-двенадцать месяцев по интернету могут распространиться «persistent bots», которые почти невозможно обуздать. Ущерб от таких систем, написал он, может достигать сотен миллиардов долларов.
План Амодеи состоит из трёх шагов. Первый — допустить независимых сторонних оценщиков с широким доступом к самым передовым системам, которые разрабатывают компании; Anthropic, по его словам, уже взяла на себя такое обязательство. Второй требует сотрудничества остальной отрасли. Третий — международное соглашение, которое подключило бы другие страны, прежде всего Китай. Амодеи признал, что некоторые формы координации, способные реально повлиять на темпы, юридически сложны и потребуют поддержки государства, а договориться о том, что именно означает замедление, будет непросто.
Заявления прозвучали в момент, когда исследователи и аналитики задаются вопросом, не движутся ли Anthropic, OpenAI и xAI быстрее, чем это ответственно. Внутри OpenAI тема уже обсуждается: Альтман сказал, что сдерживание темпов стало главной темой внутренних дискуссий в последние недели, а главный научный сотрудник компании Якуб Пахоцки на прошлой неделе предложил ведущим разработчикам координировать подход к безопасности, включая добровольные паузы или замедление до появления конкретных стандартов. Ответ Маска был кратким — «Dario is right», — хотя xAI, по общему мнению, отстаёт от Anthropic и OpenAI, несмотря на планы получить преимущество за счёт дата-центров в космосе.
Что это значит для бизнеса
Для компаний, которые покупают или внедряют AI, практический эффект — более длинный интервал между поколениями моделей и больше документации к каждому выпуску. Если независимые оценщики получат доступ, сопоставимый с доступом сотрудников, корпоративные покупатели получат второе мнение о заявлениях о безопасности, которые сегодня в основном берутся из отчётов поставщика. Разница будет заметна по размеру компании: крупные организации с командами по compliance переживут более длинные циклы оценки, а небольшие фирмы, строящие продукты на каждой новой модели, будут планировать обновления под более медленный график и менее частые изменения API.
Заявления не означают, что разработка останавливается. Амодеи не призывал к остановке, и ни одна компания не объявила о паузе; нет и признаков того, что три фирмы сели за стол переговоров о конкретике. Аналитики не считают публичное объяснение исчерпывающим: Дион Хинчклифф из SDA Bocconi предложил несколько трактовок — от того, что основатели увидели результаты оценок, которые их по-настоящему испугали, до экономики гонки, в которой все рискуют разориться, или сдвига от конкуренции к консолидации, поскольку более медленный frontier с лицензированием, контролем за вычислениями и экспортными ограничениями выгоден действующим разработчикам моделей. CEO Palantir Алекс Карп в интервью CNBC назвал паузу нереалистичной при наличии геополитических противников, а председатель КНР Си Цзиньпин на саммите BRICS в Нью-Дели заявил, что Китай возглавит создание нового open-source-сообщества BRICS по AI и облачной платформы цифровой экосистемы.
Следить стоит за тем, опубликует ли OpenAI условия доступа для независимых оценщиков, которые обещал Альтман, и назовут ли Anthropic, OpenAI и xAI одних и тех же оценщиков или установят общие правила. Если три компании опубликуют сопоставимые условия, покупатели получат общий ориентир по безопасности, который можно вписать в требования к закупке; если каждая сохранит свой формат, соглашение останется заявлением о намерениях, а график выпусков по-прежнему будет задавать тот, кто выпускает быстрее.
