Уволенные исследователи безопасности OpenAI Томек Корбак, Микита Балесни и Жасмин Ванг утверждают, что им письменно не сообщили, какие конфиденциальные данные они якобы раскрыли. Все трое были уволены одновременно после внутренней проверки обращения с чувствительной информацией, причем каждый до увольнения публично говорил о рисках ИИ. Этот спор важен, поскольку он способен отпугнуть независимых аудиторов безопасности от сотрудничества с компаниями в сфере ИИ.
Чаты в Signal и публикация об Astra
По данным Wall Street Journal, служба безопасности OpenAI заподозрила троих в передаче внешнему исследователю деталей внутренней архитектуры моделей. Проверяющие попросили разблокировать личные телефоны, где обнаружили чаты в Signal с включенными исчезающими сообщениями. В OpenAI заявили, что Signal не входит в число разрешенных инструментов коммуникации, но не стал причиной увольнений, а Корбак назвал исчезающие сообщения обычной практикой безопасности в Кремниевой долине.
Проверка началась после публикации The Information от 1 сентября о том, что новая модель OpenAI под названием Astra стала способнее, но меньше раскрывает процесс рассуждений. Главный научный сотрудник Якуб Пахоцки назвал эту публикацию путаной в X, хотя ранее сам предупреждал об отраслевой гонке к моделям, которые уже нельзя контролировать. Через несколько недель OpenAI начала внутреннюю проверку утечек, причем проверяющие назвали предполагаемым получателем Райана Гринблатта, тогда главного научного сотрудника Redwood Research. Гринблатт отрицает передачу конфиденциальной информации журналистам.
В центре спора находится chain of thought, внутренний черновик, где рассуждающие модели фиксируют промежуточные шаги решения задачи. Компании и исследователи безопасности используют эти записи, чтобы понять, как модели приходят к решениям. В статье 2025 года Балесни, Корбак и Ванг вместе с исследователями нескольких лабораторий ИИ призвали сохранить доступ к таким записям. Вопрос обострился летом на фоне обсуждения моделей, которые думают дольше, но записывают меньше промежуточных шагов, причем Балесни внутренне распространил связанное предложение Гринблатта.
Что конфликт значит для внешнего аудита ИИ
Для компаний, опирающихся на внешнюю проверку систем ИИ, это дело меняет условия сотрудничества с поставщиками моделей. Независимые аудиторы и корпоративные заказчики зависят от доступа к записям рассуждений, отчетам аудита и разбору инцидентов для оценки рисков перед внедрением. Корбак, Балесни и Ванг контактировали с Гринблаттом при анализе инцидента с участием агентов OpenAI и Hugging Face, для независимого расследования которого METR наняла Гринблатта. Если такие контакты ведут к проверкам утечек, крупные заказчики могут получить более узкий объем аудита и медленный разбор инцидентов, а небольшие компании лишатся общего источника экспертизы безопасности.
Ряд фактов остается неустановленным и требует прямой проверки у поставщика. Ванг столкнулась с отдельным обвинением в неоднократном доступе к почте руководителя, причем она утверждает, что еще почти год назад просила отозвать этот доступ, а чувствительное письмо открыла случайно, не распространяла его и сразу сообщила об инциденте. В OpenAI заявляют, что сам доступ не был проблемой. Отдельно сотрудники METR и Redwood Research выявили многочисленные пробелы безопасности при выездном аудите, однако OpenAI отредактировала почти половину итогового отчета, затем опубликовала собственный отчет о новой архитектуре безопасности без доступа в интернет и сообщила об устранении проблем.
Показателем развития станет то, объявит ли OpenAI несколько новых внешних партнерств, которые она обещала, и какой доступ эти партнеры получат к записям рассуждений и неотредактированным выводам аудита. Обучение, по сообщениям, возобновилось в начале октября после исправлений. Если новые соглашения вернут детальный доступ к записям и право независимой публикации, внешний контроль сохранит рабочие инструменты; если доступ останется ограниченным, контроль передовых рассуждающих моделей будет поддерживать сложнее.
