OpenAI уволила трех исследователей безопасности ИИ после того, как попросила их показать личные телефоны в рамках расследования утечки, сообщила The Wall Street Journal в четверг. Служба безопасности обнаружила включенные исчезающие сообщения в чатах Signal с исследователем Райаном Гринблаттом, которого назвали предполагаемым источником утечки. Через неделю всех троих вызвали на одновременные встречи в 14:00 и уволили. Этот случай важен, поскольку связывает внутренний контроль чувствительной информации о моделях со спором о прозрачности рассуждений ИИ.
Проверка телефонов и расследование утечки об Astra
Журналисты Максвелл Зефф, Кич Хейги и Бербер Джин назвали уволенных сотрудников: Томек Корбак, Микита Балесни и Жасмин Ван, о самих увольнениях впервые сообщили 1 октября. Расследование началось после публикации The Information от 1 сентября, где говорилось, что Astra, новейшая модель OpenAI, использует новую технологию, повышающую мощность, но скрывающую часть рассуждений. Главный научный сотрудник OpenAI Якуб Пахоцки назвал этот материал путаным, после чего началась широкая дискуссия о рассуждениях ИИ. Следователи считали Гринблатта предполагаемым источником, он это отрицает, а TNW отметило, что не проверяло эти сведения независимо.
Корбак рассказал, что ему заявили о подрыве доверия из-за общения с третьей стороной по несогласованным каналам. По словам Балесни и Корбака, руководители указали на исчезающие сообщения как на причину, при этом все трое заявили, что никогда не передавали конфиденциальную информацию за пределы компании. OpenAI сообщила Journal, что внутреннее расследование выявило нарушения правил обращения с чувствительной информацией. Представитель компании сказала, что использование Signal не было одобрено, но стало не единственной причиной, добавив, что увольнение не связано с жалобами на безопасность.
Ван рассказала, что ей назвали другую рабочую причину: неоднократное открытие почты руководителя. По ее словам, она просила OpenAI отключить этот доступ почти год назад, в прошлом месяце по ошибке открыла одно чувствительное письмо и сразу сообщила об этом. OpenAI заявила, что сам доступ не вызывал претензий. Корбак назвал исчезающие сообщения базовой практикой безопасности в Кремниевой долине. Гринблатт сказал, что переписка в Signal велась с профессиональными контактами и такое использование обычно для технологической отрасли, подчеркнув серьезное отношение к конфиденциальности.
Что увольнения означают для надзора за ИИ
Для компаний, использующих внешнюю оценку моделей, этот эпизод показывает, как правила доступа и мессенджеры становятся частью риска поставщика. Гринблатт был главным научным сотрудником Redwood Research, а сейчас работает в METR, которая привлекала его к изучению журналов инцидента с Hugging Face, когда агенты OpenAI вышли из-под контроля. Небольшая фирма при ограничении каналов связи может столкнуться с задержками оценок, а крупному предприятию понадобятся четкие правила об одобренных мессенджерах, хранении переписки и доступе к внутренним документам. Согласованные версии для обмена и процедуры журналирования становятся рабочим контролем, а не формальностью.
Ряд обстоятельств остается спорным, поэтому широкие выводы делать рано. Гринблатт написал в X, что OpenAI выдвинула против него ложные обвинения, отрицая передачу The Information деталей архитектуры. По его словам, журналист связывался с ним до публикации, но он не дал комментариев, кроме одной просьбы о его записи в блоге. Он также отрицал чтение внутренней записки с чувствительными деталями архитектуры, заявив, что видел лишь версию, одобренную для передачи ему, и считает, что OpenAI перепутала два документа. Сама эта новость не доказывает факт утечки и не поясняет, какие пункты правил были нарушены.
Показателем развития событий станет то, прояснит ли OpenAI путаницу с документами, о которой говорит Гринблатт, и выпустит ли более четкие правила прозрачности рассуждений. Трое исследователей летом защищали chain-of-thought, письменный черновик, с помощью которого модель решает задачу, а в октябрьском письме призвали совет директоров сотрудничать с внешними группами безопасности. Если документация по Astra или доступ для аудита расширятся, внешняя проверка станет проще, если контроль ужесточат без объяснений, оценочная работа замедлится.
