Сэм Альтман заявил, что OpenAI повторит обязательство Anthropic предоставлять независимым оценщикам доступ уровня сотрудников, — через день после того, как Дарио Амодеи призвал отрасль замедлиться и запросил у Вашингтона узкое антимонопольное исключение, чтобы конкуренты могли координироваться. «Я согласен с Дарио, что нам нужно задать темп фронтиру», — написал Альтман, о чём сообщил Axios. Публичное совпадение позиций двух крупнейших фронтирных лабораторий в течение 24 часов важно потому, что это первое общее обязательство по безопасности, о котором отрасль договорилась открыто.
О чём договорились две лаборатории
Альтман назвал независимых оценщиков с доступом уровня сотрудников отличной идеей, сказал, что OpenAI поступит так же, и пообещал вскоре поделиться подробностями. Он добавил, что темп развития был главной темой обсуждений внутри OpenAI в последние недели. Илон Маск, возглавляющий xAI, высказался короче: «Дарио прав», — написал он. Эссе Амодеи, опубликованное в субботу, призывало фронтирные лаборатории пустить внешние команды проверять их работу по безопасности изнутри офисов. Собственная версия Anthropic даёт оценщикам рабочие места, пропуска, корпоративные ноутбуки и право публиковать то, что они найдут.
Именно механика делает обязательство конкретным. Доступ уровня сотрудников означает, что внешняя команда работает на территории лаборатории, на её оборудовании, с теми же правами доступа к системам, что и штат, и сохраняет право публиковать выводы без правок со стороны лаборатории. Амодеи представил это как первую ступень плана из трёх шагов. Второй элемент — узкое антимонопольное исключение, которое он запросил у Вашингтона, чтобы конкуренты могли вести разговоры о безопасности и сами эти разговоры не становились юридической проблемой. Государствам не обязательно участвовать, писал он, достаточно разрешить обсуждения.
Европе нечего предоставлять, потому что Брюссель отменил индивидуальные исключения в 2004 году. Комиссия перестала их выдавать, когда вступил в силу Regulation 1/2003; до этого компании уведомляли Брюссель о своих соглашениях и ждали. Теперь конкуренты сами оценивают свои договорённости на соответствие Article 101 и живут с результатом. Вместо исключений у Европы есть прецедент: в 2023 году она переписала руководящие принципы горизонтального сотрудничества, расширив их с 72 до 167 страниц, включая главу на 21 страницу о соглашениях по устойчивому развитию с мягким безопасным убежищем для стандартов, отвечающих шести условиям.
Что это значит для компаний, внедряющих ИИ
Для бизнеса, покупающего ИИ-системы, практическое следствие — новый источник документации. Если оценщики с доступом уровня сотрудников публикуют находки, закупочные команды получают сторонние свидетельства о поведении моделей, а не маркетинговые материалы вендора. Это меняет вопросы, которые может задать покупатель: не только что делает модель, но и кто её проверял и на каких условиях. Небольшая компания будет в основном воспринимать такие отчёты как сигнал при выборе между поставщиками; крупная с собственной функцией комплаенса сможет встроить их в существующие проверки рисков и опросники для вендоров.
Новость не означает, что правила безопасности устоялись. Исключения, о котором просил Амодеи, пока нет, и ни его эссе, ни ответ Альтмана не упоминают Европу. Технический руководитель Комиссии на прошлой неделе заявил, что нужны глобальные правила, но эквивалентной главы о стандартах безопасности в руководствах ЕС нет, и никто её не запрашивал. Для компании, принимающей решение о закупке, условия для проверки уже: могут ли оценщики вендора публиковать результаты без согласования, закреплён ли доступ договором или он добровольный и что произойдёт, если выводы окажутся неудобными.
Следить стоит за тем, появятся ли обещанные подробности от OpenAI и подхватят ли практику другие фронтирные лаборатории. Две крупнейшие лаборатории уже публично согласовали общее обязательство за день — это первая ступень плана Амодеи; вторая зависит от регулятора, который пока не действовал. Если третья лаборатория примет те же условия доступа, практика станет отраслевым стандартом, который покупатели смогут ожидать в контрактах. Если обязательство останется заявлением без опубликованных выводов, оно останется сигналом о намерениях, а не условием, на которое бизнес может опереться.
