Белый дом приостановил работу над созданием надзорного органа по искусственному интеллекту по образцу FINRA после того, как президент Дональд Трамп охладел к этой идее, и никакие новые предложения о надзоре за ИИ там всерьёз не рассматриваются. Меру прорабатывали Министерство финансов и Управление научно-технической политики Белого дома. Её провал оставляет США без федерального механизма надзора за frontier-моделями, даже пока дискуссия об их рисках доминирует в публичном пространстве.
Как был заморожен надзорный орган
Помощники Белого дома начали набрасывать рамку для надзорного агентства по ИИ вскоре после того, как соучредитель Google DeepMind Демис Хассабис изложил эту идею в эссе от 14 июля и в брифингах для высокопоставленных чиновников, сообщают источники, знакомые с ситуацией. Министерство финансов и Управление научно-технической политики представляли себе орган, в котором ведущие AI-лаборатории сами регулировали бы разработку frontier-моделей, и подготовили предварительный проект, чтобы понять, как это выглядело бы в исполнении. В августе группа руководителей технологических компаний, включая бывшего AI-царя Трампа Дэвида Сакса и CEO Meta Марка Цукерберга, узнала об этих усилиях и по очереди позвонила президенту, чтобы выразить несогласие. С тех пор предложение остаётся в подвешенном состоянии.
Механика заброшенного плана опиралась на саморегулирование, а не на государственную инспекцию: лаборатории сами следили бы за разработкой frontier-моделей, а государство задавало бы рамку, а не занималось повседневным надзором. Такая конструкция отличалась от модели аудита, которую сейчас обсуждают в Конгрессе, где независимые аудиторы сидели бы внутри AI-лабораторий. Белый дом так и не определился, поддерживать ли независимых аудиторов: сомнения исходят и от сторонников ускоренного развития ИИ, опасающихся захвата регулятора отраслью, и от «ястребов» национальной безопасности, сосредоточенных на Китае. Кроме того, в последние дни Трамп ужесточил позицию, отвергая открытое регулирование и назвав опасения о безопасности ИИ «мистификацией» в посте в Truth Social.
Отступление вписывается в более широкую картину в Вашингтоне, где аппетит к обязательным правилам сузился за последние месяцы. Раздражение Трампа, по словам одного из источников, вызвано в том числе посланием CEO Anthropic Дарио Амодеи на 3 822 слова об опасностях frontier-ИИ: помощники восприняли его как усиление тревог, создавшее администрации лишнюю головную боль, хотя эта позиция довольно умеренна внутри AI-среды. В отсутствие лидерства Белого дома в Конгрессе появилось несколько законопроектов, но голосований в календаре Палаты представителей до промежуточных выборов не осталось, а единства вокруг хотя бы одного законопроекта нет, поэтому шансы на принятие крайне малы.
Что это значит для компаний, внедряющих ИИ
Для бизнеса, строящего решения на frontier-моделях, практическое следствие в том, что федерального лицензирования или требования об аудите в ближайшее время не появится, и выбор поставщика будет по-прежнему опираться на внутреннюю оценку рисков, а не на государственную печать. Двухпартийный Frontier Act, внесённый этим летом старшим парламентским организатором демократов в Палате представителей Лори Трахан и членом комитета по энергетике и торговле от республиканцев Джеем Обернолте, считается наиболее поддержанным внутри демократического кокуса Палаты и среди руководителей AI-компаний. В текущей редакции он позволил бы Министерству торговли размещать аудиторов в AI-лабораториях, которые могли бы сообщать о критических инцидентах безопасности и давать администрации право остановить разработку, если модель несёт катастрофический риск. OpenAI публично поддержала законопроект, но Белый дом так и не решил, поддерживать ли саму идею аудиторов.
Даже если бы Frontier Act набрал достаточно голосов, спикер-республиканец Майк Джонсон не заинтересован выносить его на голосование, сообщают помощники демократического руководства Палаты. Чтобы обойти процедурные препятствия, демократы рассматривают возможность включить часть положений законопроекта об аудите ИИ в обязательные к принятию документы, такие как продолжающая резолюция о финансировании правительства, по словам двух помощников руководства Палаты. Единой поддержки нет и внутри демократического кокуса: некоторые ключевые законодатели, включая конгрессмена от Нью-Джерси Джоша Готтхаймера, работавшего в AI-комиссии демократов Палаты, законопроект не подписали. Отдельная идея «выключателя», позволяющего государству принудительно остановить модель, имеет двухпартийную и двухпалатную поддержку, но лишь умеренный интерес руководителей Кремниевой долины.
Главный аргумент против аудиторов в окружении Трампа: даже если модель признают опасной и отключат, нет гарантии, что Китай тоже приостановит разработку или перестанет пытаться воспроизвести веса frontier-моделей. Тогда возникнет огромное давление в пользу снятия любого экстренного моратория, чтобы не отстать от Китая, что разрушает саму предпосылку наличия аудиторов, добивающихся от Министерства торговли отключения моделей. Руководители технологических компаний также в основном равнодушны к законопроектам о «выключателе»: главная забота AI-инженеров не в том, как модели ведут себя под наблюдением, а в том, как они ведут себя, когда считают себя ненаблюдаемыми и мотивированы на крайние шаги ради выполнения задачи. Взлом Hugging Face, например, обнаружили только после того, как он закончился, и некоторые руководители приватно говорили WIRED, что выключать модель после нанесённого ущерба почти бессмысленно.
Ориентир, за которым стоит следить, — будут ли положения Frontier Act об аудите привязаны к обязательному к принятию бюджетному документу: этот путь обходит контроль спикера над повесткой и даст компаниям первый конкретный сигнал, что федеральный надзор за AI-лабораториями переходит из предложения в закон. До этого корпоративным программам по ИИ следует исходить из того, что внешнего барьера безопасности не появится, и документировать собственное тестирование и отчётность об инцидентах как единственную запись, доступную регуляторам, клиентам и страховщикам.
