Руководитель федеральных связей Anthropic Энтони Чимино ответил на утечку черновика федерального закона о безопасности ИИ после того, как версия документа попала в прессу. Черновик переводит идеи предложения Advanced AI Framework на язык законодательства и был направлен небольшому числу офисов Конгресса. Чимино назвал четыре спорных пункта, где формулировки можно улучшить. Этот эпизод важен, поскольку документ воспринимается как основа для федеральных переговоров в момент, когда политические условия для более строгих правил изменились.
Ответ Чимино на утечку черновика
По словам Чимино, федеральные политики сами попросили показать, как Advanced AI Framework может выглядеть в форме законопроекта, после месяцев продвижения этих идей. Документ назван рабочим материалом для обсуждения, который не включает все нормы, принятия которых компания хотела бы. Часть идей, включая тезисы из эссе Дарио Амодеи о темпах развития, отсутствует, поскольку компания еще прорабатывает возможность их перевода в политические формулировки. Критик считает, что распространение законопроекта в сентябре означает запрос именно таких условий, а не отдаленного идеала, поэтому выбранная основа вызывает тревогу.
Суть спора касается четырех положений, описанных в ответе: преемственность федерального закона над законами штатов, блокировка моделей через суд, пороги риска и обновления после летних инцидентов. По преемственности черновик сохраняет за штатами нормы о защите детей, законы о заявителях о нарушениях и общее право об ответственности, вводя федеральные стандарты раскрытия тестирования и отчетности об инцидентах. По блокировке Министерство торговли могло бы просить федеральный суд остановить модель с опасными возможностями и слабыми гарантиями на основе оценки независимого эксперта. По порогам формулировки прямо взяты из действующего закона Калифорнии.
Контекст включает Конгресс завершающегося созыва, где как минимум Палата представителей и, вероятно, Сенат скоро сменят состав, а также новые практические примеры, изменившие дискуссию. Критик приводит Hugging Face как наглядный случай работы высоких порогов, отмечая, что без ущерба на 1 миллиард долларов или гибели 50 человек ничего бы не сработало. Отдельный эпизод с Fable 5 назван внепроцедурным вмешательством, которое повредило отношениям с союзниками и доверию к американским технологиям. На этом фоне Meta тихо отозвала 25 миллионов долларов, выделенных на влияние на выборы в сфере ИИ, по данным журналиста Тедди Шлейфера.
Что это значит для корпоративного управления ИИ
Для компаний, создающих или закупающих передовые модели, федеральный стандарт на основе этого черновика сохранит фрагментацию соблюдения норм, несмотря на национальную вывеску. Раскрытие тестирования и отчетность об инцидентах могут стать более едиными, а стандарты экспертов, возможность отключения модели и ответственность частично останутся за штатами. Крупные лаборатории с юридическими командами справятся с параллельными требованиями разных юрисдикций, а небольшие поставщики и корпоративные заказчики столкнутся с неясностью, какие нормы штатов действуют при внедрении, мониторинге и документации. Закупочные чек-листы должны будут учитывать и федеральные filing, и требования отдельных штатов.
Процедура блокировки и пороги создают второй операционный риск: вмешательство может опоздать и зависеть от данных, недоступных покупателям. Чимино заявил, что суды должны применять значимый стандарт для защиты от злоупотреблений, действуя быстро в чрезвычайных ситуациях по аналогии с охраной труда или химическими рисками. Критик возражает, что риски передовых моделей могут быть необратимыми, поэтому механизм должен позволять сначала остановить модель, а затем разбираться в суде, тем более что выбранный лабораторией эксперт может быть единственным источником информации для государства. Компаниям не следует считать черновик ограничением ответственности или заменой полномочий нацбезопасности и экспортного контроля, а стоит спрашивать поставщиков о документировании внутреннего использования, выхода из-под контроля и выбора экспертов.
Индикатором станет то, ужесточит ли пересмотренный текст преемственность норм, снизит ли барьер для судебной остановки, пересмотрит ли пороги из Калифорнии и добавит ли правила против выбора удобных экспертов. Чимино сообщил, что в ближайшие месяцы готовятся обновления формулировок о преемственности, отчетности об инцидентах, независимых экспертах и вариантах корректировки общеотраслевых темпов разработки. Если следующий текст сохранит высокие пороги ущерба и жертв, а также судебный порядок блокировки, бизнес сможет считать федеральную инициативу продолжением прежнего курса с поправками, а не более строгим режимом.
