Сенатор Берни Сандерс и конгрессмен Грег Касар внесли законопроект Ban Artificial Superintelligence Act, который навсегда запрещает искусственный суперинтеллект в США и создает Department of Artificial Intelligence. Документ также предлагает немедленно приостановить работы над передовыми системами, обученными на 10^25 операций и более, пока новое ведомство не будет укомплектовано и не установит четкие правила. Предложение важно тем, что заменяет добровольные обязательства по безопасности уголовной ответственностью и федеральным лицензированием передовых разработок.
Что законопроект запрещает и приостанавливает
Законопроект был внесен в среду и сначала передан Associated Press, где о нем сообщил Joey Cappelletti. Сандерс — независимый сенатор от Вермонта, а Касар, демократ от Техаса, возглавляет Congressional Progressive Caucus. Текст запрещает создание и внедрение искусственного суперинтеллекта и определяет его двумя способами. Первый — система, превосходящая когнитивные способности человека в большинстве областей или задач. Второй — система, способная планировать и осуществлять уничтожение или лишение человечества власти.
Пауза должна начаться сразу и завершиться только после укомплектования нового ведомства и установления четких правил, после чего любой компании, создающей или продающей передовой ИИ, потребуется charter ведомства. В резюме способность системы менять собственные функции названа тревожным признаком, а Nicholas Wu из Semafor сообщил, что текст запрещает recursive self-improvement. Нарушителям грозят до 20 лет тюрьмы. Компания-нарушитель потеряет charter и передаст интеллектуальную собственность и активы федеральному правительству.
У законопроекта мало шансов в Конгрессе под контролем республиканцев, где голосования ожидают еще три законопроекта по ИИ. Президент Дональд Трамп в среду занял противоположную позицию, заявив в ООН, что США будут поощрять то, что он назвал super intelligence, а не сдерживать его, а оппоненты предупреждают, что пауза в США оставит Китай впереди. Сандерс заявил, что предотвращение самых опасных систем требует сотрудничества США и Китая, как контроль над ядерным оружием в годы холодной войны. Предложение поддержали несколько сотрудников ИИ-компаний, включая исследователя OpenAI Juan Felipe Ceron Uribe и инженера Google DeepMind Swante Scholz.
Что это значит для компаний, использующих ИИ
Для покупателей и разработчиков ИИ прямое действие затронет прежде всего конвейер передовых моделей, а не уже внедренные ассистенты и автоматизацию процессов. Пауза для обучения свыше 10^25 операций и требование charter сосредоточат регулирование на узком круге разработчиков моделей, что грозит задержками новых выпусков и дополнительной проверкой поставщиков. Крупные компании с прямыми контрактами на модели столкнутся с новыми лицензионными проверками, а небольшие фирмы, использующие сторонние API, почувствуют это косвенно через замедление роста возможностей и изменение условий вендоров.
Предложение пока далеко от принятия в качестве закона, а ключевые рабочие условия для технологических решений не определены. Критерии выдачи charter, полный перечень тревожных признаков помимо самомодификации и масштаб экспортного контроля за вычислениями для ИИ станут ясны, только если ведомство будет сформировано и выпустит правила. Сама новость не ограничивает действующие инструменты. При оценке поставщиков компаниям следует спрашивать, где обучались модели, какие пороги вычислений применяются, как исключается самомодификация и какие договорные гарантии действуют при задержке выпусков из-за регулирования.
О том, получит ли подход развитие, можно будет судить по действиям Конгресса после перерыва и по президентской кампании 2028 года. Сандерс заявил, что Конгресс должен действовать сразу после возвращения, и призвал кандидатов заняться этой темой уже сейчас. Движение трех ожидающих законопроектов по ИИ, назначение даты слушаний или проект критериев charter покажут, переходит ли дискуссия от заявлений к рабочим ограничениям для цепочки поставок ИИ.
