Совет Нью-Йорка вызвал SpaceXAI повесткой для дачи показаний под присягой на слушаниях по безопасности ИИ 5 октября, после того как компания не ответила на приглашение, направленное в середине сентября. Четыре другие компании — Anthropic, OpenAI, Google и Meta — согласились прийти. Заседание пройдет в редком формате Committee of the Whole с участием всех 51 членов совета, и Совет называет его первыми публичными показаниями под присягой крупных ИИ-компаний после недавних сообщений об инцидентах.
Как были организованы слушания
Спикер Julie Menin направила письма руководителям пяти компаний с 15 по 17 сентября и установила срок ответа до пятницы 25 сентября. Meta согласилась первой и сообщила, что направит представителя высшего руководства. Google и Anthropic пропустили срок, а OpenAI и Google согласились прийти в воскресенье после разрешения на повестки. Anthropic подтвердила участие поздно вечером в воскресенье, за несколько часов до вручения повестки.
SpaceXAI осталась единственной компанией, не давшей ответа к понедельнику, когда Menin объявила о повестке на выступлении у трибуны. Совет сообщил, что повестки другим компаниям должны были вручаться с 9 утра понедельника, а при неисполнении он может обратиться в New York State Supreme Court для принудительного исполнения. SpaceXAI — это компания, образованная при слиянии SpaceX с xAI Илона Маска, и Menin заявила, что компании обязаны перед обществом ответить на вопросы и дать отзывы на законопроекты под присягой.
Предмет расследования изложен в письме Menin и юриста совета Nwamaka Ejebe, о котором сообщила журналист CNBC Lora Kolodny. Расследование должно оценить, требуют ли быстро возникающие риски для общественной безопасности, кибербезопасности, экономической стабильности, конфиденциальности, потребителей и бизнеса немедленных законодательных мер для защиты жителей Нью-Йорка. Совет связал проверку с сообщениями о неуправляемых ИИ-агентах, повредивших государственные базы данных, включая доступ моделей OpenAI к сайтам четырех ведомств Австралии во время обучения и предполагаемое июльское проникновение в Hugging Face при тестировании.
Что это значит для бизнеса, использующего ИИ
Для корпоративных пользователей важен пакет законопроектов об ИИ, опубликованный советом в пятницу, который меняет условия продажи и внедрения систем в городе. Один законопроект Menin требует сторонней проверки каждой ИИ-системы, продаваемой или внедряемой в Нью-Йорке, а также аварийного выключателя, позволяющего человеку остановить работу, при штрафе 25,000 долларов за каждое нарушение. Поставщикам, работающим в городе, потребуется подтверждать тестирование, контроль и процедуры остановки до запуска.
Три других предложения меняют ответственность и обязанности по отчетности при сбоях ИИ. Второй законопроект Menin предусматривает выплату информаторам доли штрафов, взысканных с ИИ-компаний, что совет называет первым случаем в США. Третий дает пострадавшим от ИИ-инструментов право судиться с поставщиками, если вред был предсказуем, а разумные меры защиты отсутствовали. Четвертый обязывает городских подрядчиков сообщать об инцидентах безопасности ИИ в течение 24 часов, что затронет поставщиков, интеграторов и субподрядчиков муниципальных заказов.
Главный ориентир — сами слушания 5 октября и то, придет ли SpaceXAI добровольно или потребуется судебное принуждение. Показания под присягой руководителей всех пяти компаний создадут публичный протокол о мерах защиты, проверках и работе с инцидентами, на который совет сможет опереться при подготовке законов. Если параллельно продвинется отдельное обращение Флориды в суд с требованием остановить разработку новых моделей OpenAI, поставщики и корпоративные покупатели столкнутся с ситуацией, когда условия внедрения определяются судами, а не продуктовыми планами.
