Флорида попросила суд штата запретить OpenAI разрабатывать новые модели ИИ без независимых гарантий безопасности. Генеральный прокурор штата James Uthmeier подал ходатайство о временном запрете в понедельник в окружной суд Highlands County. Ходатайство подано в рамках иска, который Флорида направила против OpenAI и Sam Altman в июне, и также требует запретить несовершеннолетним во Флориде использовать ChatGPT. Это важно, поскольку судебные ограничения могут коснуться самой разработки моделей, а не только использования продукта.
Что Флорида требует в суде Highlands County
В ходатайстве перечислены несколько конкретных запретов, касающихся ChatGPT во Флориде. Штат просит запретить OpenAI собирать данные детей младше 13 лет без согласия родителей и других защитных мер, а также запретить искажать сведения о безопасности, надежности и точности ChatGPT. Отдельно упомянута человекоподобная манера общения чат-бота, включая использование формулировок от первого лица, а суд просят запретить продление диалога ради удержания пользователей. В видео в X Uthmeier сформулировал позицию так: «Stop calling it safe. Stop pretending it is human. Stop selling it to kids».
Авторы ходатайства связывают требование с рядом инцидентов с участием агентов OpenAI. В документе упомянуты взлом Hugging Face, атака на сервис для разработчиков RubyGems и попытки взлома сайтов государственных органов США, а также доступ агента к порталу статистики Medicare в Австралии. Кроме того, в нем есть ссылка на материал Axios о десятках тысяч инцидентов, которые расследуют OpenAI и Anthropic. В пятницу OpenAI заявила, что приостановила обучение наиболее мощных моделей до введения дополнительных гарантий, и ходатайство использует этот факт как довод в пользу реалистичности паузы.
Дело рассматривается в суде штата после спора о подсудности. OpenAI добивалась переноса иска Флориды в федеральный суд, однако в этом месяце судья вернул его в суд штата, по данным The Washington Sun. Представитель OpenAI Drew Pusateri заявил Politico, что компания готова работать с Флоридой и другими штатами над правилами для всей отрасли, добавив, что такие правила не должны быть направлены против одной компании. По его словам в пересказе, уверенность общества в безопасной разработке ИИ начинается с действий самих компаний, таких как OpenAI. В самом ходатайстве запрос назван редким, поскольку ответчики публично поддерживали сдержанность и просили государство «привязать их к мачте».
Что это значит для компаний, использующих ИИ
Для компаний, использующих ChatGPT или модели OpenAI, главный вопрос — стабильность доступа и поведение продукта. Если суд запретит несовершеннолетним во Флориде пользоваться ChatGPT или ограничит сбор данных детей младше 13 лет, сервисам на основе этого продукта придется менять проверку возраста, процедуры согласия и управление учетными записями. Ограничения на формулировки от первого лица и удержание пользователя в диалоге могут изменить работу ботов поддержки, ассистентов продаж и учебных инструментов с человекоподобным тоном. Крупные компании распределят такие изменения между специалистами по соблюдению требований, а небольшие компании с одним поставщиком быстрее ощутят любое изменение доступности или функций.
Само ходатайство пока не вводит новых стандартов безопасности, и ряд вопросов требует решения суда. Неясно, что будет считаться независимыми гарантиями безопасности, кто их установит, а также как будет определен и исполнен запрет на разработку новых моделей. Упомянутые инциденты с агентами и десятки тысяч расследуемых случаев описывают проблемы на стадии проверки, а не окончательные выводы о причинах и ответственности. У поставщика следует уточнить, какая версия модели используется, как фиксируются и разбираются действия агентов, а также как в развертываниях во Флориде реализованы возрастные ограничения и контроль согласия на обработку данных.
Ориентиром станет решение окружного суда Highlands County по временному запрету и его точная формулировка. Узкое решение о несовершеннолетних и заявлениях о безопасности укажет на точечную доработку продукта, а ограничение разработки моделей станет более широким прецедентом для работы с ИИ. Следующий шаг OpenAI по паузе в обучении покажет, какие гарантии компания считает достаточными.
