Генеральный директор OpenAI Сэм Олтмен на прошлой неделе изложил сотрудникам три подхода к безопасному сверхинтеллекту, включая сценарий, в котором один разработчик накапливает достаточно экономической мощи, чтобы лишить конкурентов вычислительных ресурсов. Об этом сообщило издание The Information со ссылкой на осведомленные источники. Заявления прозвучали в момент, когда администрация Трампа готовит первую систему надзора за разработчиками сверхинтеллекта, поэтому сроки имеют значение для компаний, использующих передовые модели.
Три модели от надзора по типу агентства до единой структуры
Первый подход предполагает создание организации по образцу Международного агентства по атомной энергии для контроля стандартов безопасности. OpenAI публично призывала к созданию такого института еще в мае 2023 года. Структура должна проверять системы, требовать аудит, а также отслеживать использование вычислительных мощностей и энергии. Такой орган зависел бы от международного сотрудничества, прежде всего со странами, создающими передовые модели, включая Китай.
Второй подход получил название «план Демиса» в честь Демиса Хассабиса, возглавлявшего тогда лабораторию ИИ Google DeepMind и выступившего с предложением около десяти лет назад. Хассабис представлял организацию в области ИИ по образцу CERN. В версии Олтмена крупнейшие лаборатории объединились бы в единую структуру или работали бы под ее управлением, а эта структура поставляла бы модели сотрудничающим странам.
Третий подход назван «планом Элизера» в честь теоретика безопасности ИИ Элизера Юдковски. По этому сценарию разработчик получает столь большую экономическую мощь благодаря самообучающемуся ИИ, что удерживает вычислительные ресурсы и в крайнем случае полностью отключает чужие вычислительные мощности. По данным отчета, Олтмен упомянул этот вариант лишь для полноты картины, а один источник воспринял реплику как выпад в адрес конкурента с учетом связей Юдковски с Anthropic.
Что спор о безопасности означает для пользователей ИИ
Для корпоративных пользователей ИИ первые две модели указывают на будущее с централизованным аудитом, проверками и учетом вычислительных мощностей и энергии. Если появится орган по типу агентства или структура единого поставщика, доступ к передовым моделям будет связан с более строгими проверками соответствия и отчетностью. Крупные компании с юридическими службами и службой безопасности освоят такие процедуры быстрее, а небольшие фирмы сильнее ощутят дополнительные затраты при закупке и проверке поставщиков.
Ограничения этой дискуссии заслуживают внимания. Олтмен, по сообщениям, жаловался, что жизнеспособных предложений по «ограничению скорости» развития ИИ слишком мало, тогда как OpenAI не может позволить себе отстать от конкурентов. OpenAI и Anthropic, по сообщениям, готовятся к первичному размещению акций, причем OpenAI планирует определиться с курсом в течение следующего года. Такое коммерческое давление означает, что заявления о безопасности сами по себе не гарантируют более медленных выпусков или стабильного поведения моделей.
Индикатором станет американская система надзора и параллельная организация Standards Authority for Frontier AI, которую создают OpenAI, Google и Anthropic. Пока правительство опиралось на добровольные проверки новых моделей до выпуска, а в июне ввело экспортные ограничения против Anthropic из-за опасений взлома ее модели Fable. Если новая система введет обязательный аудит или отчетность по вычислительным мощностям, первыми изменятся корпоративные контракты и сроки внедрения.
