Генеральный директор OpenAI Сэм Альтман заявил, что испытывает сильный дискомфорт, когда люди приписывают моделям ИИ религиозную силу или отказываются от собственного суждения в их пользу, назвав такую практику реальной проблемой безопасности. Заявление контрастирует с его же формулировками 2023 и 2024 годов о создании "magic intelligence in the sky" и важно потому, что некритичное доверие меняет подход компаний к внедрению ИИ-агентов в продажах и операциях.
Смена тона после материала об Anthropic
Альтман высказался после подробного материала New York Times о контактах Anthropic с религиозными лидерами и заявления Папы Льва XIV о том, что алгоритмам недостает искры человечности. OpenAI также проводила переговоры с религиозными лидерами, поэтому дискуссия затрагивает обоих ведущих разработчиков моделей, а не одну компанию. Для бизнеса последовательность событий показывает, что вопросы веры, авторитета и доверия перешли из публицистики в сферу управления продуктами.
Нынешняя позиция строится на различии между очеловеченным взаимодействием и приписываемым авторитетом. Альтман неоднократно называл своей целью ИИ уровня фильма "Her", то есть глубоко очеловеченного помощника. Такая рамка поощряет естественный диалог с системами поддержки, планирования и автоматизации процессов. При этом, по его нынешней логике, она не наделяет модели сознанием или моральным статусом.
Контраст с прежними заявлениями прямой. В тот же период, когда OpenAI говорила о "magic intelligence in the sky", Альтман заявлял, что надеется быть на стороне Бога и чувствует себя на стороне ангелов, работая над ИИ. В источнике отмечается, что такие духовные высказывания отличаются от приписывания религиозного смысла самим моделям, хотя оценку их убедительности оставляют читателю. Сдвиг указывает на более узкое публичное определение того, чем считаются модели.
Что сдержанная риторика меняет для бизнеса
Для компаний, использующих ИИ-агентов, практическое следствие касается процедур согласования и ответственности. Если сотрудники воспринимают ответ модели как авторитетное решение, проверка коммерческих предложений, ответов клиентам и внутренних отчетов ослабевает. Предупреждение Альтмана поддерживает правило, при котором за решение отвечает конкретный сотрудник, а запросы, ответы и правки фиксируются. Малые компании ощущают это в клиентских чатах, крупные — в закупках, финансах и комплаенс-процессах.
Ограничение в том, что смена формулировок сама по себе не устраняет чрезмерную зависимость. Система, спроектированная как собеседник уровня "Her", все равно вызывает личное доверие, особенно при нехватке времени или персонала. Покупателям следует проверять реальные механизмы поставщика: раскрытие автоматизированного характера собеседника, индикаторы уверенности, передачу диалога человеку и ограничения в чувствительных сферах. Эта новость сама по себе не подтверждает соответствие продуктов OpenAI или Anthropic таким требованиям.
Показателем развития станут изменения в продуктах и правилах в ходе следующих циклов выпуска. Конкретные признаки включают обновленные правила использования в части заявлений о религиозном или моральном авторитете, формулировки в интерфейсе и рекомендации по корпоративному внедрению. Появление таких документов даст корпоративным регламентам по ИИ более четкую основу для обучения и аудита.
