Смена настроений и корпоративный ответ
После ухода исследователя Джейкоба Коксона из Anthropic и последовавшей реакции отрасли тема безопасности ИИ резко обострилась. Anthropic, OpenAI и Google впервые начали согласовывать общие стандарты, а СМИ всё чаще пишут об экзистенциальных рисках. Опросы показывают, что средняя оценка вероятности гибели человечества из-за ИИ выросла примерно с 15% до 30% — это заметный сдвиг в общественном восприятии.
Глава Anthropic Дарио Амоди публично заявил о необходимости «задавать темп» в безопасности и пообещал в одностороннем порядке внедрить встроенных инспекторов для мониторинга моделей. OpenAI поддержала инициативу, и теперь обе компании вместе с Google координируют усилия. В США политики требуют регуляций, «защитных ограждений» и экстренных слушаний в Конгрессе. Главный риск — поляризация дискуссии.
Попытки дискредитации и внутренняя борьба
Несмотря на сдвиги, влиятельные фигуры — Дэвид Сакс, Марк Цукерберг и Дженсен Хуан — убедили Дональда Трампа связать тему экзистенциальных рисков ИИ с сопротивлением строительству дата-центров. В итоге Трамп назвал угрозы ИИ «обманом». Одновременно развернулась кампания против тех, кто предупреждает о рисках: первой целью стала некоммерческая METR, а также движение эффективного альтруизма. Наблюдатели считают, что в долгосрочной перспективе это подорвёт доверие к инициаторам, но сейчас усиливает давление на исследователей.
Технологии, уязвимости и приватность
Технический прогресс не останавливается. Новая модель ИИ решила одну из «задач тысячелетия» — семь математических проблем института Клэя. Это показывает рост интеллектуальных возможностей систем. Anthropic также сообщила о попытках использовать Claude во вред: массированные атаки «дистилляции» со стороны крупных китайских ИИ-лабораторий, некоторые из которых тайно передавали компании большие объёмы пользовательских данных. Anthropic заявляет, что справляется с угрозами, но признаёт: гарантировать поимку всех нарушителей невозможно.
Отдельный скандал — приватность. Выяснилось, что сотрудники OpenAI и Anthropic читают полные диалоги пользователей с чат-ботами, которые те считают конфиденциальными. Беседы анонимизируются, но часто содержат личные данные. Отключить практику можно, выключив функцию «улучшить модель для всех». Сенатор Крис Ван Холлен направил OpenAI шестистраничное письмо с вопросами о новой модели Astra, обеспокоившись отсутствием доказательств выравнивания и сложностью мониторинга. OpenAI выделила 25% инженеров, чтобы Astra искала уязвимости в её собственных системах.
Коммерция, автоматизация и новые институты
Коммерциализация ИИ ускоряется. OpenAI запустила продукт для финансового сектора совместно с Morgan Stanley и Evercore, обещая меньше ошибок. Теперь компания намерена взимать плату с правительства США, завершив бесплатный промо-период. Цена — 50% от розничной, что выгодно, но потребует бюрократических согласований бюджетов на токены. DeepMind учредил институт для междисциплинарных исследований влияния ИИ на экономику и общество.
Всё это означает, что ИИ входит в новый этап: безопасность, регуляция и применение переплетаются теснее. Бизнесу важно не только следить за технологиями, но и ответственно внедрять их. Автоматизация — от маркетинга до клиентского сервиса — становится вопросом выживания. Специализированные ИИ-агенты, способные безопасно решать сложные задачи, требуют понимания возможностей и ограничений современных систем.
