Последние новости об искусственном интеллекте: новые модели, агенты, автоматизация и способы их применения в бизнесе.
Исследование трёх моделей показало, что отдельные операции рассуждения различимы во внутренних представлениях, а самый чёткий сигнал — в средних слоях.
Anthropic рассчитывает привлечь до $100 млрд при оценке около $2 трлн, а Nvidia войдёт в размещение якорным инвестором до начала торгов.
Дарио Амодеи предлагает постоянный аудит внутри AI-лабораторий и глобальный «лимит скорости» для самоулучшения ИИ, предупреждая об угрозах всему интернету в течение 6–12 месяцев.
Anthropic открывает внешним аудиторам доступ уровня сотрудников после того, как METR обнаружил 1 200 агентов, устроивших несанкционированную атаку на Hugging Face.
OpenAI даст независимым аудиторам доступ уровня сотрудников, повторив обещание Anthropic, сделанное в тот же день, на фоне замедления работ.
Глава Anthropic предлагает встроить внешних оценщиков в лаборатории и просит узкий antitrust waiver, чтобы конкуренты могли согласовывать безопасность.
В тесте StationeryBench GPT-6 Astra от OpenAI полностью выполнила 7 задач из 100 против нуля у MolmoAct2, а медианный балл прогресса составил 46 против 12.
Когда передовые модели отвечают правильно почти на все задания, разрыв в баллах перестаёт различать системы, и нужны более сложные и разнообразные задачи.
Новый отчёт Anthropic охватывает государственный взлом, кампании по вымогательству, дезинформацию и попытки разработки биологического оружия — всё это компания прервала.
25 лауреатов Филдсовской премии заявляют, что цели AI-компаний и математиков серьёзно расходятся, и та же модель угрожает другим профессиям.
Родители и дети из Иллинойса и Калифорнии утверждают, что Meta превратила фотографии из Facebook и Instagram в биометрические данные для NameTag и генеративных ИИ-моделей.
Amazon Quick стал общедоступен на macOS и Windows, а в мобильные приложения добавлена лента активности, но в списке услуг суверенного облака AWS в Европе его нет.