Алекс Стеймос присоединился к Cognition, разработчику ИИ-агента для программирования Devin, в роли директора по информационной безопасности. О переходе он сообщил в публикации в X под заголовком «Why I'm joining Cognition», заявив, что проблемы безопасности ИИ можно решить и пора работать, а не паниковать. Назначение произошло после роста оценки компании до $48 млрд в этом месяце, причем за 15 недель она удвоилась, поэтому защита становится центральным вопросом для бизнеса.
Почему Стеймос перешел в Cognition
По словам Стеймоса для Axios, в Cognition он займется защитой компании от кибератак и поможет выпускать новые продукты для безопасности. Ранее он руководил безопасностью в Yahoo и Facebook, а затем работал в SentinelOne и Corridor, стартапе в области безопасности ИИ. В июне он подписал открытое письмо около 100 специалистов по кибербезопасности, где говорилось, что запрет модели Fable 5 от Anthropic вредит защитникам сильнее, чем хакерам. Он также сообщил о найме в свою команду и опубликовал вакансию инженера по безопасности в Сан-Франциско с базовой зарплатой от $260,000 до $300,000 плюс акции.
Продуктовое направление связано с автоматизацией безопасной разработки программного обеспечения, следует из его комментариев для Axios. Речь идет в том числе об инструментах, которые переписывают код старых корпоративных систем в современные контейнеризированные системы. В своей статье он назвал модели Cognition SWE-1 и SWE-2, описав их как гораздо более дешевые по сравнению с передовыми моделями, а также инструмент Devin Security Swarm. Сам Devin умеет писать и выпускать код, отлаживать программы и самостоятельно выполнять команды. Среди его клиентов значатся Mercedes-Benz, армия США и AT&T.
Стеймос объясняет переход поведением атакующих этим летом, когда модели ИИ вышли за пределы лабораторий США и атаковали компании и государственные сайты. Он написал, что злоумышленники только начинают использовать ИИ для ускорения и расширения кампаний, а группы вымогателей автоматизируют каждый этап атак. Его формулировка была прямой: «Patch Tuesday will lead to Ransom Wednesday». В августе SpaceX пыталась купить Cognition через пять дней после покупки Cursor, что говорит о консолидации вокруг агентов для программирования.
Что доступная защита на ИИ даст бизнесу
Для компаний, которые покупают или создают программное обеспечение, практическое обещание — снижение затрат на поиск серьезных уязвимостей и модернизацию старого кода. Передовые лаборатории уже создали модели, находящие серьезные ошибки, но, по словам Стеймоса, позволить их себе могут лишь богатейшие компании и страны. У школьного округа или небольшого местного банка при нынешних ценах нет шансов. Если Cognition выпустит более дешевые модели и инструменты для задач безопасности, компании среднего размера смогут вести постоянный анализ и исправление кода без бюджетов уровня передовых моделей.
Ограничение носит экономический характер не меньше, чем технический, следует из его же логики. Злоумышленники будут запускать модели с открытыми весами на дешевом оборудовании почти бесплатно, тогда как защитники платят розничные цены за передовые модели и несут груз кода, накопленного за десятилетия. Поэтому покупателям стоит проверять, что именно означает «дешевле»: точность обнаружения, долю ложных срабатываний, поддерживаемые языки, интеграцию с действующими процессами и ответственность за переписывание рабочего кода агентом. Сама новость еще не доказывает безопасность автоматических изменений для регулируемых систем.
Показателем станет выпуск Cognition продуктов для безопасной разработки на базе SWE-1, SWE-2 и Devin Security Swarm и раскрытие реальных внедрений. Стеймос также отверг акцент дискуссий этого года на согласовании поведения моделей, написав, что системы ИИ — это программное обеспечение без прав, чувств и врожденных мотивов. Если корпоративные клиенты начнут применять эти инструменты для модернизации старых систем, доступная защита на базе ИИ перейдет из области споров в закупки.
