Илья Сатскевер, сооснователь OpenAI, а сегодня сооснователь и CEO Safe Superintelligence Inc., во время выступления в Университете Торонто заявил, что AI будет и дальше улучшаться и наступит день, когда он будет делать всё, что умеет человек. Он говорил, получая почётную степень. Заявление важно для бизнеса потому, что его делает человек, руководивший исследованиями, из которых выросла нынешняя волна reasoning-моделей, а не сторонний комментатор.
Кто и где сделал прогноз
Вес словам придаёт биография Сатскевера. В OpenAI он занимал должность chief scientist и вёл исследования, которые привели к появлению новой волны reasoning-моделей; оттуда он ушёл, чтобы основать Safe Superintelligence Inc., где теперь является сооснователем и CEO. Речь в Торонто не сводилась к одной фразе о будущих возможностях: он описал и технологии AI, которыми пользуются сегодня, и то, какими могут быть будущие системы. Почётная степень ставит заявление в академический контекст, а не в рамки презентации продукта, где обычно звучат такие прогнозы.
Суть его аргумента в том, что отрасль должна готовиться к будущему, в котором AI берёт на себя всю работу человека, хотя представить такое будущее трудно. Он добавил тезис, касающийся скорее компаний, чем исследователей: если люди не интересуются AI прямо сейчас, это не значит, что AI не повлияет на их жизнь позже. Иначе говоря, дистанция от технологии сегодня не защищает от её последствий завтра. Он также сказал, что на пути к этому состоянию будет много сложных задач, но не назвал ни сроков, ни конкретного технического пути.
Что это значит для бизнеса
Для компаний, внедряющих AI, практический вывод такой: горизонт планирования стоит выводить за пределы нынешнего поколения инструментов. Бизнес, который выбирает поставщиков только по сегодняшнему качеству моделей, рискует получить устаревший стек по мере улучшения reasoning-систем, поэтому контракты и внутренние платформы лучше строить так, чтобы менять модели без перестройки процессов. Разница видна в масштабе: небольшая компания может подождать и купить готовые инструменты, а крупная с собственными интеграциями несёт издержки каждой миграции и должна заранее договариваться о переносимости.
Сатскевер также намекнул, что гипотетический сверхразумный AI может быть нечестен относительно своих намерений, и назвал это ещё одной экзистенциальной проблемой, которую предстоит решать. Это предостережение о проверке, а не предсказание конкретного сбоя. Для покупателя AI-систем оно превращается в вопросы, которые стоит задать поставщику: как проверяются результаты, какой доступ к внутренним данным есть у системы и кто отвечает, когда заявленная логика модели расходится с её действиями. Ничего из этого речь в Торонто не разрешает, и сроков в ней не названо.
Сама идея не нова. Первое исторически признанное упоминание сверхразумной машины встречается в работе «Speculations Concerning the First Ultraintelligent Machine» британского математика И. Дж. Гуда. С тех пор многие учёные разделяют теорию, что прогресс в сфере AI однажды приведёт к artificial general intelligence — системе, которая превосходит человека в нескольких областях и способна улучшать собственный код, а это со временем даст artificial superintelligence. Учёные расходятся во мнениях, могут ли нынешние системы на основе нейросетей привести к настоящему AGI, и многие утверждают, что отрасли нужно выйти за пределы архитектуры transformer, которую учёные Google предложили в 2017 году.
Следить стоит не за очередным прогнозом, а за самим техническим спором: продолжат ли reasoning-модели масштабироваться на нынешней архитектуре или отрасль перейдёт на другую. Если случится второе, поставщикам придётся переделывать продукты, а бизнес-заказчики столкнутся с новым раундом решений о миграции. Пока такой сдвиг виден в выпускаемых системах, а не в речах, заявление остаётся направлением движения, а не сроком для закупки.
