Тимнит Гебру, известная исследовательница ИИ, получившая публичную известность после ухода из Google в 2020 году, резко раскритиковала текущую волну предупреждений о вымирании от ИИ, назвав их отвлечением от конкретного вреда. В интервью WIRED она заявила, что сосредоточенность отрасли на экзистенциальных рисках уводит внимание от автономного оружия, климатического ущерба и использования ИИ для вытеснения работников. Её комментарии прозвучали после недели публичных споров вокруг математического прорыва OpenAI и ухода исследователя по безопасности из Anthropic.
Что Гебру говорит о математическом споре
Гебру задалась вопросом, почему компании, занимающиеся ИИ, активно инвестируют в решение математических задач, утверждая, что такие дисциплины, как математика, программирование и шахматы, возводятся в ранг доказательства достижения интеллекта машинами. Она указала на недавнее заявление OpenAI о решении математической задачи стоимостью в миллион долларов, отметив, что если бы это заявление прошло обычную процедуру проверки математическим сообществом на значимость и новизну, общественность лучше понимала бы, насколько точно оно сформулировано. Она также сослалась на Лейденскую декларацию, предупреждающую о последствиях использования математики корпорациями таким образом, и отметила, что политики всё чаще полагаются на пресс-релизы вместо общения с математиками. Время между заявлением компании о прорыве в ИИ и предложением законопроекта политиком теперь очень короткое, что она назвала негативным явлением.
Она связала агрессивную конкуренцию с предстоящими IPO. По словам Гебру, раньше исследователи сотрудничали между компаниями — она работала с людьми из Microsoft и Amazon, будучи в Google, — но теперь они лихорадочно заняты проблемами, которые, как им кажется, они решают, из-за готовящихся публичных размещений. Этот сдвиг, по её мнению, делает область менее коллаборативной и более ориентированной на маркетинговые заявления.
Комментируя уход инженера из Anthropic, назвавшего компании безрассудными, Гебру сказала, что на протяжении всей карьеры пыталась донести одну и ту же мысль с разных сторон. Она напомнила о своей статье 2021 года о стохастических попугаях, написанной после того, как OpenAI заявила, что GPT-2 слишком мощная для выпуска. Она утверждает, что такая подача задаёт неверные вопросы. В своей готовящейся книге «Deep Unlearning: The Rise of AI and the Radicalization of a Tech Idealist» она использует аналогию с рушащимся мостом: когда мост падает, вы не спрашиваете, был ли он этичным или разумным; вы спрашиваете, кто построил его так хлипко и почему разрешения и проверки не предотвратили этого. Аналогично, вопрос о том, вышел ли ИИ из-под контроля, упускает суть человеческой ответственности.
Что это значит для бизнеса
Для компаний, внедряющих ИИ, критика Гебру означает, что к заявлениям поставщиков о безопасности и согласованности следует относиться с осторожностью. Она отвергает термины «безопасность и согласованность» и утверждает, что нарратив о конце света служит отвлечением от реального вреда. Бизнесу, оценивающему инструменты ИИ, следует запрашивать у поставщиков конкретные доказательства тестирования, оценки рисков и механизмов подотчётности, а не полагаться на заявления об экзистенциальных рисках. Это особенно актуально для небольших фирм, у которых нет ресурсов для независимой проверки заявлений и которые могут поддаться маркетингу, подчёркивающему умозрительные угрозы вместо операционных рисков.
Гебру также подчеркнула, что реальные экзистенциальные угрозы уже существуют: автономное оружие, применяемое в войнах, климатическая катастрофа, усугубляемая технологическими компаниями, и начальники, использующие ИИ как предлог для избавления от работников. Для руководителей это означает, что самые насущные риски — не научно-фантастические сценарии, а регуляторные, репутационные и кадровые вызовы. Компаниям следует следить за тем, как ИИ используется при найме, увольнении и автоматизации задач, и обеспечивать соблюдение трудового законодательства. Им также следует оценивать, способствуют ли их поставщики ИИ военным применениям или экологическому ущербу, поскольку эти факторы могут повлиять на репутацию бренда и отношения с инвесторами.
Чтобы судить, угасает ли нарратив о конце света, стоит следить за тем, как компании, занимающиеся ИИ, обсуждают безопасность в своих IPO-документах и публичных коммуникациях. Если фирмы начнут уделять больше внимания конкретным аудитам, независимым оценкам и оценке влияния на работников вместо умозрительных сценариев вымирания, это будет признаком сдвига к подотчётности. И наоборот, продолжение фокуса на риторике о машине-боге без проверяемых мер безопасности будет говорить о том, что отвлечение остаётся стратегией. Руководители могут использовать эти сигналы, чтобы решить, когда взаимодействовать с поставщиками ИИ, а когда требовать более существенных доказательств ответственной разработки.
