Профессор права Гарварда Марта Майноу использовала лекцию Compton в MIT в четверг, чтобы заявить: искусственный интеллект сейчас подрывает демократию, но его можно направить на ее укрепление. Она назвала четыре гражданские опоры под давлением — образование, достоверную информацию, защиту от насилия и справедливость, — и привела опрос Gallup, по которому 77 процентов считают, что основатели США были бы разочарованы. Для руководителей, внедряющих ИИ, это важно, поскольку те же системы, что автоматизируют работу, влияют на мышление, доверие и общественные правила.
Лекция Compton о демократии в эпоху ИИ
Майноу выступила в Huntington Hall, аудитория 10-250, с лекцией под названием "Constituting Democracy in the Era of AI". Президент MIT Салли Корнблат представила ее как ученого-правоведа с необычайно широким кругозором, чьи работы повлияли на понимание права и человека. Серия лекций Karl Taylor Compton Lecture Series, созданная в 1957 году, остается самым заметным событием такого рода в MIT. Комптон был девятым президентом MIT с 1930 по 1948 год, затем председателем MIT Corporation с 1948 по 1954 год, и провел институт через Великую депрессию и Вторую мировую войну.
Майноу описала состояние США через четыре составляющие демократии и показала, как ИИ затрагивает каждую из них. В образовании, по ее словам, доминирующие платформы продолжают тактики социальных сетей, вызывающие пассивность, а ведущие модели и поддакивающие интерфейсы угрожают памяти, рассуждению и критическому мышлению молодежи. Альтернатива, которую она описала, — дизайн в духе наставника: существующие LLM, методы обучения и интерфейсы могут давать подсказки, вопросы и намеки, а не выполнять работу за ученика. Она заявила аудитории MIT, что более надежные и устойчивые к списыванию инструменты оценки еще предстоит создать.
Предупреждение прозвучало на фоне давних проблем, которые перечислила Майноу: нарушения законов и норм, ограничение свободы слова, ослабление полномочий конгресса, игнорирование судебных решений и очернение других людей. Школы уже сталкиваются с большими местными разрывами в финансировании и за три десятилетия стали более сегрегированными в экономическом и этническом отношении, поэтому ослабление самостоятельного мышления обходится дороже. В медиа развитие технологий совпало с сокращением числа журналистов на 75 процентов и ростом коррупции там, где исчезли местные издания. В сфере безопасности, по ее словам, каждый знакомый ей судья сталкивается с реальной угрозой насилия.
Что это значит для компаний, использующих ИИ
Для организаций первое следствие касается того, как ИИ применяется в обучении и работе со знаниями. Системы, выдающие готовые ответы, сокращают практику анализа, тогда как инструменты в духе наставника сохраняют усилие, побуждая пользователя рассуждать пошагово. Это различие заметно в адаптации сотрудников, внутреннем обучении, просвещении клиентов и везде, где персоналу нужно проверять машинный результат. Небольшие фирмы ощущают это через зависимость от готовых ассистентов, крупные — через стандарты, которые они задают тысячам сотрудников и подрядчиков.
Второе следствие касается качества информации и операционных рисков. Дезинформация, утрата местных изданий и поляризованные ленты повышают затраты на проверку фактов при найме, закупках, соблюдении норм и управлении репутацией. Майноу предложила технологам создать широко используемый информационный общий ресурс в одной или многих формах, чтобы расширить доступ к надежным материалам. Такие проекты сами по себе не возвращают доверие, поэтому покупателям следует спрашивать, как отбираются источники, как исправляются ошибки и как инструменты измеряют, действительно ли пользователи думают глубже.
Признаком развития станет то, появятся ли наставнические модели и общие информационные ресурсы от университетов и лабораторий и получат ли они широкое применение. Майноу прямо призвала людей в MIT и за его пределами направить время и талант на такие решения. Если устойчивые к списыванию оценки и надежные общие ресурсы придут в классы и на рабочие места, описанный ею разворот начнется; если ассистенты, поощряющие пассивность, останутся стандартом, общественные издержки для работодателей продолжат расти.
