Папа Лев XIV призвал в пятницу «разоружить» искусственный интеллект и обратился к государствам, которые соберутся в Женеве в ноябре, с призывом двигаться к запрету смертоносного автономного оружия. Решения, касающиеся человеческой жизни, свободы и применения силы, должны оставаться под контролем человека, заявил он в обращении, опубликованном Ватиканом. Заявление прозвучало в Зале консистории Апостольского дворца перед участниками встречи о будущем ИИ. Для бизнеса это усиливает моральное и регуляторное давление в споре о военном применении автоматизации.
Пять тезисов об управлении ИИ и процесс в Женеве
Обращение было адресовано участникам совместной встречи, организованной Папской академией жизни и Future of Life Institute. Папа изложил пять тезисов, каждый из которых ссылается на энциклику об ИИ Magnifica Humanitas, опубликованную им в мае. Государства обсуждают смертоносное автономное оружие в рамках Конвенции ООН о конкретных видах обычного оружия, седьмая обзорная конференция которой пройдет в Женеве с 16 по 20 ноября, по данным Reaching Critical Will. Такая привязка по срокам напрямую связывает заявление Ватикана с этим переговорным треком.
Первый тезис описывает развитие ИИ как результат выбора людей, у которых есть обязанность направлять его, менять способы применения и при необходимости отвергать их. Папа предложил спрашивать не о том, что ИИ умеет делать, а о том, каким целям он должен служить. Он предупредил, что восприятие ИИ как гонки, в которой нужно победить, грозит забвением для тех, кто остался позади. Надежная система, служащая людям, значит больше, чем очень мощная система, последствия работы которой нельзя предвидеть или контролировать.
Второй и третий тезисы устанавливают границы делегирования. Машины — это инструменты, а не личности, и предложения наделить системы ИИ правами или правосубъектностью следует отвергнуть, заявил папа, поскольку такой шаг размывает ответственность человека и оставляет пострадавших один на один с безликой сущностью. Некоторые решения людям нельзя передавать машинам, а в качестве примеров названы список целей и база данных пограничного контроля. Человек, внесенный в любой из таких списков, рискует превратиться в простую точку данных.
Что позиция Ватикана означает для бизнеса
Для компаний, которые создают или внедряют ИИ, практический вес имеют четвертый и пятый тезисы. ИИ должен служить общему благу, а не интересам привилегированного меньшинства, заявил папа. Он добавил, что этические принципы уже широко известны, а эффективных международных органов для их применения не хватает. В его формулировке требуются общие стандарты, независимый надзор и понятные механизмы ответственности.
Границы согласия тоже заметны. Папа Лев уже высказывался ранее, назвав в мае войну под управлением ИИ спиралью уничтожения, а в сентябре заявив, что опасения по поводу безопасности ИИ — это не выдумка. Он также напомнил слова папы Франциска на саммите G7 в 2024 году о том, что ни одна машина никогда не должна решать вопрос о лишении человека жизни. В отрасли согласны не все: глава Mistral Артур Менш уже возражал папе по вопросу об ИИ в войне.
Ориентиром станет сессия в Женеве 16–20 ноября в рамках Конвенции о конкретных видах обычного оружия. Любые формулировки об определениях, запретах или процедурах проверки смертоносного автономного оружия покажут, приобретает ли призыв к запрету юридическую форму. Для корпоративного планирования рисков этот итог определит ожидания в части контроля со стороны человека, автономного наведения и экспортного контроля.
