Машины, названные интеллектуальными, выполняют задачи, которые раньше решали люди, а жизнь человека оценивают по эффективности, заявил Папа Лев XIV в пятницу в штаб-квартире UNESCO в Париже. Выступление стало центральным событием дня, посвященного искусственному интеллекту, достоверности информации, образованию и художественному творчеству. Он настаивал, что новые технологии должны оставаться на службе человека, а не превращаться в инструменты господства и несправедливости. Это заявление важно для бизнеса, поскольку переносит оценку ИИ с мощности моделей на ответственность за результат для людей.
Интеллект — машинам, проверка эффективностью — людям
За несколько часов до этого в Елисейском дворце Лев предостерег президента Эммануэля Макрона от «рая машин», проникающего в повседневную жизнь. В UNESCO он развил это предупреждение в принцип разработки и внедрения технологий. По его словам, машины за годы взяли на себя многие человеческие задачи, а некоторые вычислительные системы теперь описывают словом, связанным с мышлением человека. Пока интеллект приписывают таким системам, общества с трудом признают неотъемлемое достоинство личности, а тех, кого перестали считать продуктивными, отвергают и отбрасывают.
Папа связал такую оценку с тем, как сегодня движется информация. Люди общаются быстрее, чем раньше, но не более правдиво, а больший запас фактов не делает решения мудрее, сказал он. Искусственный интеллект усиливает разрыв, поскольку системы умеют связывать данные, но не могут ответить на вопросы о смысле человеческой жизни, укорененном в живом опыте. Свою мысль он выразил фразой «Смысл — это кислород ума», а поиск истины назвал вопросом справедливости. Он также высоко оценил программу UNESCO, которая учит аккуратному использованию медиа и цифровых инструментов.
Лев вписал критику в более широкую институциональную последовательность. France 24 сообщала перед выступлением, что от него ждут призыва к регулированию ИИ, а днем ранее он заявил в Папской академии наук, что ИИ принес новые угрозы безопасности и международному миру. Тема ИИ стала центральной с начала его понтификата, включая первую энциклику в мае под названием Magnifica Humanitas. В UNESCO сообщили, что визит в Париж будет включать рамочное соглашение с Святым престолом о сотрудничестве в области ИИ, а ранее на неделе Ватикан поддержал новую AI4Peace International Association.
Что это значит для компаний, использующих ИИ
Для компаний, внедряющих агентов и автоматизацию, этот посыл указывает на проектирование вокруг пользы для человека, а не вокруг выработки в час. Ассистент поддержки, помощник в продажах или система обработки документов могут связывать записи и готовить ответы, однако ответственность за честность, точность и итоговые решения остается за руководителями и профильными сотрудниками. Малые компании ощущают это при выборе поставщика и настройке контроля подсказок, а крупные — в управлении, журналах проверок и обучении команд проверке машинного результата через реальный контекст и интересы клиентов.
Выступление также выделяет риски, которые покупатели часто недооценивают. Прямой просьбой стала защита детей и молодежи: уязвимость в цифровую эпоху никогда не должна становиться возможностью для эксплуатации, а инструменты должны поддерживать учебу, дружбу и самостоятельность мышления. С этим связаны предупреждения о единстве, навязанном через господство, о новых формах колониализма, о жизни как предмете купли-продажи и о науке, сведенной к технике власти. Это не означает запрета автоматизации, но требует вопросов о данных, возрастных гарантиях, медиаграмотности и о том, где оценка эффективности может исключать людей.
Маркером станет рамочное соглашение между UNESCO и Святым престолом о сотрудничестве в области ИИ, анонсированное в связи с визитом в Париж. Его текст и первые совместные проекты покажут, превратятся ли принципы достоинства, образования и достоверности информации в критерии закупок, школьные программы или практику проверок. Поездка продлится до воскресенья, когда ожидается выступление в Меце, и оно покажет, насколько последовательно та же линия звучит на других площадках.
