Meta изменила подсказки, которые её ИИ-чатбот предлагает пользователям, после вирусного видео: ассистент попросил женщину назвать её маленьких дочерей и показал фотографии, которые она, по её словам, удалила. Компания заявила The Verge, что «промахнулась» и что функция «никогда не должна была задавать человеку такие вопросы». Этот случай важен потому, что Meta AI встроена в Facebook, Instagram, WhatsApp и Messenger, где предлагаемые подсказки определяют, что видят рядом со своими публикациями сотни миллионов людей.
Что показало видео
Пользовательница Instagram Кали Робинс опубликовала видео о том, что произошло после того, как она разместила клип и в Facebook. Под записью, где она поёт в машине вместе с ребёнком, Meta AI показала подсказку «Кто ребёнок-пассажир?». Когда Робинс выбрала её, ассистент, по её словам, собрал сведения о её дочерях из её прежних публикаций и из постов её родственников. Затем он предложил новые подсказки о возрасте детей и о том, где Робинс живёт с семьёй, и показал фотографии её дочерей на платформе, включая ту, которую она, как утверждает, удалила несколько лет назад.
Представитель Meta Дина эль-Кассаби сообщила, что компания устранила проблему, из-за которой Meta AI предлагала подсказки на личные темы. Она описала функцию как способ помочь людям получить больше информации о интересующих их публикациях и сказала, что сгенерированный ответ опирается на сведения, к которым у пользователя уже есть доступ. В этом случае Meta AI, по словам эль-Кассаби, могла взять данные из видео, где Робинс называла имена детей. Исправление последовало за похожим откатом в июле, когда Meta убрала функцию, позволявшую создавать ИИ-дипфейки других пользователей Instagram, после волны критики.
Что это значит для бизнеса
Для компаний, публикующих контент на платформах Meta, этот случай показывает, насколько далеко ассистент может зайти в материал, размещённый с другой целью. Ролик бренда с ребёнком, лицом клиента или домашним адресом может стать основой для предложенного вопроса, а ответ собирается из публикаций, которые аккаунт и его контакты уже сделали. Командам маркетинга и поддержки, которые считают соцпрофили каналом с низким риском, теперь приходится исходить из того, что всё видимое там может быть перекомбинировано собственным ИИ платформы.
Стоит учитывать два ограничения. Meta говорит, что ответ строится на сведениях, к которым у пользователя уже есть доступ, поэтому изменение касается того, какие подсказки появляются, а не того, какие данные ассистент может извлечь. Компания не сообщила, как именно работает исправление, действует ли оно для всех языков и регионов и как быстро охватит все места, где работает Meta AI. Одна исправленная подсказка сама по себе не доказывает, что похожие предложения не появятся вокруг других личных деталей, например местоположения или родственных связей.
Следить стоит за тем, опубликует ли Meta правило, лежащее в основе исправления, и сообщит ли о новых случаях, связанных с подсказками, в ближайшие месяцы. Если после изменения сопоставимых историй не появится, исправление можно считать действенным; повторный случай укажет, что проблема в том, как ассистент ранжирует личный контент, а не в одной подсказке.
