Родители и их дети из Иллинойса и Калифорнии подали на прошлой неделе коллективный иск в федеральный суд Чикаго, утверждая, что Meta незаконно использовала их фотографии из Facebook и Instagram для создания NameTag — невыпущенной системы распознавания лиц для умных очков — и для обучения генеративных ИИ-моделей, включая Emu и Muse Image. В иске говорится, что компания нарушила законы штатов о приватности, извлекая биометрическую информацию без уведомления и согласия. Дело важно потому, что проверяет, можно ли превращать изображения, опубликованные пользователями для общения, в сырьё для продукта распознавания лиц.
Что утверждает иск
Истцы — Франсиско Альварес и его сын, оба жители Иллинойса, а также Джереми Уол и его 10-летняя дочь, жители Калифорнии. Предлагаемый класс охватывает людей в Иллинойсе, Калифорнии и по всей территории США, чьи изображения были загружены в Facebook или Instagram либо переданы генеративным ИИ-системам Meta через запросы, начиная с 4 сентября 2021 года. По оценке иска, национальный класс может насчитывать миллионы человек. Согласно закону Иллинойса о биометрической информации, истцы требуют 5 000 долларов за каждое умышленное или неосторожное нарушение либо фактические убытки, если они больше, и 1 000 долларов за каждое нарушение по небрежности либо фактические убытки, если они больше, а также судебный запрет; калифорнийские требования предусматривают дополнительные убытки и другие меры. В иске признаётся, что Meta не раскрыла, какие изображения, если таковые были, использовались для создания биометрических данных, и что эта информация остаётся только у компании.
Утверждение о NameTag опирается на сообщения о том, что сотрудники Meta говорили о способности функции распознавать людей через их связи в Meta или публичные аккаунты Instagram, а также на патент компании, описывающий сопоставление лиц с фотографиями профиля и другими изображениями, которыми располагает Meta. В июне WIRED сообщил, что код NameTag был встроен в приложение-компаньон ИИ для очков Meta, скачанное более 50 миллионов раз. Функция не была включена для пользователей, но анализ показал, что система проектировалась так, чтобы превращать лица, запечатлённые очками, в биометрические подписи и сравнивать их с отпечатками лиц, хранящимися в базе на телефоне пользователя, настроенной на получение обновлений от Meta. Тогда WIRED не смог установить, откуда взялись исходные данные отпечатков. Meta в июне заявила, что не создаёт центральную базу лиц, но не ответила, будет ли NameTag работать по принципу opt-in и как система будет хранить отпечатки.
Иск затрагивает и системы генерации изображений Meta. Компания заявляла, что обучала Emu на больших объёмах изображений и текстов из Facebook и Instagram, а директор по продукту Крис Кокс называл эти платформы преимуществом в данных для её ИИ-систем. В иске утверждается, что в ходе обучения незаконно собиралась биометрическая информация о людях, изображённых на фотографиях. Muse Image, выпущенная этим летом, ранее подверглась критике за возможность генерировать изображения на основе публичных аккаунтов других людей в Instagram; функцию убрали в течение нескольких дней после того, как компания признала, что промахнулась. На следующий день после отчёта WIRED от 4 июня Meta удалила код NameTag из приложения, заявив, что функции не существовало, поскольку она не была доступна потребителям, хотя анализ WIRED и тестирование сторонними исследователями выявили технически работоспособную систему распознавания лиц внутри приложения, скачанного десятки миллионов раз. Технический директор Meta Эндрю Босворт назвал материал крайне вводящим в заблуждение и абсолютно нечестным, а недели спустя в подкасте описал NameTag как функцию, способную распознавать людей, с которыми владелец очков ранее встречался и просил устройство запомнить, назвав её отличной.
Что это значит для бизнеса
Для компаний, использующих рекламные или ИИ-инструменты Meta, практическое следствие — новый слой юридического риска, связанный с изображениями и видео, которые у них уже есть. Предлагаемый класс в иске охватывает период с 4 сентября 2021 года, то есть контент, загруженный годы назад, может попасть в спорный отрезок. Небольшой бизнес, публикующий фотографии клиентов в Instagram, не может проверить, использовались ли эти изображения для обучения моделей; крупный рекламодатель с медиатекой на миллионы материалов сталкивается с той же неопределённостью в большем масштабе. Цифры в 5 000 и 1 000 долларов за нарушение по иллинойсскому требованию показывают, как быстро накапливаются законные убытки, когда класс измеряется миллионами человек, и задают ориентир для оценки судами практик других поставщиков.
Иск не устанавливает, что Meta действительно использовала фотографии конкретного человека для биометрических данных. В самом иске сказано, что компания не раскрыла, какие изображения, если таковые были, применялись, а Meta заявляет, что потребителям ничего не поставлено и окончательное решение по NameTag не принято. Этот разрыв важен для тех, кто оценивает поставщиков: спрашивать нужно, может ли поставщик документально подтвердить происхождение данных для обучения, собиралось ли согласие на биометрическую обработку отдельно от условий обслуживания и существует ли механизм opt-in для функций, идентифицирующих людей. История самой Meta задаёт точку отсчёта. В 2020 году компания согласилась выплатить 650 миллионов долларов по коллективному иску в Иллинойсе из-за более ранней системы распознавания лиц; в ноябре 2021 года она объявила, что закроет эту систему и удалит более миллиарда отпечатков лиц; в 2024 году Meta согласилась выплатить Техасу 1,4 миллиарда долларов по отдельным обвинениям в незаконном сборе биометрических данных.
Следить стоит за тем, утвердит ли суд предлагаемый класс, охватывающий пользователей в Иллинойсе, Калифорнии и остальной части США с 4 сентября 2021 года. Утверждение превратит индивидуальную жалобу в разбирательство, где сумма возможных выплат считается по миллионам аккаунтов, и даст другим платформам конкретный измеритель стоимости использования социальных изображений для обучения моделей без отдельного согласия. До этого практический сигнал для бизнеса — направление продуктовых решений самой Meta: код NameTag был удалён из приложения на следующий день после отчёта от 4 июня, а функция Muse Image, генерировавшая изображения по публичным аккаунтам Instagram, была отозвана в течение нескольких дней, что говорит о том, что общественное и юридическое давление уже влияет на то, что выходит на рынок.
