Amazon Payments применила многозадачный контекстный бандит к воронке привлечения продукта и за семь недель онлайн A/B-теста получила относительный прирост финальной конверсии воронки на однозначное число процентов для одной группы клиентов. В другой группе улучшений относительно текущего опыта не было, причину команда связала с контентом, а не с моделью. Для бизнеса это важно, поскольку генеративный ИИ сделал производство контента дешевым, а узким местом стал выбор подходящего варианта для каждого посетителя.
Как Amazon Payments построила персонализацию воронки
Проект выполнен на Amazon SageMaker AI и продолжает ранее описанную работу по созданию персонализированного контента через Amazon Bedrock с соблюдением фирменных требований. Путь клиента включал три шага: начало заявки, отправку и одобрение. Команда оптимизировала все три этапа вместе, а не отдельный показатель кликов. Опубликован репозиторий кода с ноутбуком Jupyter, демонстрацией из командной строки и модульными тестами для проверки метода на синтетических данных.
В основе системы лежит Linear UCB, или LinUCB, предложенный Li et al. в 2010 году, в контекстной форме. Каждая альтернатива ведет текущие счета опыта и награды, формируя оценку плюс бонус за неопределенность, крупный для редких типов посетителей и малый для знакомых. Параметр исследования alpha установлен на 1,0 по умолчанию при практическом диапазоне от 0,1 до 2,0. Более высокие значения подходят при большом числе вариантов и короткой истории, а низкие усиливают показ текущего лучшего варианта после накопления данных.
Конструкция воронки решает проблему, которую авторы называют seesaw problem. Контент, настроенный только на старты, привлекает широкую аудиторию, но может снижать одобрения, а настройка только на одобрения оставляет мало сигналов, ведь одобрения редки и задерживаются на дни. Решение запускает одну модель LinUCB на этап и объединяет три оценки линейной комбинацией с примерно равными весами. Старты и отправки обновляют модель сразу, а исходы одобрений ждут следующего пакетного цикла в окне атрибуции с еженедельным ритмом.
Что это меняет для конверсии на основе ИИ
Для компаний с воронками привлечения подход дает способ персонализировать показ без ожидания завершения теста. Бандит обслуживает живой трафик в процессе обучения, смещает показы к сильным вариантам и сохраняет долю трафика для продолжения проверки. Небольшие компании с ограниченным трафиком выигрывают, так как закономерности переносятся на похожих посетителей через вектор признаков поведенческих сигналов. Крупные компании получают воспроизводимое правило показа, ведь выбор по UCB детерминирован и поддается проверке для каждого показа.
Ограничения касаются запаса контента, дисциплины измерений и обращения с данными. Авторы указывают, что бандит хорош настолько, насколько хорош пул вариантов, а их варианты были декартовыми парами изображений отраслевой тематики и слоганов о преимуществах, проверенных как отдельные блоки, а не каждая комбинация. Перед переносом схемы стоит проверить веса этапов, настройку alpha и окна атрибуции. Идентификатор entity_id служил лишь для возврата решения нужному посетителю и не входил в модель, это условие стоит подтверждать у любого поставщика.
Подтверждением тренда станет появление новых внедрений по опубликованному ноутбуку с приростом по всей воронке, а не по отдельным кликам. Стоит следить за результатами с более длинными периодами атрибуции и расширенным пулом проверенных блоков, созданных генеративными инструментами. Если другие воронки покажут устойчивый рост одобрений без потери стартов, связка генерации и отбора через бандита перейдет из эксперимента в рабочую практику.
