Обзор использования нейронных сетей в процессе построения семантических векторов как способ исследования потребителей поколения Z в нейромаркетинге

Правильная ссылка на статью

Майер Н.С., Гогулина С.В. Обзор использования нейронных сетей в процессе построения семантических векторов как способ исследования потребителей поколения Z в нейромаркетинге // Экономика и общество: международный научно-практический журнал. 2020. № 04 (18). Режим доступа: https://scipress.ru/economy/articles/obzor-ispolzovaniya-nejronnykh-setej-v-protsesse-postroeniya-semanticheskikh-vektorov-kak-sposob-issledovaniya-potrebitelej-pokoleniya-z-v-nejromarketinge.html (Дата обращения: 27.12.2020)

Процесс 1 типа (интуитивный)	Процесс 2 типа (рефлексивный)
Определяющие черты:
Не требует рабочей памяти Автономен	Требует рабочей памяти Когнитивное разделение, ментальная стимуляция
Типичные корреляты:
Быстрый Высокая производительность Параллельный Бессознательный Шаблонные реакции Контекстный Автоматический Ассоциативный Принятие решений на основе опыта Независим от когнитивных способностей	Медленный Производительность ограничена Последовательный Сознательный Нормативные реакции Абстрактный Управляемый Основанный на системе правил Принятие решений на основе логики Зависит от когнитивных способностей
Система 1 (старый мозг)	Система 2 (новый мозг)
Развился рано Подобен когнитивным способностям животных Имплицитное знание Простые эмоции	Развился позже Присущ исключительно человеку Эксплицитное знание Сложные эмоции

Как видно из представленной таблицы, основные характеристики интуитивного процесса принятия решений: быстрый, бессознательный и автоматический. Решения в этом случае принимаются на основе личного пережитого опыта. Другими словами, интуитивная познавательная система проще: она требует меньше концентрации и энергии. Естественной особенностью человеческого существа является стремление экономить энергию всех видов, чтобы не пришлось «заставлять» организм снова зарабатывать новую энергию, а также  в процессе добывания новых ресурсов не быть подверженным новым рискам. Вопрос о первичности работы той или иной области мозга в процессе принятия решения в том числе о покупке описал Лираз Маргалит в своей статье «Роль эмоций при принятии решения о покупке». Он пишет: «Решение о покупке зависит от того, какой процесс доминирует в каждый конкретный момент. Посетители чаще добавляют продукты в корзину, когда эмоциональный процесс выходит на первый план и решение диктуется чувствами, а не размышлениями, стоит ли оно того. Реклама — это прежде всего способ вызвать нужные эмоции».

В зависимости от сложности приобретаемого продукта (услуги, результата труда) наш мозг исследует процесс на более или менее примитивном уровне, «включая» либо интуитивный, либо рефлексивный тип принятия решения о покупке. Важно правильно классифицировать продукт относительно этого критерия и воздействовать на необходимую категорию рецепторов [3].

Исследовать тот или иной тип потребителей можно различными способами. Маркетинговые инструменты исследований видоизменились вслед за общественными цифровыми трансформациями, но основной объект любого маркетингового исследования – потребитель, т.е. человек. С помощью любого инструмента, с различной степенью погрешости исследуется человек, как совокупность потребностей, ожиданий и желаний, как источник спроса. Как бы тщательно не проводились маркетинговые исследования, причина погрешности всегда имела одну природу – исследуемый потребитель говорил неправду. Проблема правды и лжи больше носит риторический и философский характер, но с точки зрения психологии можно рассмотреть процесс обмана или преукрашивания по другому и попытаться его исключить. Психологическая природа лжи заключается не всегда в том, что человек стремится обмануть. Часто желание приукрасить себя, свои предпочтения, свои истинные реакции и эмоции превозмогает над совестливым стремлением сказать правду. Эта реакция вполне естественна, т.к. человек хоть и животное, но полностью социально  зависимое. Социальная зависимость заключается в постоянном  поиске человеком одобрения со стороны общества.

Исследования показывают, что в интернете люди максимально раскрепощены, не застенчивы и правдивы, в отличие от реальной жизни. Цифровое пространство позволило практически всем людям раскрыть свое истинное «Я», каким бы оно ни было. Ярким проявлением сетевой раскрепощенности, безусловно, являются сайты знакомств, где можно не бояться игонорирования, отказа в общении, отвержения и еще массы негативных переживаний, формирующих застенчивость и скованность. В цифровом пространстве, фактически находясь наедине с самим собой, человек максимально такой, какой он есть, а поэтому и технологии исследования потребительского поведения с целью минимизации погрешности в исследованиях должны максимально перекочевать в цифровое пространство и изучать человека не как личность, а как совокупность его оцифрованных действий.

Как отмечено в статье, многообразие оцифрованных действий человека формирует за ним правдивый потребительский шлейф. Безусловно, анализ этого шлейфа – обширная область для маркетинговых исследований, формирования рекламных стратегий и поиска новых потребителей. Благодаря анализу цифрового потребительского поведения возник новый виток маркетинговых концепций – таргетированная реклама. Это направленное воздействие на целевую аудиторию, которая с высокой степенью вероятности интересуется товаром или услугой. Иными словами, с момента появления возможности анализа цифрового потребления, вектор маркетинговой деятельности переориентирован от массового типа на индивидуальный, целевой. Если раньше основная задача маркетологов заключалась в том, чтобы рекламу увидело как можно большее количество потребителей, то теперь – как можно более заинтересованная часть потребителей. На основе принципов таргетированной рекламы выбор целевой аудитории определяется по смыслу и частоте поисковых запросов в браузерах. Такой способ определения потребителей породил и инновационный способ поиска потенциальных потребителей. Современное общество настолько неоднородно, в большом объеме изобилует индивидуальными ожиданиями и требованиями, что поиск «аналогичных» потребителей был затруднен. Методы анализа цифрового потребления позволили таргетрованной рекламе  ориентироваться на так называемых «подобных» потребителей, то есть максимально похожих по потребительскому поведению на действующих потребителей. Оценка уровня «похожести» может быть определена не только по поисковым запросам. Так или иначе, люди не всегда ищут в интернете то, что им необходимо; им нужно продемонстрировать и доказать необходимость приобретения чего-либо. Иными словами, таргетологи столкнулись с тем, что они имеют доступ лишь к той категории потребителей, которые частично заинтересованы в приобретении аналогичного продукта (его аналогов и (или) взаимодополняющих товаров). И отсюда возникла задача нового уровня – найти тех потребителей, кому может понадобиться тот или иной товар, но которые никогда не искали в интернете ничего аналогичного. Амбициозная цель расширения целевой аудитории была достигнута, в том числе, благодаря обилию не только потребительских шлейфов, но и социально-поведенческих. В on-line пространстве теперь не только поисковые запросы, но и истории покупок, маршруты, музыка и развлечения по интересам, уровень активности, актуальные приложения и так далее. Многообразие этих источников информации послужило инструментом поиска так называемых «аналогичных потребителей». Исходя из оценки схожести всех представленных выше критериев, определятся область потенциальных потребителей, максимально похожих на действующих, но пока не осуществляющих покупки тех или иных товаров. Например, у организации есть постоянный покупатель, благодаря таргетированным технологиям можно составить его портрет: куда и на чем ездит, какую музыку слушает, какова степень его активности и т.д.; далее с помощью тех же технологий осуществляется поиск всех тех, у кого аналогичные маршруты и способы передвижения, музыкальных предпочтений и образа жизни и уже им предлагается приобрести товар, который приобретает первый потребитель.

Очевидно, что анализ поисковых запросов – самый очевидный способ расширения целевой аудитории, но при осуществлении этого анализа существует концептуальная сложность, связанная со способом этого анализа.

Обработка поисковых запросов — это сложная и порой нетривиальная задача для решения которой, как правило, успешно используется машинное обучение. Однако оно имеет некоторые ограничения: для обучения искусственного интеллекта необходимо большое количество разнообразной пользовательской статистики. Эта статистика существует в большом объеме для популярных и среднечастотных запросов, но практически отсутствует для уникальных запросов — то есть тех, которые не повторяются хотя бы дважды в течение всего периода наблюдений. При этом, до 40 процентов поисковых запросов в интернете являются именно уникальными.

Отсюда возникает необходимость разделения поисковых запросов и по уровням их частотности. График частотного распределения запросов в Яндексе часто представляют в виде птицы, у которой есть клюв, туловище и длинный хвост. Список самых распространенных запросов не особо велик — это «клюв» птицы, запросы средней частотности образуют «туловище», а низкочастотные — «хвост».

Рисунок 2. Иллюстрация поискового алгоритма «Палех» [6]

Поисковый алгоритм «Палех» запустила компания «Яндекс»; в его основе лежит использование нейронных сетей. Он был назван «Палех» в честь Жар-птицы с длинным хвостом, которая часто появляется на палехской миниатюре.

Благодаря «Палеху» поиск лучше находит страницы, которые соответствуют не только ключевым словам, но и смыслу запроса, т.к. анализ уникальных запросов возможен только по его смысловой составляющей.

Таблица 2. Описание характеристик поисковых запросов в зависимости от уровня их частотности [6]

Схематически частотность запросов	Наполнение
Клюв (высокочастотные запросы)	Здесь список не особенно большой, но запросы из него задают очень часто. Например, какие-либо сведения по социальной сети ВКонтакте запрашиваются практически каждую минуту. Также часто пользователей интересует информация о погоде в разных частях страны.
Туловище (среднечастотные запросы)	Список в этой категории больше. Запросы из нее встречаются относительно часто. Как правило, это информация о новостях по регионам.
Хвост (низкочастотные запросы)	В эту категорию входят запросы, которые встречаются реже всего, но при этом отличаются «многословием». В своем большинстве это попытка пользователей найти фильм, песню или товар по своему, «авторскому» описанию. Часто описание выглядит сколь схематично, столь же и неуклюже.

Необходимость анализа так называемых «низкочастотных» запросов обусловлена не только их количеством, но и тем, что для них характерен минимальный уровень конкуренции, а, следовательно, возможно определить новый рыночный сегмент.

Поскольку в основе «Палех» лежит использование нейронных сетей, то необходимо сказать несколько слов об этих алгоритмах.

Разработка и обучение нейросети происходили в несколько этапов. Сначала исследователи использовали модель разработчиков из Microsoft Research под названием Deep Structured Semantic Model. На ее вход подавались тексты запросов и заголовков, которые разбивались на буквенные триграммы (для запроса «палех» получаются триграммы «па», «але», «лех», «ех»). Так как словарь всех известных триграмм ограничен, то текст запроса можно представить в виде вектора размером в несколько десятков тысяч элементов, и отметить вхождение триграмм из запроса в словарь (совпадающие триграммы отмечаются единицей, остальные — нулем). Сравнивая эти векторы можно узнать о наличии совпадающих триграмм в заголовке страницы и запросе, однако для получения вектора со «свойствами семантической близости» исследователи выполняли преобразование. Его суть заключалась в том, что на выходе модель выдавала результат скалярного умножения последних векторов заголовка и запроса. Система обучалась таким образом, что для положительных обучающих примеров выходное значение было большим, а для отрицательных — маленьким. Сравнивая векторы последнего слоя, исследователи могли вычислить ошибку предсказания и «подкрутить» нейросеть так, чтобы эта ошибка уменьшилась.

Рисунок 3. Оригинальная модель DSSM [6]

Однако определение семантической близости запроса и заголовка страницы было недостаточно эффективным, если нейросеть использовала только триграммы, поэтому разработчики увеличили размер входного слоя оригинальной модели, дополнительно включив в него около 2 миллионов слов и словосочетаний. После этого они создали набор из запросов и случайных заголовков страниц — например, для запроса «палех» случайным заголовком может быть «Правила дорожного движения 2016 РФ». Среди пар «запрос-случайный заголовок» нейросеть училась искать хорошие — то есть те, в которых слова совпадают (по сути дела, это поиск по ключевым словам). Затем исследователи использовали пары, которые система сочла плохими, для того, чтобы научить ее различать неочевидные закономерности. Они добавляли в названия страниц слова, которые соответствовали одному из слов запроса (для запроса «палехская роспись» заголовок страницы выглядел как «Правила дорожного движения 2016 РФ роспись»). В результате нейросеть научилась отличать естественные пары от составленных вручную, то есть не попадаться в ловушку программистов, но все еще не справлялась с главной задачей.

Рисунок 4. Нейросеть после расширения входного слоя [6]

Тогда программисты заставили алгоритм «воевать» против самого себя. Среди сотен случайных заголовков исследователи выбирали такой, который нейросеть считала наилучшим. Так как этот заголовок все равно был случайным, и с высокой вероятностью не соответствовал запросу, то его стали использовать в качестве отрицательного примера. Другими словами, разработчики «показывали» нейросети лучшие из случайных заголовков, обучали ее, затем искали новые лучшие случайные заголовки, снова показывали системе и так далее. Раз за разом повторяя данную процедуру, исследователи улучшили качество модели, и самые удачные случайные пары стали похожи на настоящие положительные примеры. Использованная схема обучения называется hard negative mining.

Сравнение работы «Палеха» и простого алгоритма BM25, основанного на поиске соответствия между словами в тексте запроса и заголовка показало, что нейросеть значительно лучше справляется с задачей поиска. Например, она может понять, что запросу «келлская книга» соответствует не только страница с названием «келлская книга википедия», но и может подходить страница «ирландские иллюстрированные евангелия vii viii вв». Кроме того, «Палеху» не страшна и переформулировка запроса, которая существенно затрудняет работу алгоритма BM25, и он все равно правильно определяет релевантные заголовки страниц.

Нейросети показывают отличные результаты в задачах, с которыми люди традиционно справлялись лучше машин: скажем, распознавание речи или объектов на изображениях.

Нейронная сеть обучена преобразовывать поисковые запросы и заголовки веб-страниц в группы чисел — семантические векторы. Важное свойство таких векторов состоит в том, что их можно сравнивать друг с другом: чем сильнее будет сходство, тем ближе друг к другу по смыслу запрос и заголовок. Проблема индивидуальных и в некоторых случаях уникальных запросов оставалась не решенной до внедрения нового аналитического смыслового алгоритма «королев». Поисковый алгоритм «Королёв» сравнивает семантические векторы поисковых запросов и веб-страниц целиком — а не только их заголовков. Это позволяет выйти на новый уровень понимания смысла.

Как и в случае с «Палехом», тексты веб-страниц в семантические векторы преобразует нейросеть. Эта операция требует много вычислительных ресурсов.

«Королёв» высчитывает векторы страниц не в режиме реального времени, а заранее, на этапе индексирования. Когда человек задаёт запрос, алгоритм сравнивает вектор запроса с уже известными ему векторами страниц.

Такая схема позволяет начать подбор веб-страниц, соответствующих запросу по смыслу, на ранних стадиях ранжирования. В «Палехе» смысловой анализ — один из завершающих этапов: через него проходят всего 150 документов. В «Королёве» он производится для 200 тысяч документов — то есть в тысячу с лишним раз больше. Кроме того, новый алгоритм не только сравнивает текст веб-страницы с поисковым запросом, но и обращает внимание на другие запросы, по которым люди приходят на эту страницу. Так можно установить дополнительные смысловые связи.

Нейронная сеть, которую использует алгоритм «Королёв», обучается на обезличенной поисковой статистике. Системы сбора статистики учитывают, на какие страницы пользователи переходят по тем или иным запросам и сколько времени они там проводят. Если человек открыл веб-страницу и «остался» там надолго, вероятно, он нашёл то, что искал, — то есть страница хорошо отвечает на его запрос.

Современные системы исследования  цифрового поведения потребителей, описанные в статье, вероятно будут постоянно трансформироваться, сталкиваясь в том числе с этическими проблемами сублиминальной рекламы. Этические аспекты нейромаркетинга подвергаются критике в связи с тем, что существуют обоснованные опасения о манипулировании потребителями. С большими знаниями приходит большая ответственность.