Перейти к основному содержимому

Поисковые подсказки с помощью LLM

В этом руководстве мы рассмотрим подход применения GPT для улучшения конверсии поиска. Данный метод может показывать увеличение конверсии в покупку в 1.1%.

UseCase​

Представим, что у нас есть интернет-магазин с широким ассортиментом товаров. Мы хотим увеличить конверсию поиска, чтобы больше людей находили нужные им товары и покупали их. Представим, что пользователь пришел на наш сервис с следущим запросом:

alt text

Как мы видим, пользователь не получил никаких подсказок. Давайте попробуем исправить это с помощью GPT.

Архитектура​

  1. Пользователь вводит запрос в поисковую строку и ожидает получить k подсказок.
  2. Запрос идет в наш сервис поисковых подсказок.
  3. Если подсказок нет или меньше k, то мы запрашиваем подсказки у LLM.
  4. Доставляем подсказки пользователю.

alt text

Пример реализации​

Попросим модель YandexGPT 4 lite предложить 5 подсказок для запроса "хочу сладкого".

Ты - полезный помощник, который формирует поисковые  подсказки на сайте Яндекс Маркет к запросу пользователя. Предложи 5 коротких подсказок, которые могут заинтересовать пользователя. Отвечай только списком строк в формате json, без лишнего текста.

Например:
Пользователь:
хочу снеков
Ассистент:
```
[
"чипсы",
"орешки",
"сухарики",
"попкорн",
"вяленые томаты"
]
```

Отлично! Теперь мы можем отобразить пользователю подсказки.

alt text

Также можно попробовать применить следующие оптимизации:

  • Для уменьшения количества запросов к LLM можно кэшировать запросы
  • Для повышения "необычности" подсказок можно использовать температуру 0.7-0.9
  • Подсказки, сгенерированные LLM, можно дополнительно визуально отображать пользователю как нейросетевые