Архитектура AI‑консультанта для каталога на 200 000 товаров: Qwen, FastAPI и поиск
Когда мы начали работать над AI-консультантом для интернет-магазина, идея была достаточно простой: помочь пользователю быстрее находить нужную информацию о товарах и упростить выбор. В интернет-магазинах уже есть поиск, фильтры и карточки товаров. Но этого часто недостаточно, ...
Архитектура AI-консультанта для каталога на 200 000 товаров: Qwen, FastAPI и поиск
Введение
Когда мы начали работать над AI-консультантом для интернет-магазина, идея была достаточно простой: помочь пользователю быстрее находить нужную информацию о товарах и упростить выбор. В интернет-магазинах уже есть поиск, фильтры и карточки товаров. Но этого часто недостаточно, когда человек приходит не с конкретным названием товара, а с задачей. Например: «Мне нужен инструмент для ремонта квартиры» или «Чем отличаются эти два товара и какой подойдет лучше?» В офлайн-магазине в такой ситуации можно обратиться к консультанту: объяснить задачу, уточнить детали и получить несколько вариантов. Мы хотели перенести похожий сценарий на сайт. Но довольно быстро стало понятно, что схема «пользователь → LLM → ответ» для этого не подходит. Нужно понять запрос, сохранить контекст разговора, решить, нужен ли каталог, найти в нем товары, получить актуальную цену, при необходимости обратиться к базе знаний и только после этого дать модели данные для ответа.
Проект мы разрабатывали командой ASAP, и в этой статье разберем, как мы подошли к проектированию AI-консультанта: устроили взаимодействие LLM с каталогом более чем из 200 тысяч товаров, какие задачи оставили коду, как работаем с актуальными ценами и остатками и почему вокруг языковой модели в итоге пришлось построить достаточно большой слой классической backend-логики.
Архитектура и Реализация AI-консультанта
Система Qwen и FastAPI
Проект AI-консультанта был реализован на базе Qwen, AI-консультанта, созданного Alibaba Cloud, и FastAPI, фреймворка для разработки веб-приложений на Python. FastAPI позволяет быстро и эффективно создавать серверы и API с использованием стандартной библиотеки для Python. Мы использовали его для реализации интерфейса, который позволяет пользователям задавать вопросы и получать ответы на основе данных каталога товаров.
Каталог товаров
Каталог товаров был разработан в виде индексируемого списка более чем из 200 тысяч товаров. Мы обеспечивали быструю и точную поисковую систему, чтобы пользователи могли быстро находить нужные товары. Внутренний индекс и мемоизация помогли улучшить производительность и снизить нагрузку на базу данных.
Поиск и Фильтрация
Мы использовали интеграцию с FastAPI для реализации функциональности поиска и фильтрации. Это позволяло пользователям быстро находить товары, даже если они не знали точного названия или характеристик. Мы также реализовали сложные фильтры, чтобы пользователи могли получить более точные результаты по запросу.
Обновление цен и остатков
Использование FastAPI также позволило нам эффективно обновлять цены и остатки товаров. Мы создали механизм, который автоматически обновлял данные в базе данных в реальном времени, обеспечивая актуальную информацию для пользователей.
Проблемы и Решения
Сложность работы с Языковыми Моделями
Проект стал сложным из-за необходимости работы с языковыми моделями (LLM). Мы столкнулись с необходимостью понимания запросов, сохранения контекста разговора и выбора товаров. В ходе работы мы столкнулись с необходимостью обновления цены и остатков товаров, что потребовало построения слоя классической backend-логики, который работает над этими данными.
Решение с помощью FastAPI
Чтобы решить эту проблему, мы использовали FastAPI. Этот фреймворк позволяет эффективно взаимодействовать с языковыми моделями и обеспечивает быстрые ответы пользователям, даже при обновлении цен и остатков товаров.
Выводы
Проект AI-консультанта на основе Qwen и FastAPI стал примером успешного сочетания языковых моделей и классической backend-логики для решения задач, связанных с обработкой пользовательских запросов и обеспечением актуальной информации о товарах. Мы считаем, что это важный шаг в развитии интеллектуальных приложений для интернет-магазинов и других бизнес-сценариев.
FAQ
1. Почему Qwen и FastAPI были выбраны для реализации AI-консультанта?**
Qwen был выбран Alibaba Cloud, создателем AI-консультанта, из-за его высоких возможностей для анализа и понимания текстов. FastAPI был выбран из-за его простоты и высокой производительности, позволяющей быстро создавать интерфейсы и API.
2. Почему не было использовано более сложные языковые модели?**
Для большинства задач AI-консультанта более сложные языковые модели не были необходимы, так как Qwen и FastAPI могли эффективно обрабатывать запросы и предоставлять актуальные данные о товарах.
3. Как обеспечивается актуальность данных о ценах и остатках товаров?**
Для обеспечения актуальности данных мы используем FastAPI для обновления цен и остатков товаров в реальном времени. Мы также реализовали механизмы для постоянного обновления индекса товаров и данных базы данных.
Список Ссылок
Архитектура AI-консультанта для каталога на 200 000 товаров: Qwen, FastAPI и поиск
BotHub vs OpenRouter: техническое и ценовое сравнение API-платформ для работы с LLM
.fsecurity — как можно разделять файлы, базы данных и ключи шифрования
Источники
https://habr.com/ru/articles/1074178/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1074178
https://habr.com/ru/companies/bothub/articles/1074176/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1074176
https://habr.com/ru/articles/1074172/?utm_source=habrahabr&utm_medium=rss&utm_campaign=1074172