Абрамович Роман Константинович, Добрынин Вячеслав Юрьевич, Платонов Алексей Владимирович

Университет ИТМО

Традиционные методы поиска, основанные на разреженных представлениях, характеризуются высокой производительностью, но ограниченным качеством в связи с неспособностью учитывать семантические связи в данных. С другой стороны, плотные векторные представления позволяют улучшить качество благодаря захвату семантических отношений в данных. Однако, эти методы сталкиваются с проблемами масштабируемости и требуют значительных вычислительных ресурсов. С развитием глубоких нейронных сетей, в том числе архитектур на основе трансформеров, появляется все больше работ, целью которых является объединить два подхода. Цель представленной обзорно- аналитической статьи – сравнить существующие работы, использующие глубокие модели для формирования разреженных представлений.

глубокие нейронные сети, семантический поиск, вычислительные ресурсы, разреженные представления, инвертированный индекс