Эффективное вычисление скрытых запросов и представлений элементов для приближения CE-оценок

Кросс-энкодер (CE) модели оценивают сходство, одновременно кодируя пару запрос-элемент, превосходя dot-product с моделями на основе вложений при оценке релевантности запроса-элемента. Текущие методы выполняют поиск k-NN с CE, аппроксимируя CE-сходство с векторным пространством вложений, подходящим для двойных энкодеров (DE) или факторизации матрицы CUR. Однако методы на основе DE сталкиваются с проблемами низкой полноты из-за плохой обобщенности новых доменов и отделения тестового времени извлечения с DE от CE. Таким образом, методы на основе DE и CUR недостаточны для определенной настройки приложения в поиске k-NN.

Практические решения и ценность:

Метод оптимально вычисляет скрытые запросы и представления элементов для приближения CE-оценок и выполняет поиск k-NN с использованием аппроксимации CE-сходства. Проведены тщательные оценки методов и базовых линий на задачах, таких как поиск k-ближайших соседей для CE-моделей и последующие задачи. Эксперименты проводились на двух наборах данных, ZESHEL и BEIR, где для обоих использовались отдельные CE-модели, обученные на данных с маркировкой истинности.

Подробнее ознакомиться с исследованием.

Все права на это исследование принадлежат его авторам.

Не забудьте подписаться на наш Twitter.

Присоединяйтесь к нашему каналу в Telegram, Discord и группе в LinkedIn.

Если вам нравится наша работа, вам понравится наша рассылка.

Не забудьте присоединиться к нашему сообществу в Reddit.