Поисковая система LOTUS для анализа больших наборов структурированных и неструктурированных данных с использованием LLMs

 LOTUS: A Query Engine for Reasoning over Large Corpora of Unstructured and Structured Data with LLMs

LOTUS: Программный модуль для обработки запросов с использованием искусственного интеллекта

Современные языковые модели обладают семантическими возможностями, позволяющими выполнять продвинутый анализ и рассуждения над обширными корпусами знаний. Однако для выполнения сложных задач, таких как краткое изложение недавних исследований, извлечение биомедицинской информации или анализ внутренних бизнес-транскриптов, существующим системам требуются более высокоуровневые абстракции для семантических запросов большого объема данных. Например, в процессе проверки фактов на наборе данных FEVER, программы LOTUS повысили точность до 9,5% и сократили время выполнения на 7-34 раза по сравнению с современными трубопроводами.

Программный модуль LOTUS: решения и практическое применение

LOTUS – это программный модуль, который позволяет разработчикам создавать запросы, используя искусственный интеллект, для обработки больших наборов данных, включая структурированные и неструктурированные данные. Это расширение реляционной модели операторами, такими как `sem_filter` для фильтрации, `sem_join` для соединения таблиц и другие операторы для агрегации, ранжирования и кластеризации. LOTUS поддерживает естественно-языковые выражения (langex) и оптимизационные методы, такие как пакетная обработка, модельные каскады и индексы семантической близости, обеспечивая решение сложных запросов и повышение производительности.

Преимущества и перспективы применения

Оценка LOTUS показывает его программную модель и эффективность в приложениях, таких как проверка фактов, классификация по нескольким меткам и поиск с ранжированием. Например, в экспериментах программа LOTUS достигает улучшения точности и существенно ускоряет выполнение задачи классификации по нескольким меткам. Помимо этого, LOTUS превосходит другие методы в поиске и ранжировании, демонстрируя свои оптимизационные возможности и потенциал для аналитики над обширными корпусами знаний.

Завершение

Исследование предлагает семантические операторы и программный модуль LOTUS для выполнения распределенной семантической обработки большого объема данных. Эти операторы обеспечивают возможность составления сложных запросов и демонстрируют эффективность в различных приложениях, подтверждая свою эффективность и потенциал для аналитики над обширными корпусами знаний.

Больше информации доступно в исследовании и на GitHub. Вся заслуга за это исследование принадлежит ученым, работающим над проектом. Оставайтесь на связи с нами через Twitter, Telegram и LinkedIn. Если вам интересно наше исследование, подпишитесь на нашу новостную рассылку.

Не забудьте присоединиться к нашему сообществу на Reddit и следить за предстоящими вебинарами по искусственному интеллекту.

Текст редактировался и адаптировался компанией Flycode.ru. Подробнее о наших решениях в области искусственного интеллекта доступно по ссылке: Flycode.ru – решения в области искусственного интеллекта.

Если вам нужны консультации по внедрению интеллектуальных решений, пишите нам в Telegram: Flycode.ru – консультации по ИИ

Мобильная разработка на заказ и готовые решения

Мобильная разработка

Готовые и индивидуальные решения

Веб решения - разработка сайтов и сервисов

Web решения

Получите бесплатную консультацию по веб-разработке прямо сейчас

Аутсорсинг, подбор специалистов и команд разработки

Аутсорсинг

Выберите своего специалиста сегодня и начните свой проект