Новое поколение моделей встраивания от Voyage AI: Voyage-3 и Voyage-3-Lite
Практические решения и ценность:
Модели Voyage-3 и Voyage-3-Lite разработаны для превосходства над существующими стандартами отрасли в различных областях, таких как технологии, право, финансы, многоязычные приложения и понимание длинного контекста.
Согласно оценкам Voyage AI, модель Voyage-3 превосходит крупную модель V3 от OpenAI в среднем на 7,55% по всем протестированным областям, включая техническую документацию, код, право, финансы, веб-контент, многоязычные данные, длинные документы и разговорные данные.
В то же время Voyage-3 достигает этого с затратами в 2,2 раза ниже и размером векторной базы данных в 3 раза меньше, что переводится в значительное снижение затрат на векторную базу данных.
Аналогично, Voyage-3-Lite предлагает на 3,82% лучшую точность извлечения, чем крупная модель V3 от OpenAI, с 6-кратно меньшими затратами и размером векторной базы данных.
Эффективность затрат без ущерба качеству:
Новые модели серии Voyage-3 ориентированы на эффективность затрат. С длиной контекста 32 000 токенов, в четыре раза больше, чем у OpenAI, Voyage-3 является экономически целесообразным решением для бизнеса, требующего высококачественного извлечения без разорения. Например, стоимость Voyage-3 составляет $0,06 за миллион токенов, что на 1,6 раза дешевле, чем Cohere English V3 и значительно доступнее, чем крупная модель V3 от OpenAI.
Технические характеристики и инновации:
Несколько исследовательских инноваций лежат в основе разработки моделей Voyage-3 и Voyage-3-Lite. Модели имеют улучшенную архитектуру, использующую дистилляцию из более крупных моделей и предварительное обучение на более чем 2 триллионах качественных токенов.
Ключевые технические характеристики моделей серии Voyage-3:
Voyage-3:
- Размеры: 1024
- Длина контекста: 32 000 токенов
- Стоимость: $0,06 за миллион токенов
- Качество извлечения (NDCG@10): 76 (превосходит крупную модель V3 от OpenAI на 7,55%)
Voyage-3-Lite:
- Размеры: 512
- Длина контекста: 32 000 токенов
- Стоимость: $0,02 за миллион токенов
- Качество извлечения (NDCG@10): 72 (превосходит крупную модель V3 от OpenAI на 3,82%)
Приложения и применение:
Модели серии Voyage-3 подходят для широкого спектра отраслей, позволяя применять их в таких областях, как техническая документация, код, право, финансы и многоязычные приложения.
Рекомендации для пользователей:
Voyage AI рекомендует всем пользователям встраивания обновиться до Voyage-3 для улучшенного качества извлечения по низкой цене. Voyage-3-Lite предлагает отличный баланс между производительностью и доступностью для тех, кто ищет средства экономии. Специализированные случаи использования, такие как код, право и финансы, также могут воспользоваться моделями серии Voyage-2, хотя Voyage-3 также обладает высокой конкурентоспособностью в этих областях.
Будущие разработки:
Команда Voyage AI продолжает работать над расширением возможностей моделей серии Voyage-3. В ближайшие недели ожидается выпуск Voyage-3-Large, который установит новый стандарт для масштабных общего назначения встраиваний, укрепляя позиции Voyage AI в качестве лидера в этой области.