Мета представила Llama 3: новые возможности и преимущества

Недавно Meta вышла на передовые позиции в области открытых LLM с серией Llama. После успеха Llama 2, Meta представила Llama 3, обещающую существенные улучшения и новые возможности. Давайте рассмотрим, какие изменения произошли от Llama 2 к Llama 3, выделим ключевые отличия и их значение для сообщества искусственного интеллекта.

Llama 2

Llama 2 значительно продвинула вход Meta в открытые языковые модели. Предназначенная для использования отдельными лицами, исследователями и бизнесом, Llama 2 предоставляет надежную платформу для экспериментов и инноваций. Она была обучена на обширном наборе данных из 2 триллионов токенов, включая общедоступные онлайн-источники данных. Тонко настроенная вариант, Llama Chat, использовала более 1 миллиона аннотаций, улучшая свою производительность в реальных приложениях. Llama 2 подчеркнула безопасность и полезность через обучение с подкреплением от обратной связи человека (RLHF), включая такие техники, как отбор образцов и оптимизация ближней политики (PPO). Эта модель заложила основу для более широкого использования и коммерческих приложений, демонстрируя приверженность Meta к ответственному развитию искусственного интеллекта.

Llama 3

Llama 3 представляет собой существенный скачок от своего предшественника, включая многочисленные усовершенствования в архитектуре, обучающих данных и протоколов безопасности. С новым токенизатором, включающим словарь из 128 тысяч токенов, Llama 3 достигает более эффективного кодирования языка. Обучающий набор данных модели расширился до более 15 триллионов токенов, в семь раз больше, чем у Llama 2, включая разнообразный набор данных и значительное количество текста на не-английском языке для поддержки мультиязычных возможностей. Архитектура Llama 3 включает улучшения, такие как Grouped Query Attention (GQA), значительно повышающие эффективность вывода. Процесс тонкой настройки инструкций был усовершенствован с помощью передовых техник, таких как прямая оптимизация предпочтений (DPO), что делает модель более способной к выполнению задач, таких как рассуждение и кодирование. Интеграция новых инструментов безопасности, таких как Llama Guard 2 и Code Shield, дополнительно подчеркивает фокус Meta на ответственном развертывании искусственного интеллекта.

Эволюция от Llama 2 к Llama 3

Llama 2 была значительным вехой для Meta, предоставляя открытую высокопроизводительную LLM, доступную для многих пользователей, от исследователей до бизнеса. Она была обучена на огромном наборе данных из 2 триллионов токенов, и ее тонко настроенные версии, такие как Llama Chat, использовали более 1 миллиона аннотаций для улучшения производительности и удобства использования. Однако Llama 3 берет эти основы и развивает их с еще более продвинутыми функциями и возможностями.

Основные улучшения в Llama 3

Архитектура модели и токенизация:

Llama 3 использует более эффективный токенизатор с словарем из 128 тысяч токенов по сравнению с более маленьким токенизатором в Llama 2. Это приводит к лучшему кодированию языка и улучшенной производительности модели.

Архитектура Llama 3 включает улучшения, такие как Grouped Query Attention (GQA), для повышения эффективности вывода.

Обучающие данные и масштабируемость:

Обучающий набор данных для Llama 3 в семь раз больше, чем у Llama 2, с более чем 15 триллионами токенов. Это включает разнообразные источники данных, включая в четыре раза больше кодовых данных и значительное количество текста на не-английском языке для поддержки мультиязычных возможностей.

Обширное масштабирование предварительных данных и разработка новых законов масштабирования позволили Llama 3 оптимизировать производительность на различных бенчмарках.

Тонкая настройка инструкций:

Llama 3 включает передовые техники пост-тренировки, такие как контролируемая тонкая настройка, отбор образцов, оптимизация ближней политики (PPO) и прямая оптимизация предпочтений (DPO), чтобы улучшить производительность, особенно в задачах рассуждения и кодирования.

Безопасность и ответственность:

С новыми инструментами, такими как Llama Guard 2, Code Shield и CyberSec Eval 2, Llama 3 подчеркивает безопасное и ответственное развертывание. Эти инструменты помогают фильтровать небезопасный код и оценивать кибербезопасные риски.

Развертывание и доступность:

Llama 3 разработана для доступа на различных платформах, включая AWS, Google Cloud, Microsoft Azure и другие. Она также поддерживает различные аппаратные платформы, включая AMD, NVIDIA и Intel.

Сравнительная таблица

Вывод

Переход от Llama 2 к Llama 3 означает значительный прорыв в разработке открытых LLM. С ее продвинутой архитектурой, обширными обучающими данными и надежными мерами безопасности Llama 3 устанавливает новый стандарт для возможностей LLM. Пока Meta продолжает совершенствовать и расширять возможности Llama 3, сообщество искусственного интеллекта может ожидать будущего, где мощные, безопасные и доступные инструменты искусственного интеллекта будут доступны каждому.

Источники:

https://llama.meta.com/llama2/

https://ai.meta.com/blog/meta-llama-3/