«`html
Новый текст-картинка диффузионный трансформатор Hunyuan-DiT с тонкой градацией понимания и английских, и китайских языков
В недавнем исследовании был разработан текстово-графический трансформатор под названием Hunyuan-DiT с целью понимания английских и китайских текстов. Несколько ключевых элементов и процедур были использованы в создании Hunyuan-DiT для гарантированного высококачественного создания изображений и тонкого понимания языка.
Основные компоненты Hunyuan-DiT:
- Структура трансформатора: архитектура трансформатора Hunyuan-DiT разработана для максимизации способности модели создавать визуальное представление на основе текстовых описаний. Это включает улучшение способности модели обрабатывать сложные языковые вводы и обеспечение точной записи данных.
- Двуязычное и многозычное кодирование: способность Hunyuan-DiT корректно интерпретировать запросы в значительной степени зависит от текстового кодировщика. Модель использует преимущества обоих кодировщиков: двуязычный CLIP, обрабатывающий как английский, так и китайский, и многозычный T5 кодировщик для улучшения понимания контекста.
- Улучшенное позиционирование кодирования: алгоритмы позиционного кодирования Hunyuan-DiT были настроены для более эффективной обработки последовательного характера текста и пространственных характеристик изображений.
Разработанная командой обширная система обработки данных включает:
- Сбор и курирование данных: сбор большого и разнообразного набора пар текст-изображение.
- Аугментация и фильтрация данных: добавление дополнительных примеров в набор данных и удаление ненужных или низкого качества данных.
- Итеративная оптимизация модели: постоянное обновление и улучшение производительности модели на основе свежих данных и обратной связи пользователей с применением методики «конвоя данных».
Для улучшения точности понимания языка модель MLLM была специально обучена командой для улучшения подписей, соответствующих фотографиям. Используя контекстуальные знания, эта модель генерирует точные и детальные подписи, улучшая качество создаваемых изображений.
Hunyuan-DiT облегчает многоразовые диалоги, позволяющие интерактивную генерацию изображений. Это означает, что в течение нескольких итераций вовлечения люди могут предоставлять входные данные и улучшать создаваемые изображения, что приводит к более точным и удовлетворительным результатам.
Для оценки Hunyuan-DiT команда разработала строгую методологию оценки с участием более 50 квалифицированных экспертов. Эта методика измеряет ясность сюжета, качество изображения, отсутствие искусственных артефактов ИИ, согласованность текста и изображения и другие элементы созданных изображений. По сравнению с другими моделями с открытым исходным кодом оценки показали, что Hunyuan-DiT обеспечивает современные показатели производительности в создании изображений из китайских текстов. Он отлично подходит для создания четких, семантически правильных визуальных представлений в ответ на китайские намеки.
В заключение, Hunyuan-DiT является значительным прорывом в создании текста-изображения, особенно для китайских запросов. Он обеспечивает выдающуюся производительность в создании детальных и контекстно точных изображений за счет тщательной разработки структуры трансформатора, текстовых кодировщиков и позиционного кодирования, а также установления надежной системы обработки данных. Возможность интерактивных многоходовых диалогов дополнительно повышает его полезность, делая его эффективным инструментом для различных областей применения.
Посмотрите Paper and GitHub. Вся заслуга за это исследование принадлежит исследователям этого проекта. Также не забудьте подписаться на нас в Twitter. Присоединяйтесь к нам в Telegram Channel, Discord Channel и LinkedIn Group.
Если вам понравилась наша работа, вам понравится наш newsletter.
Не забудьте присоединиться к нашей 42k+ ML SubReddit.
Этот пост был опубликован на MarkTechPost.