«`html
OpenAI Introduces CriticGPT: A New Artificial Intelligence AI Model based on GPT-4 to Catch Errors in ChatGPT’s Code Output
В сфере искусственного интеллекта (ИИ) стремительно развиваются новые технологии, и крайне важно точно оценивать результаты моделей. Современные системы ИИ, такие как те, которые основаны на архитектуре GPT-4, обучаются с использованием метода обучения с подкреплением с обратной связью от людей (RLHF). Поскольку для людей обычно быстрее и проще оценивать результаты, созданные ИИ, чем создавать идеальные примеры, этот подход использует человеческие оценки для направления процесса обучения. Однако даже специалистам сложно последовательно оценивать точность и качество этих результатов по мере усложнения моделей ИИ.
CriticGPT: Практическое Решение
Для преодоления этой проблемы исследователи OpenAI разработали CriticGPT, важный инструмент, который помогает обучающим людям выявлять ошибки в ответах ChatGPT. Основная цель CriticGPT — предоставлять детальные критики, выявляющие ошибки, особенно в выводах кода. Эта модель создана для преодоления врожденных ограничений человеческого обзора в RLHF, предлагая масштабный механизм надзора, который повышает точность и надежность систем ИИ.
Эксперименты показали, что люди, оценивающие выводы кода ChatGPT с помощью CriticGPT, демонстрировали на 60% лучшие результаты, чем те, кто не получал такой помощи. Этот значительный прогресс подчеркивает способность CriticGPT улучшать сотрудничество между человеком и ИИ, а также обеспечивать более детальные и точные оценки результатов ИИ.
В свете этих великолепных результатов предпринимаются попытки интегрировать модели типа CriticGPT в процесс маркировки RLHF. Через эту интеграцию обучающие ИИ будут иметь доступ к явной поддержке ИИ, что упростит оценку выводов сложных систем ИИ. Это важное развитие, поскольку оно решает одну из основных проблем RLHF — то, что обучающим людям сложнее выявлять маленькие ошибки во все более сложных моделях ИИ.
Практическое Применение
Через RLHF ChatGPT, основанный на серии GPT-4, предназначен быть информативным и увлекательным. Обучающие ИИ играют ключевую роль в этом процессе, оценивая различные ответы ChatGPT для сбора сравнительных данных. По мере улучшения точности ChatGPT с продолжением рассуждений и достижением прорывов в поведении модели, ее ошибки становятся все более тонкими. Это усложняет процесс сравнения, лежащий в основе RLHF.
CriticGPT способен писать глубокие критики, указывающие на ошибки в ответах ChatGPT. CriticGPT улучшает общую точность и надежность процесса оценки, помогая обучающим ИИ выявлять мельчайшие ошибки. Благодаря этому обеспечивается соответствие сложных моделей ИИ их намеченным поведенческим и целевым характеристикам, что делает это улучшение очень значимым.
Основные Вклады Команды
Команда предложила первый пример простой и масштабируемой техники надзора, которая значительно помогает людям более тщательно выявлять проблемы в реальных данных RLHF.
В ходе обучения ChatGPT и CriticGPT команда обнаружила, что критики, созданные CriticGPT, обнаруживают больше вставленных ошибок и предпочтительнее, чем те, которые написаны человеческими контракторами.
Согласно исследованию, команды, состоящие из моделей-критиков и человеческих контракторов, генерируют более тщательные критики по сравнению с контракторами, работающими в одиночку. Партнерство моделей и человеческих контракторов снижает возникновение галлюцинаций по сравнению с обзорами, созданными исключительно моделями.
Это исследование представляет Force Sampling Beam Search (FSBS), технику выборки и оценки во время вывода. Эта стратегия хорошо балансирует компромисс между минимизацией ложных проблем и обнаружением реальных ошибок в критиках, созданных LLM.
Подробности и статью можно найти на официальном сайте OpenAI. Вся заслуга за это исследование принадлежит исследователям этого проекта.
«`
