Языковые модели обучения (LLM)
Языковые модели обучения (LLM), которые отлично справляются с рассуждениями и дают хорошие ответы, иногда честно признают свои ошибки и могут начать галлюцинировать, когда задаются вопросы, которые они ранее не видели. Поэтому очень важно понимать, как получить достоверные оценки уверенности от LLM, особенно когда ответы содержат более одного токена.
Проблема доверия LLM
В прошлом использовались как подходы, основанные на обучении, так и подходы, основанные на подсказках, для получения уверенности от LLM. Подходы, основанные на подсказках, используют конкретные подсказки для создания оценок уверенности или индикации согласованности ответов. Для обучения LLM на обучающих методах создают настраиваемые наборы данных. Однако эти методы часто дают менее чем идеальные или упрощенные оценки уверенности, которые не отражают достоверно степень уверенности моделей.
Решение: SaySelf
Новое исследование внедряет SaySelf – обучающую систему для LLM, которая помогает им производить оценки уверенности с увеличенной точностью и достоверностью. SaySelf позволяет LLM предоставлять саморефлексирующие обоснования, показывающие их недостаток знаний и объясняющие их оценки уверенности. Для этого исследователи используют предварительно созданную LLM (например, GPT4), чтобы автоматически создать набор данных, настроенный на модель, который затем можно использовать для надзорной настройки.
Исследователи калибруют оценку уверенности LLM в каждом ответе с помощью обучения с подкреплением для обеспечения точных оценок уверенности. Они разрабатывают систему оплаты, которая отговаривает LLM от делания слишком уверенных прогнозов и наказывает их за ошибки. Различные задачи вопросно-ответного характера, такие как сложные медицинские диагнозы или анализ юридических случаев, используются для оценки SaySelf в экспериментах. Исследование показывает, что SaySelf поддерживает производительность задач и существенно снижает ошибки калибровки уверенности.
Заключение
Используя подход SaySelf, ваша компания может значительно улучшить результаты обучения LLM и прогнозирования. Не забывайте, что внедрение ИИ-решений лучше начинать с небольших проектов, постепенно анализируя результаты и KPI, чтобы расширить автоматизацию и повысить эффективность бизнеса.
