“`html

Проблема “взлома” крупных языковых моделей и их безопасность

С появлением крупных языковых моделей (LLM) возникла серьезная проблема “взлома”, которая представляет угрозу безопасности. “Взлом” заключается в использовании уязвимостей этих моделей для создания вредного или неприемлемого контента. Поскольку LLM, такие как ChatGPT и GPT-3, все чаще интегрируются в различные приложения, обеспечение их безопасности и соответствия этическим стандартам становится важным. Несмотря на усилия по выравниванию этих моделей с рекомендациями по безопасному поведению, злоумышленники все равно могут создавать конкретные запросы, обходящие эти защиты, что приводит к производству токсичного, предвзятого или иным образом неприемлемого контента. Эта проблема представляет существенные риски, включая распространение дезинформации, укрепление вредных стереотипов и потенциальное злоупотребление в злонамеренных целях.

Методы “взлома” в настоящее время

В настоящее время методы “взлома” в основном включают создание конкретных запросов для обхода выравнивания модели. Эти методы можно разделить на две категории: методы дискретной оптимизации и методы, основанные на векторных представлениях слов. Методы дискретной оптимизации включают прямую оптимизацию дискретных токенов для создания запросов, способных взламывать LLM. Хотя эта методика эффективна, она часто требует значительных вычислительных затрат и может потребовать значительного пробного и ошибочного подхода для определения успешных запросов. С другой стороны, методы, основанные на векторных представлениях, позволяют злоумышленникам оптимизировать векторные представления токенов (векторные представления слов) для поиска точек в пространстве векторных представлений, которые могут привести к “взлому”. Эти представления затем преобразуются в дискретные токены, которые могут быть использованы в качестве входных запросов. Этот метод может быть более эффективным, чем дискретная оптимизация, но все равно сталкивается с проблемами в плане устойчивости и обобщаемости.

Новый метод с использованием визуальной модальности

Команда исследователей из Университета Сидиан, Университета Сиань Джаотунг, исследовательской компании Wormpex AI Research и Meta предлагает новый метод, который вводит визуальную модальность в целевую LLM, создавая мультимодельную крупную языковую модель (MLLM). Этот подход включает создание MLLM путем интеграции визуального модуля в LLM, выполнение эффективного “взлома” MLLM для генерации векторных представлений “взлома” (embJS), а затем преобразование этих представлений в текстовые запросы (txtJS) для “взлома” LLM. Основная идея заключается в том, что визуальные входы могут предоставлять более богатые и гибкие подсказки для создания эффективных запросов “взлома”, потенциально преодолевая некоторые ограничения чисто текстовых методов.

Оценка производительности метода

Производительность предложенного метода была оценена с использованием мультимодального набора данных AdvBench-M, который включает различные категории вредного поведения. Исследователи протестировали свой подход на нескольких моделях, включая LLaMA-2-Chat-7B и GPT-3.5, продемонстрировав значительные улучшения по сравнению с современными методами. Результаты показали более высокую эффективность и эффективность, с заметным успехом в “взломе” между классами, где запросы, разработанные для одной категории вредного поведения, также могли “взламывать” другие категории.

Заключение

Предложенный метод, путем включения визуальных входов, улучшает гибкость и богатство запросов “взлома”, превосходя существующие современные техники. Этот подход демонстрирует превосходные возможности межклассового “взлома” и улучшает эффективность и эффективность атак “взлома”, представляя новые вызовы для обеспечения безопасного и этичного развертывания передовых языковых моделей. Полученные результаты подчеркивают важность разработки надежных защит от мультимодального “взлома” для поддержания целостности и безопасности систем искусственного интеллекта.

“`