SecCodePLT: Единая платформа для оценки рисков безопасности в коде GenAI

SECCODEPLT: Платформа для оценки рисков безопасности в AI-генерации кода

Модели AI для генерации кода (Code GenAI) становятся ключевыми в разработке автоматизированного программного обеспечения. Они способны писать, отлаживать и анализировать код. Однако их автономная генерация кода вызывает опасения по поводу безопасности.

Проблемы безопасности

Одна из главных проблем заключается в том, что эти модели могут случайно создавать небезопасный код, который может быть использован злоумышленниками. Необходима оценка рисков, чтобы обеспечить безопасное использование AI-генерированного кода.

Пробелы в текущих методах оценки

Существующие методы, такие как CYBERSECEVAL, в основном фокусируются на статическом анализе. Это приводит к неточностям, создавая ложные срабатывания или пропуская уязвимости. Нужны динамические тесты, которые отражают реальные угрозы безопасности.

Платформа SECCODEPLT

Исследовательская команда из Virtue AI и университетов Калифорнии разработала SECCODEPLT — платформу для комплексной оценки рисков небезопасного кода и помощи в кибератаках. SECCODEPLT использует данные, подтвержденные экспертами, и динамические метрики для оценки рисков.

Методология SECCODEPLT

Платформа проходит через два этапа. На первом этапе эксперты создают примеры на основе уязвимостей. На втором — с использованием LLM создаются большие объемы данных, сохраняя исходный контекст безопасности.

Доказанная эффективность

SECCODEPLT показала высокую точность в выявлении уязвимостей и значительно превзошла CYBERSECEVAL. Платформа выявила серьезные уязвимости в современных моделях, таких как Cursor, что подчеркивает ее эффективность.

Заключение

SECCODEPLT существенно улучшает существующие методы оценки рисков безопасности моделей AI для генерации кода. Платформа предлагает более точный и комплексный взгляд на риски, связанные с AI-генерированным кодом.

Если вы хотите, чтобы ваша компания развивалась с помощью искусственного интеллекта (ИИ), пользуйтесь SECCODEPLT.

Определите, где возможно применение автоматизации, и выберите подходящее ИИ-решение. Внедряйте ИИ постепенно, анализируйте результаты и расширяйте автоматизацию на основании полученных данных.