Применение искусственного интеллекта в разработке программного обеспечения

Автоматизация и помощь в написании кода имеют потенциал преобразить разработку программного обеспечения, сделав ее быстрее и эффективнее. Однако обеспечение безопасности и полезности сгенерированного кода является вызовом.

Проблема безопасности и эффективности кода

Модели языковых моделей с ограниченной памятью (LLM) могут сталкиваться с трудностями при обработке неоднозначных или злонамеренных инструкций, что может привести к уязвимостям безопасности. Текущие методы, такие как настройка моделей и внедрение правил для выявления небезопасных шаблонов, могут быть недостаточными.

Решение от Salesforce Research: INDICT

Исследователи Salesforce Research представили новую систему под названием INDICT, которая способствует улучшению безопасности и полезности сгенерированного кода. Эта система позволяет модели получать обратную связь от двух критиков, что приводит к значительному улучшению качества кода.

Практические результаты INDICT

Оценка INDICT показала значительное улучшение безопасности и полезности сгенерированного кода. Например, в бенчмарке CyberSecEval-1 INDICT улучшил безопасность сгенерированного кода на 30%, а полезность превзошла существующие базовые показатели на 70%.

Заключение

INDICT представляет собой прорывное решение для повышения безопасности и полезности кода, сгенерированного LLM. Эта система обеспечивает детальные обратные связи, которые направляют модели к созданию более качественного кода. Ее выдающаяся производительность подчеркивает потенциал установления новых стандартов ответственного использования ИИ в области программирования.