Новый подход к пониманию ИИ-моделей в медицинском изображении
Последние достижения в области машинного обучения активно используются для улучшения здравоохранения. Однако модели часто не дают четкого понимания того, как изменения визуальных данных влияют на принятие решений ИИ. Это создает необходимость в объяснении того, какие сигналы модели изучили. Это важно для построения доверия среди медицинских специалистов и может привести к обнаружению новых научных идей из данных, которые еще не признаны экспертами.
Практические решения и ценность
Google представил новую систему StylEx, использующую генеративный ИИ, чтобы решить проблемы в области медицинского изображения, особенно связанные с недостатком объяснимости в ИИ-моделях.
Методы объяснения ИИ-моделей в компьютерном зрении, особенно в медицинском изображении, часто используют техники, генерирующие тепловые карты, указывающие на важность различных пикселей на изображении. Однако они не объясняют “что” и “почему” за этими признаками. Для преодоления этих ограничений StylEx Google использует генератор изображений на основе StyleGAN, направляемый классификатором.
Разработанная методика включает четыре ключевых этапа: обучение классификатора для подтверждения наличия соответствующих сигналов на изображениях, обучение модели StylEx для генерации изображений под руководством классификатора, автоматическое обнаружение и визуализацию верхних визуальных атрибутов, влияющих на классификатор, и рассмотрение этих результатов междисциплинарной группой экспертов.
В заключение, предложенная система улучшает объяснимость ИИ-моделей в медицинском изображении. Путем генерации контрфактических изображений и визуализации атрибутов, влияющих на прогнозы классификатора, этот подход обеспечивает более глубокое понимание принятия решений моделью. Участие междисциплинарной группы экспертов гарантирует тщательную интерпретацию этих результатов, учитывая потенциальные предубеждения и предлагая новые направления для научных исследований.
