Re-LAION 5B: Улучшение безопасности и прозрачности веб-масштабных наборов данных для исследований фундаментальных моделей через тщательную фильтрацию контента

LAION, ведущая некоммерческая организация, посвященная продвижению исследований машинного обучения путем разработки открытых и прозрачных наборов данных, недавно выпустила Re-LAION 5B. Это обновленная версия набора данных LAION-5B является вехой в продолжающихся усилиях организации по обеспечению безопасности и законного соответствия веб-масштабных наборов данных, используемых в исследованиях фундаментальных моделей. Новый набор данных решает критические вопросы, связанные с потенциальным незаконным контентом, в частности материалами, связанными с сексуальным насилием над детьми (CSAM), которые были выявлены в оригинальном наборе данных LAION-5B.

Фон и мотивация

Оригинальный набор данных LAION-5B, выпущенный в 2022 году, был разработан как веб-масштабный набор данных пар текст-ссылка на изображения, необходимый для обучения и оценки фундаментальных моделей. Эти модели, улучшая свою производительность по мере масштабирования данных, размера модели и вычислительных ресурсов, являются ключевыми для продвижения области машинного обучения. Однако обширность и открытость интернета, из которого были получены данные, представляли существенные трудности в обеспечении того, чтобы набор данных был полностью свободен от незаконного контента.

В декабре 2023 года Стэнфордская интернет-обсерватория под руководством исследователя Дэвида Тила опубликовала отчет, выявивший 1 008 ссылок в наборе данных LAION-5B, которые потенциально указывали на CSAM. Это обнаружение побудило LAION немедленно принять меры, временно отозвав набор данных из общего доступа. Полученные результаты подчеркнули ограничения механизмов фильтрации, изначально использованных LAION, несмотря на лучшие усилия организации по исключению такого материала.

Обновление Re-LAION 5B

Re-LAION 5B представляет собой результат комплексного процесса пересмотра безопасности в сотрудничестве с несколькими ключевыми партнерами, включая Интернет-фондовую организацию (IWF), Канадский центр защиты детей (C3P) и Стэнфордскую интернет-обсерваторию. Эти организации предоставили LAION списки хэшей MD5 и SHA, соответствующие известным CSAM и другому незаконному контенту. Используя эти хэши, LAION смогла систематически идентифицировать и удалить 2 236 подозрительных ссылок из набора данных. Это общее число включает 1 008 ссылок, изначально выявленных Стэнфордской интернет-обсерваторией.

Важно отметить, что процесс фильтрации, используемый при создании Re-LAION 5B, позволил удалить потенциально незаконный контент, не требуя от исследователей LAION прямого доступа или проверки содержимого, тем самым избегая юридических и этических трудностей. Обновленный набор данных, теперь свободный от ссылок на подозрительный CSAM, доступен в двух версиях: Re-LAION-5B research и Re-LAION-5B research-safe. Первая сохраняет более высокий порог для потенциально чувствительного контента, в то время как последняя версия дополнительно фильтрует большую часть материалов, не предназначенных для просмотра на рабочем месте (NSFW).

Обеспечение постоянной безопасности и соответствия

Обязательства LAION по обеспечению безопасности и прозрачности простираются за пределы выпуска Re-LAION 5B. Организация сделала метаданные обновленного набора данных доступными для сторонних лиц, позволяя им очищать свои производные от LAION-5B, применяя аналогичные методы фильтрации. Такой подход улучшает безопасность производных наборов данных и сохраняет возможность использования LAION-5B в качестве эталонного набора данных для текущих исследований.

Выпуск Re-LAION 5B также устанавливает новый стандарт безопасности при создании веб-масштабных наборов данных. Сотрудничая с экспертными организациями, такими как IWF и C3P, LAION продемонстрировала важность сотрудничества в решении проблем, вызванных огромным и часто нерегулируемым контентом в общедоступной сети. Такой совместный подход предлагает модель для других организаций, занимающихся подобной работой, подчеркивая ценность общих знаний и ресурсов для обеспечения безопасности и целостности исследовательских наборов данных.

Призыв к действию для исследовательского сообщества

В свете улучшений, внесенных в Re-LAION 5B, LAION настоятельно рекомендует всем исследователям и организациям, все еще использующим оригинальный набор данных LAION-5B, перейти к обновленной версии. Таким образом, они могут обеспечить, что их работа основана на наборе данных, который был тщательно проверен на безопасность и законное соответствие. LAION также рекомендует, чтобы организации, занимающиеся созданием наборов данных из общедоступных данных веба, сотрудничали с такими организациями, как IWF и C3P, для получения списков хэшей и других ресурсов, необходимых для эффективной фильтрации.

Опыт LAION подчеркивает необходимость для широкого исследовательского сообщества принять и придерживаться лучших практик обработки потенциальных проблем безопасности. Это включает своевременное и прямое сообщение о результатах и принятие проактивных мер по устранению рисков, связанных с веб-масштабными наборами данных.

Заключение

Re-LAION 5B является значительным шагом в миссии LAION по предоставлению открытых, прозрачных и безопасных наборов данных для исследовательского сообщества машинного обучения. Решая проблемы, выявленные в оригинальном наборе данных LAION-5B и устанавливая новый стандарт безопасности в веб-масштабных наборах данных, LAION подтвердила свое обязательство продвижению области машинного обучения ответственно и этично. По мере того, как исследователи и специалисты продолжают исследовать потенциал фундаментальных моделей, наборы данных, такие как Re-LAION 5B, будут играть важную роль в обеспечении того, что эта работа проводится на прочной и безопасной основе.