YouTube предпринимает ряд мер для борьбы с злоупотреблением ИИ! Браво! Теперь еще больше защиты от нежелательных контентных алгоритмов. Будем надеяться, что это поможет улучшить качество и безопасность платформы. #YouTube #инновации #борьбазазлоупотреблениямиИИ
YouTube представил ряд мер и руководств для борьбы с злоупотреблением ИИ, особенно в отношении музыки, созданной с помощью ИИ и глубоких фейков.
YouTube принял решение противостоять злоупотреблению ИИ, особенно в отношении музыки, созданной с помощью ИИ и глубоких фейков. Это решение было принято в связи с растущим давлением на принятие мер по борьбе с музыкой, созданной с помощью ИИ и глубокими фейками, как, например, песня “Heart on My Sleeve”, в которой использованы вокалы, напоминающие Дрейка и The Weeknd, созданные с помощью ИИ.
Universal Music Group выразила недовольство этой песней, считая ее нарушением авторских прав, созданной с помощью генеративного ИИ.
После обсуждения Грэмми заявили, что такие композиции не будут рассматриваться для наград.
YouTube обновляет процесс жалоб на нарушение конфиденциальности, чтобы принимать жалобы на глубокие фейки, при этом указывая, что не весь такой контент будет удаляться, а решение будет приниматься с учетом факторов, таких как пародия и сатира.
Кроме того, создатели контента теперь должны раскрывать, когда они используют измененный или синтетический контент, включая материал, созданный с помощью ИИ.
Это особенно акцентируется на контенте, касающемся чувствительных тем, таких как выборы и общественные кризисы в области здравоохранения. YouTube также отметил, что несоблюдение этих руководств может привести к удалению контента или приостановке платежей за рекламу.
Кроме того, в описаниях видео будет добавлена метка, указывающая на использование ИИ для создания контента, а для чувствительных тем метка будет более заметной.
Компания заявила, что контент, созданный с помощью ИИ и нарушающий существующие руководства по контенту, такие как синтетически созданные жестокие видео, также будет удален.
Вот краткое описание инструментов YouTube для борьбы с злоупотреблением ИИ:
Требования к раскрытию и меткам контента: Создатели контента должны раскрывать, если их контент содержит измененный или синтетический материал, который выглядит реалистично, особенно при использовании ИИ. Это крайне важно для контента, касающегося чувствительных тем, таких как выборы и общественные кризисы в области здравоохранения. Несоблюдение может привести к удалению контента или другим наказаниям.
Информация для зрителей: YouTube планирует информировать зрителей о синтетическом контенте с помощью меток на панели описания и, для чувствительных тем, более заметно на видеоплеере.
Удаление контента в случаях повышенного риска: Синтетический контент, представляющий угрозу, будет удален, независимо от меток, если он нарушает руководства сообщества. Это включает контент, изображающий реалистичное насилие с целью шокировать или вызывать отвращение у зрителей.
Процесс запроса на удаление: YouTube позволит запрашивать удаление контента, созданного с помощью ИИ или измененного, который имитирует лицо или голос опознаваемого человека. Решение будет приниматься на основе таких факторов, как пародия или сатира, опознаваемость человека и его публичный статус.
Особые положения для музыкального контента: Музыкальные партнеры могут запросить удаление музыки, созданной с помощью ИИ, которая имитирует уникальный голос артиста. YouTube будет оценивать такие факторы, как актуальность новостей или критика в этих случаях.
ИИ в модерации контента: YouTube использует комбинацию технологии ИИ и ручного обзора для соблюдения руководств сообщества. Классификаторы ИИ помогают обнаруживать потенциальные нарушения, а рецензенты подтверждают нарушения политики. Генеративный ИИ особенно полезен в выявлении и пресечении новых форм злоупотребления.
Ответственное использование инструментов ИИ: YouTube сосредоточен на разработке инструментов ИИ с встроенными механизмами защиты от создания неподходящего контента. Они также готовятся к возможному обходу этих инструментов злоумышленниками через непрерывное улучшение и специализированные команды по обнаружению угроз.
Это следует за общим трендом в индустрии по раскрытию контента, связанного с ИИ, который не стремится вносить подлинный и надежный вклад на платформы.
Компании, такие как Meta, также вводят требования для политических рекламодателей о раскрытии использования ИИ в рекламе.
Это является результатом сочетания общественного и частного давления, когда компании, занимающиеся ИИ, стремятся показать готовность выполнить обещания, даннные в различных добровольных рамках.
