Youtube Расширяет Технологию Распознавания Глубоких Фейков: Что Это Значит Для Политиков, Журналистов И Общества

Ключевые выводы

• YouTube расширяет технологию распознавания AI-сгенерированных глубоких фейков для правительственных чиновников, политиков и журналистов
• Новая система работает аналогично Content ID, но для распознавания AI-лиц
• YouTube балансирует между свободой слова и защитой от дезинформации
• Технология поддерживает федеральный законопроект NO FAKES Act
• YouTube планирует расширить функционал до распознавания голосов и других IP-активов

Искусственный интеллект уже не фантастика, а реальность, которая меняет правила игры в онлайн-пространстве. YouTube делает важный шаг, расширяя технологию распознавания глубоких фейков, чтобы защитить публичных лиц от манипуляций и дезинформации.

Что такое глубокие фейки и почему это важно

Глубокие фейки — это AI-сгенерированные видео, на которых люди говорят и делают то, чего никогда не делали в реальности. Эти технологии используют машинное обучение для создания убедительных симуляций лиц известных личностей — политиков, актеров, бизнесменов. Проблема в том, что такие видео могут быть использованы для распространения дезинформации, манипуляции общественным мнением или нанесения репутационного ущерба.

Согласно исследованию Deeptrace, в 2019 году было обнаружено около 15 000 глубоких фейков в интернете, и эта цифра растет экспоненциально. Способность технологий создавать реалистичные подделки развивается быстрее, чем способность общества их распознавать.

YouTube, как крупнейшая видеоплатформа в мире, находится в центре этой проблемы. С миллионами часов контента, загружаемых ежедневно, платформа стала идеальной средой для распространения манипулятивного контента.

Технология распознавания лиц, запущенная YouTube в прошлом году, использует машинное обучение для анализа видео и выявления признаков AI-генерации. Система ищет аномалии в движениях лица, несоответствия в освещении и другие технические маркеры, которые могут указывать на то, что видео было сгенерировано искусственно.

Как работает новая технология распознавания

Новая система YouTube работает по принципу, аналогичному уже существующей технологии Content ID, которая обнаруживает защищенный авторским правом материал в загружаемых видео. Однако вместо поиска музыки или видеоклипов, новая система ищет AI-симуляции лиц.

Когда пользователь загружает видео, алгоритм анализирует его на наличие признаков AI-генерации. Если система обнаруживает потенциальный глубокий фейк, она помечает видео и сравнивает его с базой данных известных личностей, участвующих в пилотной программе.

Leslie Miller, вице-президент YouTube по правительственным делам и общественной политике, объясняет: "Мы используем комбинацию компьютерного зрения и машинного обучения для анализа паттернов, которые характерны для AI-сгенерированного контента. Это включает анализ микродвижений лица, несоответствий в освещении и других технических маркеров."

Система также учитывает контекст использования. Например, если глубокий фейк используется в пародийных или критических целях, он может быть защищен как свобода слова. YouTube применяет многоуровневый подход к оценке каждого случая, учитывая как технические признаки, так и контекст использования.

Пилотная программа для правительственных чиновников и журналистов

YouTube запускает пилотную программу, предоставляющую доступ к технологии распознавания для правительственных чиновников, политических кандидатов и журналистов. Эти группы считаются особенно уязвимыми к атакам с использованием глубоких фейков, поскольку их слова и действия могут иметь значительное влияние на общественное мнение и политический процесс.

Участники программы проходят процедуру верификации, загружая селфи и документ, удостоверяющий личность. После подтверждения личности они получают доступ к панели управления, где могут просматривать обнаруженные совпадения и при необходимости запрашивать удаление контента.

Важно отметить, что не все обнаруженные совпадения автоматически удаляются. YouTube оценивает каждый запрос в соответствии с существующими руководствами по политике конфиденциальности, учитывая, является ли контент пародией, политической критикой или другим защищенным видом выражения.

Компания также поддерживает федеральный законопроект NO FAKES Act, который регулировал бы использование AI для создания несанкционированных реконструкций голоса и визуального облика человека. Это демонстрирует приверженность YouTube не только техническим решениям, но и правовой базе для борьбы с дезинформацией.

Проблемы маркировки AI-контента

Одной из сложностей, с которой сталкивается YouTube, является последовательная маркировка AI-контента. Компания применяет разные подходы в зависимости от характера контента и его чувствительности.

Для некоторых видео метка об AI-генерации появляется в описании, тогда как для контента на "чувствительные темы" метка размещается в начале видео. Этот подход аналогичен тому, как YouTube маркирует весь AI-контент в целом.

Amjad Hanif, вице-президент YouTube по продуктам для создателей, объясняет логику этого подхода: "Много контента создается с использованием AI, но это различие не всегда существенно для самого контента. Например, это может быть мультфильм, сгенерированный AI. Мы судим о том, заслуживает ли категория очень заметного предупреждения."

Проблема в том, что чрезмерная маркировка может привести к тому, что пользователи будут игнорировать предупреждения, а недостаточная — не предупредит об опасности. YouTube пытается найти баланс между информированием пользователей и избежанием "усталости от предупреждений".

Текущее состояние и будущие планы

На данный момент YouTube не раскрывает точные цифры об удалении глубоких фейков с помощью новой технологии. Однако представители компании отмечают, что объем запросов на удаление остается "очень низким".

Amjad Hanif комментирует: "Для многих создателей это просто осведомленность о том, что создается. Объем запросов на удаление действительно низок, потому что большая часть контента оказывается относительно безобидной или даже полезной для их общего бизнеса."

Однако эта ситуация может измениться для глубоких фейков правительственных чиновников, политиков или журналистов, где ставки выше, а потенциальный ущерб значительнее.

В долгосрочной перспективе YouTube планирует расширить технологию на другие области. Это включает распознавание узнаваемых голосов и других объектов интеллектуальной собственности, таких как популярные персонажи из фильмов, игр или книг.

Компания также рассматривает возможность предоставления пользователям возможности предотвращать загрузку нарушающего контента до его публикации или даже монетизировать такие видео, аналогично тому, как работает система Content ID.

Почему это важно для демократии и общества

Распространение глубоких фейков представляет серьезную угрозу для демократических институтов и общественного дискурса. Когда люди не могут доверять своим глазам и ушам, это подрывает основы информированного общества.

Политики и правительственные чиновники особенно уязвимы, поскольку их слова и действия имеют непосредственное влияние на политику и жизнь миллионов людей. Глубокий фейк, в котором политик якобы делает скандальное заявление, может вызвать политический кризис или повлиять на исход выборов.

Журналисты также находятся под угрозой, поскольку их авторитет и репутация имеют решающее значение для свободы слова и независимой прессы. Глубокие фейки, в которых журналисты якобы распространяют дезинформацию, могут подорвать доверие к СМИ в целом.

Технология YouTube представляет собой попытку создать цифровой щит для защиты этих ключевых фигур, одновременно сохраняя свободу слова. Это сложный баланс между безопасностью и свободой, который будет иметь решающее значение для будущего онлайн-коммуникаций.

Ограничения и вызовы

Несмотря на все преимущества, технология распознавания глубоких фейков сталкивается с рядом ограничений. Во-первых, AI-технологии постоянно совершенствуются, и создатели глубоких фейков могут находить новые способы обхода систем обнаружения.

Во-вторых, существует проблема ложных срабатываний. Система может ошибочно пометить легитимный контент как глубокий фейк, что может привести к ненужной цензуре или удалению контента.

В-третьих, существует вопрос юрисдикции. YouTube — американская компания, но ее платформа доступна по всему миру. Законы об авторском праве, конфиденциальности и свободе слова различаются в разных странах, что создает сложности для глобальной реализации такой технологии.

Наконец, существует этический вопрос о том, кто должен иметь доступ к такой технологии. Если она будет доступна только для определенных групп, это может создать двухуровневую систему, где одни пользователи получают защиту, а другие остаются уязвимыми.

Более широкий контекст: борьба с дезинформацией

Инициатива YouTube является частью более широких усилий по борьбе с дезинформацией в интернете. Компании, правительства и гражданское общество ищут способы защиты пользователей от манипулятивного контента, сохраняя при этом свободу слова.

Другие платформы также разрабатывают аналогичные технологии. Facebook** использует AI для обнаружения фейковых аккаунтов и координированных кампаний дезинформации. Twitter применяет метки для твитов, содержащих сомнительную информацию.

Правительства также вмешиваются в этот процесс. Европейский Союз принял Директиву о цифровых услугах, которая требует от платформ большего прозрачности и ответственности. США рассматривают различные законопроекты, включая NO FAKES Act, о котором упоминала YouTube.

Борьба с дезинформацией становится не просто технической проблемой, но и социальной, политической и этической. Требуется сотрудничество между технологическими компаниями, правительствами, СМИ и гражданским обществом для создания эффективных решений.

Что это значит для обычных пользователей

Хотя пилотная программа направлена на правительственных чиновников, политиков и журналистов, ее результаты в конечном итоге затронут всех пользователей YouTube. По мере развития технологии она может стать доступной и для обычных пользователей.

Это может означать, что в будущем каждый пользователь сможет проверять, не является ли видео, которое он смотрит, глубоким фейком. Это усилит способность людей критически оценивать онлайн-контент и защитит их от манипуляций.

Кроме того, развитие таких технологий может привести к созданию новых стандартов для онлайн-контента. Платформы могут начать требовать большей прозрачности в отношении использования AI-инструментов для создания контента.

Для создателей контента это может означать новые возможности и вызовы. С одной стороны, они могут использовать AI-инструменты для создания более качественного контента. С другой стороны, они должны будут навигировать в новых правилах и стандартах, касающихся AI-генерации.

Будущее доверия в цифровую эпоху

Технология распознавания глубоких фейков YouTube — это шаг к восстановлению доверия в цифровую эпоху. Когда люди не могут доверять тому, что видят и слышат онлайн, это подрывает основы общества.

Однако технология сама по себе не является панацеей. Для борьбы с дезинформацией нужен комплексный подход, включающий технические решения, правовые рамки, образование и медиаграмотность.

Пользователям необходимо научиться критически оценивать онлайн-контент, проверять источники и искать подтверждения. Школы и университеты должны включать медиаграмотность в учебные программы. СМИ должны придерживаться высочайших стандартов журналистики и прозрачности.

Правительства должны создавать правовые рамки, которые защищают свободу слова, но предотвращают злоупотребления. Технологические компании должны разрабатывать инструменты, которые усиливают возможности пользователей, а не ограничивают их.

В конечном счете, борьба с дезинформацией — это борьба за душу интернета. Это борьба за то, чтобы интернет оставался пространством для свободного обмена идеями, а не инструментом манипуляции и контроля.

Справка

YouTube — американская видеоплатформа, основанная в 2005 году Стивом Ченом, Чадом Херли и Джаведом Каримом. Штаб-квартира находится в Сан-Бруно, Калифорния. В 2006 году YouTube была приобретена Google за 1,65 миллиарда долларов. Сегодня это крупнейшая видеоплатформа в мире с более чем 2,5 миллиардами активных пользователей в месяц. YouTube предлагает широкий спектр контента, от пользовательских видео до профессиональных фильмов и сериалов. Платформа известна своими алгоритмами рекомендаций и программой для создателей контента — YouTube Partner Program.

Leslie Miller — вице-президент YouTube по правительственным делам и общественной политике. Она отвечает за взаимодействие компании с правительственными органами, регулирующими органами и общественными организациями. Miller имеет обширный опыт в области технологической политики и ранее занимала руководящие должности в других технологических компаниях. Она играет ключевую роль в формировании подхода YouTube к таким вопросам, как модерация контента, конфиденциальность и борьба с дезинформацией.

Amjad Hanif — вице-президент YouTube по продуктам для создателей. Он отвечает за разработку и улучшение инструментов и функций, которые помогают создателям контента добиваться успеха на платформе. Hanif имеет опыт в области инженерии и продуктового менеджмента, работая над различными аспектами YouTube, включая рекомендации, монетизацию и сообщества. Он играет важную роль в балансировке интересов создателей, зрителей и самой платформы.

Content ID — система управления авторскими правами, разработанная YouTube. Она позволяет правообладателям идентифицировать и управлять своим контентом на платформе. Когда пользователь загружает видео, Content ID сканирует его на предмет совпадений с базами данных правообладателей. Если совпадение найдено, правообладатель может решить, блокировать ли видео, монетизировать его или оставить без изменений. Система обрабатывает миллионы претензий каждый год и является одной из наиболее продвинутых систем управления авторскими правами в индустрии.

NO FAKES Act — федеральный законопроект, направленный на регулирование использования AI для создания несанкционированных реконструкций голоса и визуального облика человека. Законопроект был внесен в Конгресс США и находится на рассмотрении. Он предусматривает создание правовой базы для защиты людей от использования их голоса и изображения без разрешения, особенно в контексте AI-сгенерированного контента. Поддержка этого законопроекта YouTube демонстрирует приверженность компании не только техническим решениям, но и правовым рамкам борьбы с дезинформацией.

Технология распознавания глубоких фейков YouTube представляет собой важный шаг в защите публичных лиц и борьбе с дезинформацией. Однако это лишь одна часть более широкой картины. Успех зависит от сотрудничества между технологическими компаниями, правительствами, СМИ и образовательными учреждениями. Только совместными усилиями мы можем создать цифровую экосистему, где правда и доверие процветают.