ьт

Чтобы способствовать передаче технологий семантической криминалистики в промышленность и правительство, DARPA приступит к работе по укреплению защиты от манипулирования средствами массовой информации

Defending Authenticity in a Digital World
из DARPAtv на YouTube

Угроза манипулирования СМИ неуклонно возрастает по мере того, как автоматизированные технологии манипулирования становятся все более доступными, а социальные сети продолжают создавать благоприятную среду для распространения вирусного контента.

Скорость, масштаб и широта, с которой могут разворачиваться массовые кампании по дезинформации, требуют вычислительных средств защиты и автоматизированных алгоритмов, помогающих людям различать, какой контент является реальным, а какой - манипулятивным или синтезированным, почему и как.

В рамках программы Semantic Forensics (SemaFor), а ранее программы Media Forensics, инвестиции DARPA в исследования по обнаружению, атрибуции и определению характеристик манипулятивных и синтезированных медиа, известных как deepfakes, привели к созданию сотен аналитических разработок и методов, которые могут помочь организациям и частным лицам защитить себя от множества угроз, связанных с манипулятивными медиа.

Благодаря тому, что проект SemaFor находится на заключительном этапе, инвестиции DARPA позволили системно снизить риски разработок, что открывает путь к новой эре защиты от растущей угрозы глубоких подделок. Теперь агентство призывает более широкое сообщество, включая коммерческую промышленность и научные круги, ведущие исследования в этой области, использовать эти инвестиции.

Чтобы поддержать этот переход, агентство запускает два новых проекта, призванных помочь более широкому сообществу продолжить развитие защиты от манипулятивных медиа.

Первый проект включает в себя аналитический каталог, содержащий ресурсы с открытым исходным кодом, разработанные в рамках SemaFor для использования исследователями и промышленностью. По мере развития и появления новых возможностей они будут добавляться в этот репозиторий.

Второй проект представляет собой открытую исследовательскую работу сообщества под названием AI Forensics Open Research Challenge Evaluation (AI FORCE), целью которой является разработка инновационных и надежных моделей машинного обучения или глубокого обучения, способных точно обнаруживать синтетические изображения, созданные ИИ. В рамках серии мини-задач AI FORCE предлагает участникам создать модели, способные отличить подлинные изображения, в том числе те, которые могли быть подвергнуты манипуляциям или редактированию с использованием неиндивидуальных методов, от полностью синтетических изображений, сгенерированных искусственным интеллектом. Эта работа начнется 18 марта и будет связана с программной страницей SemaFor. Желающие получить уведомление могут подписаться на информационный бюллетень Управления информационных инноваций.
( Read more... )