Видеоманипуляция

Обрабатывать видео начали ещё в 1950-х. Тогда 2-дюймовую ленту для поперечно-строчной видеозаписи (её проигрывали с помощью магнитофонов) обрезали и соединяли нужные отрезки вручную. На концы ленты, которые нужно было соединить, наносили ферромагнитную жидкость. Затем концы покрывали смесью из железных опилок и тетрахлорметана — токсичное и канцерогенное соединение. Благодаря тетрахлорметану на ленте проявлялись дорожки. После этого их выравнивали под микроскопом в специальном устройстве для склейки лент.

С 1960-х по 1990-е видеомагнитофоны постоянно модифицировали. Благодаря этому стало возможно записывать что-либо поверх уже использованной магнитной ленты. В результате появился метод наложения фрагментов плёнки друг на друга — из-за этого складывалось впечатление, что разнородные фрагменты являются одним непрерывным видео. Подобный метод стал первым известным примером видеоманипуляции.

В 1985 году компания Quantel выпустила The Harry^[4] — первую цифровую систему для редактирования видео и наложения эффектов. С помощью неё можно было сохранять эффекты и накладывать их на 8-битное несжатое цифровое видео длительностью до 80 секунд. Несколько лет спустя, в 1991 году, компания Adobe выпустила первую версию программы Premiere для Mac. Это программа, которая стала стандартом для других программ видеомонтажа. С 1991 года Premiere пользуется популярностью среди пользователей. В 1999 году компания Apple выпустила программу Final Cut Pro, которая стала конкурентом Adobe Premiere. Первую использовали при создании таких крупных фильмов, как «Правила секса» и «Старикам тут не место»^[5].

В начале 2000-х появилось множество исследований на всё ещё актуальную тему — распознавание лиц. В 2017 году программист-любитель под ником DeepFakes^[6] отредактировал порнографические видео — заменил лица из оригинальных видео на лица знаменитостей. Алгоритмы и технологии распознавания лиц, которые используют для видеоманипуляций, стали называть дипфейками.

Популярные программы для обработки видео FaceApp и Faceswap, разработанные на основе технологии дипфейк, становятся всё более совершенными.

Проверенное на практике программное обеспечение Face2Face было разработано Университетом Эрлангена-Нюрнберга, Институтом информатики Макса Планка и Стэнфордским университетом^[7]. Такой продвинутый метод обработки видео не только стоит в одном ряду с предыдущими примерами дипфейков, но и превосходит их.

Приложения для компьютера становятся всё более продвинутыми в плане подделки аудио и видеоконтента — со стороны кажется, что они настоящие^[8]. Исследователи опубликовали видео, в котором показано, как осуществляют видео- и аудиоманипуляции, используя для этого технологию распознавания лиц^[8]. Видеоманипуляция — это объединение различных отрывков в единое видео. Существуют разные виды видеоманипуляций. Например, камера записывает человека, который показывает различные выражения лица. Затем компьютер в режиме реального времени на основе показанных движений генерирует лицо Барака Обамы, которое выражает похожие эмоции. Когда актёр качает головой или говорит, сгенерированный Обама повторяет эти действия. С помощью таких технологий можно не только создать фейковый контент, но и сделать так, чтобы он казался правдоподобнее в сравнении с другими фейковыми новостями^[8]. Такая тактика сработает, поскольку раньше для многих людей видео и аудио являлись самыми надёжными видами контента.

Одной из самых опасных сторон видеоманипуляций является политическая. Часто такие манипуляции применяют к предвыборным видеороликам, чтобы угрожать правительствам других стран^[3]. Профессор информационных наук из Дартмутского университета Хани Фарид высказался насчёт видеоманипуляций и их опасности. Он сказал, что с помощью актёров можно создать видеоролик, в котором Трамп заявляет о намерении применить ядерное оружие. Такие сфабрикованные видеоролики могут стать популярными в социальных сетях до того, как ошибочную информацию успеют скорректировать. Это может привести к войне. Исследовательские группы работают над решением проблемы поддельных видео и аудио^[3]. Профессор Кристиан Теобальт из Института информатики Макса Планка является членом команды, работающей над технологией распознавания фейкового контента. Кристиан утверждает, что исследователи разработали криминалистические методы для выявления дипфейков^[8].

Команда фактчекинга из газеты The Washington Post выявила шесть форм видеоманипуляций, которые можно разделить на три категории^[9]:

1. Отсутствие контекста:
   • Искажение фактов: помещение оригинальных видеоматериалов в неверный контекст. Цель заключается в введении аудитории в заблуждение.
   • Изоляция: публикация короткого фрагмента видео, смысл которого отличается от полного видео.
2. Лживый монтаж:
   • Опущение: удаление основных фрагментов видео для искажения оригинальной истории.
   • Склейка: объединение фрагментов из разных видео в один сюжет, который не соответствует ни одному из оригинальных видео фрагментов.
3. Вредоносный монтаж:
   • Фальсификация: изменение видеокадров напрямую.
   • Подделка: использование технологий для создания поддельных видеороликов, например, дипфейков.

Популярность фейковых новостей в массовой культуре растёт, технологии аудио- и видеоманипуляций быстро развиваются^[3]. В следствие этого люди всё чаще сталкиваются с ложью в новостях, которая подкреплена обманчивыми видеороликами. Постоянно появляются новые типы фейковых новостей^[3]. Существует пять основных типов — сатира или пародия, выборочное представление информации, небрежная журналистика, кликбейт и заговоры. Эти наиболее распространённые типы фейковых новостей. Один из самых разрушительных видов фейковых новостей — видео/аудиоманипуляция — лежит в основе всех пяти типов. Видео- и аудиоманипуляция является новым видом медиаманипуляции — в её основе лежит цифровое видео, к которому применяют комбинацию традиционных методов видеообработки и монтажа с участием искусственного интеллекта (к примеру, с технологией распознавания лиц). В результате можно получить художественный видеоролик, созданный с эстетической целью, или же видеоролик, котоорый нацелен на манипуляцию общественным сознанием и пропаганду.

Цифровая подделка — это электронный видео-, фото- или аудиофайл, который был изменён или обработан с помощью цифрового программного обеспечения. Видеоролики с эффектом дипфейка относят к категории цифровых фейковых медиа. Тем не менее видео можно изменить таким образом, чтобы оно не считалось дипфейком. Видеоролик редактируют в развлекательных или в более гнусных целях, таких как распространение дезинформации. Полученную информацию могут использовать для вредоносных атак, политической выгоды, финансовых преступлений или мошенничества^[10].

Многие государства вводят нормативные акты для борьбы с социальными и политическими последствиями, к которым привело использование дипфейков. Технические нормы включают в себя требование подтверждения подлинности имени, маркировку информационных материалов, цензуру и запрет на использование искусственно созданных изображений, аудио- и видеоматериалов.

28 января 2022 года в Китае опубликовали «Положение об администрировании глубокого синтеза информационных сервисов интернета». Государственная канцелярия интернет-информации КНР приняла это положение для контроля за манипуляциями в отношении интернет-контента, а также для повышения технологической стабильности Коммунистической партии Китая (КПК)^[11]. Положение состоит из 25 статей, в каждой из которых содержится условие положения.

Эмми Хайн и Лучано Флориди написали статью «New deepfake regulations in China are a tool for social stability, but at what cost?», в которой упоминается статья 5. В ней говорится о том, что правительство будет проверять информацию, которую публикуют в открытом доступе, однако отраслевые корпорации также ответственны за контроль контента, который публикуют на различных платформах. Такая политика подталкивает китайские компании более внимательно относится к тому, что они публикуют в интернете. В противном случае сами компании оштрафуют^[10].

В Российской Федерации принято определённое количество актов, среди которых^[11]:

• Указ Президента Nº 490 «О развитии искусственного интеллекта в Российской Федерации»^[12].
• «Национальная стратегия развития искусственного интеллекта на период до 2030 года».
• «Перечень поручений по итогам конференции „Путешествие в мир искусственного интеллекта“» Nº Пр-172^[13].

На уровне федерального законодательства принят ФЗ Nº 123-ФЗ «О проведении эксперимента по установлению специального регулирования в целях создания необходимых условий для разработки и внедрения технологий искусственного интеллекта» в субъекте Российской Федерации — городе федерального значения Москве и внесении изменений в ст. 6 и 10 Федерального закона «О персональных данных»"^[11].

В 2019 году в США приняли «Закон об ответственности за использование дипфейков» (англ. DEEP FAKES Accountability Act). Однако Хайн и Лучано заявили, что эта политика направлена лишь на предотвращение «несанкционированного цифрового воссоздания облика различных людей». Законопроект предусматривает уголовное наказание за действия, связанные с подделкой личности и использованием чьего-то внешнего вида для создания порнографии^[14]. Благодаря этому постановлению многие известные соцсети, такие как Facebook и X, начали удалять противозаконную информацию, которая нарушает эту политику. Также эти платформы требуют соблюдения правил маркировки^[10].

К основным причинам, по которым крупные государства, такие как США и Китай, вводят правила/политику в отношении видеоманипуляций, относят провалы рынка^[10]. В частности, речь идёт о провалах рынка, которые связаны с общественными благами и негативными внешними эффектами. Общественные блага — это продукты и услуги, которыми могут пользоваться все члены общества. Негативные внешние эффекты — это негативные действия, затрагивающие человека, который не давал на это согласия или не принимал участия в самой ситуации.

С искусственно созданной информацией, к которой относится контент, созданный с помощью технологий дипфейк, могут ознакомиться все члены общества (это одна из основных характеристик общественных благ). На ложную информацию может наткнуться каждый, из-за этого она быстро распространяется, и иногда этот процесс выходит из-под контроля. В ответ на эту ситуацию законодатели и правительственные организации разрабатывают политику для контроля материала, который размещают в интернете^[15]. Одним из примеров, который открыто демонстрирует «чрезмерное потребление» контента в обществе, является мероприятие «Голос апреля» (англ. The Voice of April), которое прошло во время пандемии COVID-19. Это был день, в который многочисленные видеоролики жителей Шанхая подвергли цензуре и запретили к показу. Однако эти видеоролики были опубликованы в интернете, из-за чего они продолжали циркулировать между китайскими пользователями. Некоторые люди даже создавали другие версии роликов, на основе тех, что были удалены. Цзэйи Ян из журнала MIT Technology Review написала статью о том, что копии видеороликов, на которые правительство наложило цензуру, повторно загрузили в другие соцсети^[16]. Вследствие проблем, которые возникают из-за открытого доступа к интернет-контенту, страны продолжают вводить ещё больше правил для того, чтобы обеспечить достоверность информации.

С помощью видеоманипуляций можно создать запись фальшивых событий, которые никогда не происходили на самом деле. В результате этого искусствено созданная информация может повлиять на многих людей, которые даже не имеют к ней отношения. Джек Ланга из HeinOnline, утверждает следующее:

Одним из примеров, которые демонстриуют негативные внешние эффекты от вводящей в заблуждение/манипулятивной информации, является нападение на Капитолий США (6 января 2021 г.). По сообщению Министерства юстиции США, это событие привело к нападению на примерно 140 полицейских^[17]. Согласно заявлениям журналистки Джуди Вудрафф в PBS News Hours, весь инцидент был вызван большой ложью о фальсификации выборов в 2020 году. Несмотря на то, что ситуация была основана на ложных фактах, в конечном итоге всё привело к тому, что в процессе пострадало много полицейских.

На YouTube появилось видео, в котором с помощью технологии дипфейк лицо российского актёра Сергея Бурунова наложили на лицо Леонардо Ди Каприо в фильме «Великий Гэтсби»^[18]. Бурунов уже более десяти лет озвучивает этого голливудского актёра в российском дубляже, благодаря чему видеоряд выглядит очень естественно. В основе этого видео — фрагмент с вечеринки, во время которой персонаж Тоби Магуайра знакомится с Джеем Гэтсби.