Deepfake
Дипфейк (англ. deepfake; портманто от англ. deep learning — «глубокое обучение» и англ. fake — «подделка») — это изображения, видео или аудиозаписи, которые были отредактированы или сгенерированы с помощью искусственного интеллекта, инструментов на базе ИИ или программ для редактирования аудио и видео. Они могут представлять реальных или вымышленных людей и являются формой синтетических медиа, то есть медиаконтента, создаваемого ИИ путём объединения различных фрагментов информации в новое медиа-сообщение[1][2].
В отличие от традиционных методов создания фальшивого контента, дипфейки используют методы машинного обучения и искусственного интеллекта[3][4][5], включая алгоритмы распознавания лиц и искусственные нейронные сети — такие как вариационные автокодировщики (VAE) и генеративные состязательные сети (GAN)[6]. Вследствие появления дипфейков развивается направление цифровой экспертизы изображений, разрабатывающее подходы к детектированию подделок[7].
Дипфейки широко обсуждаются из-за их потенциального применения для создания материалов с детским насилием, порно с участием знаменитостей, порномести, фальшивых новостей, обманов, травли и финансовых мошенничеств[8]. Учёные предупреждают о рисках распространения дезинформации, разжигания ненависти, манипуляций на выборах[9][10], а также используют для изучения реакции пользователей и методов противодействия злонамеренному использованию технологий дипфейков.
С развитием технологий повышается достоверность дипфейков, что приводит к их повсеместному распространению — от развлечений и игр до средств массовой информации[11]. Это приводит к трансформациям как в медиаиндустрии, так и в подходах к проверке достоверности информации[12].
История
Первые приёмы вмешательства в фоторазмещение появились ещё в XIX веке и оттуда были перенесены на кинематограф. В XX веке технологии редактирования изображений быстро совершенствовались, прогресс ускорился после появления цифрового видео.
Технологии дипфейков разрабатывались как в научных институтах с 1990-х годов, так и впоследствии энтузиастами в онлайн-сообществах[13]. С появлением технологий обучения нейросетей дипфейки приобрели массовую популярность, а подходы к их разработке были подхвачены бизнесом[14].
Академические исследования
Научные исследования дипфейков ведутся как в области компьютерного зрения, где создают и выявляют дипфейки, так и в гуманитарных науках — анализируются социальные, этические, эстетические и правовые аспекты их распространения[15]. С увеличением роли ИИ в создании дипфейков большое внимание уделяется задачам их обнаружения и изучению факторов, влияющих на их популярность в Интернете[16]. По результатам исследований, главным мотивом для делёжки дипфейками в соцсетях становится вызываемая ими эмоциональная реакция, негативность или шокирующий эффект.
Возраст и отсутствие навыков цифровой грамотности также влияют на потребление дипфейков: старшее поколение чаще распространяет их, не осознавая фальсификацию, тогда как молодёжь делает это чаще ради развлечения[17]. Наиболее эффективными для выявления дипфейков являются глубокие нейросетевые методы, способные анализировать характерные цифровые артефакты[16] На фоне угроз, связанных с расширением применения дипфейков, возрастают требования к регулированию этой технологии и образовательным инициативам в области медиаграмотности.[18].