Синтетические медиа: сможет ли нейросеть помочь в создании контента?

Согласно свежему исследованию Reuters, более 2/3 издателей считает, что искусственный интеллект уже сейчас играет главную роль в развитии медиа. Как нейросеть прямо сейчас создает контент? Как используются синтетические медиа в работе современных СМИ? И стоит ли опасаться наступления «эпохи фейков»? Обо всем этом на основе инсайтов дискуссионной группы Neural Squad стартап-студии Founders Club ― в сегодняшней статье. 

Синтетические медиа ― средства массовой информации, полностью либо частично созданные с помощью искусственного интеллекта.

Также под определение «синтетических медиа» подходит любая информация, созданная с помощью AI для массового распространения.

Пожалуй, когда речь идет о создании контента с помощью нейросетей, в голову приходят забавные примеры: сценарий нового Бэтмена от искусственного интеллекта, или абсурдные и смешные новости, сгенерированные сетью из заголовков. Ну или DeepFake ― видео, где Илон Маск поет про рокот космодрома, а Кристиан Бэйл играет в «Титанике». 

Но на самом деле, способность алгоритмов обучаться, имитировать написанный человеком текст вкупе с технологией DeepFake ― гремучая смесь, которая уже сейчас создает немало неприятностей:

• DeepFake-видео, где от имени знаменитостей либо экспертов выступают мошенники. Примерно год назад в сети появился мошеннический рекламный ролик, в котором «супердоход от инвестиций» обещала DeepFake-копия Дмитрия Мацкевича, основателя Flocktory и Dbrain.

• Фальшивые новости, которые распространяют ложную либо провокативную информацию, подстраиваясь под тон серьезных изданий. Организация FireEye обнаружила информационную компанию, основанную на фейковых изображениях и заявлениях американских политиков и журналистов, в интересах Ирана. По такой же схеме в минувшем году создавались новости и мнения, задачей которых было подогревать протесты в разных точках мира; так распространялись и недостоверные факты про COVID-19. 

• Уже сейчас существуют прецеденты использования DeepFake для создания компрометирующих видео, используемых для шантажа представителей разных компаний, общественнно-значимых фигур и так далее. И такая модель шантажа может стать повсеместной. 

Усложняет ситуацию и то, что большинство инструментов для создания подобных синтетических медиапродуктов находится в открытом доступ. 

Впрочем, есть и другая сторона медали:  уже сейчас элементы синтетических медиа с большим успехом используются на медиарынке. 

Алгоритмы на основе AI помогают структурировать и сокращать большой объем данных. Один из новостных каналов в Telegram ведет робот, который каждый день формирует выжимку из главных новостей мира технологий. Еще вариантом такого использования является сервис TLDP (Too Long Don`t Read) от Facebook (Meta), сокращающий длинные тексты.

AI помогает редактировать тексты. Например, в 2020 году агентство PA Media, которое занимается новостями для портала Microsoft, заменило 27 работников искусственным интеллектом для того, чтобы выбирать и редактировать заметки для портала. Обучив такой алгоритм на большом количестве данных, действительно можно получить работника, который 24/7 готов выполнять эту довольно рутинную задачу. 

Искусственный интеллект пишет статьи. В британской The Guardian уже вышел материал «авторства» нейросети под заголовком «Робот написал целую статью. Тебе страшно, человек?». Вряд ли, конечно, алгоритмы вытеснят журналистов, но написать часть текста ― например ту, где нужно проанализировать много данных, могут уже сейчас.

Появляется дизайн, полностью созданный AI. Студия Лебедева в 2020 году представила нейросеть для «экспресс-дизайна», которая генерирует логотипы. Такая технология может быть очень полезна для малого бизнеса, начинающих стартапов и некоммерческих организаций.

Сеть создает новые возможности для видеопродакшна. Благодаря AI можно исправлять мимику, накладывать голос, видоизменять внешность, подстраивать картинку под внешние условия. Это может быть использовано при съемке кино, в рекламной индустрии и видеоиграх. 

• Анализ больших массивов информации

• Использование чат-ботов, адаптирующихся под запросы пользователей

• Персонализация ленты новостей, помогающая подстраиваться под интересы конкретного читателя

• Выявление и отслеживание некорректной и неприемлемой информации

• Создание видео нейросетью

• Перевод текстов в мультимедийный формат

• Автоматический перевод, адаптированный нейросетью

Согласно исследованию Reuters, 69% опрошенных издателей считают AI ключевым инструментом для развития журналистики. Пока создавать сервисы на основе искусственного интеллекта могут самые крупные СМИ. BBC, например, тестирует модель чат-бота, который отвечает на вопросы читателей по коронавирусу, используя собственные проверенные источники информации. А перуанское новостное издание Ojo Público запустило сервис, помогающий выявить потенциальные коррупционные схемы на госзакупках.

Мало-помалу активное использование синтетических медиа распространится повсеместно ― среди всех компаний в медиабизнесе, учитывая скорость развития AI и относительную дешевизну технологии.

Очевидно, что синтетические медиа со временем будут играть все более важную роль как в процессе получения информации конкретным человеком, так и в формировании информационных связей, пронизывающих общество, в целом. 

Этому способствует несколько факторов:

• Доступность технологий. Для создания того же DeepFake-видео существует множество бесплатных приложений: например, открытая библиотека DeepFaceLab, где побаловаться с созданием фейковых видео может любой желающий.

• Популярность профессий, связанных с AI. Data-scientist, специалист по машинному обучению и другие AI-специализации набирают популярность и высоко котируются: следовательно, специалистов, способных создавать различные инструменты на базе нейросетей, становится все больше.

• Серая зона ответственности. Синтетические медиа юридически пока не имеют никакого статуса: в России, например, сейчас нет никаких законов, регулирующих DeepFake и контент, созданный сетью. Ограничения есть только на отдельных крупных сайтах и сервисах, где алгоритмы отслеживают появление фейков (что само по себе задача нелегкая).

• Потребность в структурировании информации. Резкое развитие интернета породило информационный перегруз: информации стало слишком много, и сейчас одна из ключевых задач СМИ ― компоновка «повестки дня», отбор самой нужной информации. Это является большим полем деятельности для синтетических медиа.

• «Вызов и ответ» DeepFake. Распространение фейков и новых способов манипуляции общественным мнением создают вызов, на который общество будет искать ответ, разрабатывая новые средства защиты. И здесь пригодятся,  разумеется, те же самые нейросети.

***

Наиболее пессимистично настроенные эксперты уже сейчас предрекают «эпоху фейков» ― мир, где в потоке информации невозможно отличить правду от многочисленных манипуляций, искажений и подделок. Но этот мрачный вариант в какой-то степени тоже фейк: рано или поздно равновесие всегда находится ― его помогают установить правила, четкая зона ответственности и эффективные технологии. Создание такого равновесия ― задача, над которой прямо сейчас работают многие компании и эксперты. Ну а нам остается помнить бессмертный девиз «Доверяй, но проверяй!», критически мыслить и ждать новых шедевров, созданных искусственным интеллектом!