В ближайшие годы всем нам предстоит пережить наплыв фейковых видео, которые будут создаваться с целью манипуляции сознанием людей. Неотличимые от подлинных, такие видео смогут пускать в ход любые государства для формирования необходимого информационного фона.

Сейчас видеоподделки можно создавать, например, с применением технологии Deepfakes, использующей алгоритмы машинного обучения. Технология доступна для скачивания из сети, соответствующее ПО способно работать даже на десктопе.

Суть технологии в том, чтобы с помощью нейросети наложить лицо одного человека на тело другого. Так можно “снять” любовные утехи любого политика.

Сейчас уже можно имитировать голос любого человека — от близкого знакомого до президента. Объедините эти видео и аудиоподделки, и можно будет заставить любое известное лицо выступить на видео с любой речью или “засветиться” в любых событиях.

Можно ли как-то противостоять этим подделкам? Пока что опытные криминалисты ещё могут в некоторых случаях выявить подделку, но постепенно ИИ скорее всего научат работать настолько чисто, чтобы видеофейки нельзя было отличить от подлинных записей.

В среднесрочной перспективе это всё, безусловно, неприятно. Технологии возьмут на вооружение идеологи и пропагандисты — им будет проще создавать в умах людей образы врагов, вызывающие страх, искреннюю ненависть или презрение.

В долгосрочной перспективе нельзя исключить, что обилие фейков, некоторые из которых всё же будут разоблачаться, продолжит размывать доверие людей к основным медиаканалам, прежде всего к телевидению и в целом к официальным структурам. Можно сказать, что ИИ, способный создавать фейки, в каком-то смысле несет позитив.

С другой стороны, можно прогнозировать рост рисков воровства личности. Уже сегодня перестают работать системы биометрической идентификации, основанные на “аудиоотпечатках” голоса людей. А ведь ещё недавно “звуковые отпечатки” считались весьма надёжным способом аутентификации. Рано или поздно появятся маски, способные имитировать практически любое чужое лицо, как существующих, так и несуществующих людей, в том числе с динамическим переключением с одного лица на другое. В общем, как ни крути, развитие технологий сулит любопытные времена.

+ +