В этом году мы стартуем с темы, которая на слуху в экспертных кругах, среди журналистов, но больше среди пользователей интернета — обычных потребителей информации. Deepfakes (глубокие фейки) — новый вызов информационной безопасности. Так мы озаглавили сегодняшний наш круглый стол.

Deepfakes - технологии искусственного синтеза человеческого изображения, основанные на использовании нейросетей и искусственного интеллекта, позволяющие создавать высоко реалистичное фото и видеоизображение людей либо производить модификацию фото-, аудио- и видеоматериалов. Обычно точкой отсчета называют 2017 год, когда с помощью нейросетей было сгенерировано фейковое порновидео с известной израильской актрисой Галь Гадот. Его активно распространяли в соцсетях.

Давайте перенесемся в наши широты и поговорим о deepfakes на медийном ландшафте в эпоху постправды.

Олег Сергеевич, в октябре прошлого года вы были в Дохе на конференции по информационной безопасности, где тоже поднимали вопрос глубоких фейков. Почему мир заботит эта проблема?

Летом прошлого года в комитете по разведке в конгрессе США прошли слушания по вопросу deepfakes, внесен закон по борьбе с высокотехнологичной дезинформацией. Фейсбук принял решение, что будет удалять видео, в котором эксперты признают технологии глубокого фейка. Но это не будет распространяться на юмористический контент и развлечения.

На самом деле эта конференция была посвящена фейку. Для меня самым интересным было как раз то, что были показаны некие сущности, изначально принятые за людей. Они общались, делали какие-то заявления. И с помощью интернета мы видели их социальную жизнь. Оказалось, что это не люди. Это, в общем-то, синтезированные сущности, которые никогда не существовали физически.

Отличить deepfakes с помощью каких-то технических средств практически невозможно. Если создатель обладает технологией высшего порядка, то так называемый разоблачитель, не обладающий подобной технологией, не имеет шанса определить, была ли это синтезированная сущность или новый стиль, какой-то образ либо же это была правда. И здесь я хотел бы задать юридический вопрос.

И мы видим, как общество настороженно воспринимает такие новации, говоря, что мы всего-навсего только распространили и ничего не имели в виду.

В вопросе deepfake много плоскостей, требующих детального обсуждения, здесь есть и технологический вопрос, и правовой, и вопрос массового сознания.

Виктор Борисович, обычный человек имеет сегодня возможность отличить ложь от правды или без технического решения это невозможно сделать?

Я боюсь, что нет. В том информационном потоке совершенно разного тотального содержания, который льется на головы обычных людей, невозможно быть осведомленным в сколь-нибудь значимой части всех этих процессов. Дальше срабатывает эффект лайков.

Это печальное развитие культуры, в которой мы уже давно живем, большая часть мира живет, культура потребления, когда упаковка создает эффект качества.

Мы сейчас говорим про дипфейки, но я думаю, мы просто выделяем какой-то один кусочек искусственного интеллекта. В ближайшее время люди с ним столкнутся. Что с этим делать - мало кто знает. Есть разные гипотезы.

Самое страшное - если вдруг роботы получат сознание - и тогда это будет процесс неконтролируемый

Почему люди ведутся на эти дипфейки? Есть замечательная фраза: "мир таков, каковы наши знания". Вот здесь правильно сказал Виктор Борисович:

Они по возрасту не могут этими знаниями обладать, плюс, давайте говорить честно, сегодня мы не наделяем их этими знаниями, которые бы повышали этичность и возможность к анализу. Поэтому проблема двусторонняя: с одной стороны, рост информационных технологий, а с другой - неготовность человеку эти информационные технологии принимать анализировать с повышенной долей критичности.

Однако сейчас пока нет завершенных техрешений, которые бы помогали распознавать deepfakes. Когда они появятся, важно, чтобы распознание таких роликов шло достаточно быстро. Если обличение будет запаздывать, то видео успеет вызвать эффект в соцсетях.

3-4 года назад появилось наше приложение "Маскарад", это была сенсация, на каждый телефон можно установить, одно время оно занимало лидирующие позиции в AppStore, да и сейчас им пользуются. Несколько лет назад это был прикол для телефона, а сейчас мы сидим здесь в экспертном кругу, серьезные люди в комитете разведки, в конгрессе США это дело обсуждают. Александр Николаевич, для нашего информационного пространства это уже проблема или мы пока не ощущаем?

Нам надо всем понимать - и тем, кто работает в печатных СМИ, и тем, кто работает в электронных СМИ, и тем, кто просто производит новости и забрасывает их в социальные сети, - что медийное влияние – это как раз влияние на всех участках, и социологические опросы показывают, что наибольшее влияние идет из социальных сетей. Параллельно развитию технологии deepfakes сегодня все среды, которые так или иначе имеют отношение не просто к медийному влиянию и информационной безопасности, к обеспечению безопасности в этой части, что же мы можем противопоставить? Противопоставить и с законодательной точки зрения в том числе. Мы сегодня так или иначе затрагивали тему, что у нас часть общества, (по-моему вы, Юрий, говорили об этом) настраивается на то, что нововведения ограничивают право на потребление информации.

Позвольте продолжить мысль Александра Николаевича. Сейчас в новых информационных реалиях любой человек - уже почти журналист, может быть, уже почти редактор, а в ближайшее время почти продюсер. Потому что технологии дешевые и простые. Но у этой массы населения, которая как раз количество лайков и нагоняет, никакой культуры и осознания ответственности за важность распространения информации нет.

Люди покупаются не на информацию, они покупаются на эмоции.

Парадокс в том, что сегодня то, что происходит в социальных сетях, сравнивают с психологией толпы. По большому счету, эффект заряжения происходит намного даже быстрее, чем в толпе. Людям нужна эмоциональность. Посмотрите, что происходит опять-таки с молодежью, как они читают, что они читают. Во-первых, сохраняется так называемое клиповое восприятие информации по чуть-чуть, везде и обязательно убирается та информация, которая сегодня не вписывается в мою картинку мира, и получается, что информационно мы становимся как бы настолько закрытыми.

Я хотел бы остановиться на одном социальном эффекте - "эффекте второй волны". Когда производится некая технология, ведь ее запускает, в общем-то, в свет производитель, но работает потом с ней уже не только производитель. И мы с вами поговорили о распространении этой информации через репосты, через отношение к этой информации. Но очень важным мне кажется то, как лидеры различных мнений - чиновники, блогеры, иные - реагируют на эту информацию, что и как потом делают с этой информацией.

Для Беларуси характерно все-таки рассудительное и спокойное отношения к событиям, мудрая пауза. Она дает возможность не сразу принимать решение, связанное с какой-то новостью, а подумать и посмотреть, насколько это подтверждается другими источниками. Вот эта рассудительность и является неким иммунитетом.