Глубинная подделка: кто получает дивиденды лжеца

23

Источник: youtube.com

Глубокие или глубинные подделки (deep fake) – термин, впервые появившийся в 2017 году для описания реалистичных фото, аудио, видео и других подделок, созданных с помощью технологии глубинного машинного обучения (deep machin learning). Собственно, от этого метода термин и берёт своё начало.

Американский конвеер честных подделок


Эксперты США заявляют о том, что в ближайшее время технология глубинных подделок (сокращенно – ГП) может представлять серьёзную опасность для национальной безопасности. Об этом говорится в докладе для конгресса «Deep Fakes and National Security» . Основная опасность ГП состоит в том, что в результате возникающих неопределённостей образуется фактологический вакуум, оказывающий влияние на принятие политических решений на межгосударственном уровне. Например, лидер одной страны сделает заявление в видеообращении, которое спровоцирует межэтнический, расовый или религиозный конфликт, но само это заявление окажется подделкой. Примеры реалистичных глубинных подделок с политическими лидерами (В. В. Путин, А. Г. Лукошенко, Б. Обама и др.) можно найти в открытом доступе на платформе «YouTube» по запросу – «DeepFake».



Чаше всего под ГП подразумевают фальсификацию информации о событиях с использованием генеративных состязательных сетей (GANs). Первая сеть или генератор, занимается созданием поддельных данных, таких как фотографии, аудиозаписи или видеоматериалы из исходного реалистичного набора данных. Вторая сеть или дискриминатор, занимается идентификацией и верификацией полученных данных. Основываясь на результатах каждой итерации, генераторная сеть настраивается на создание все более реалистичных подделок. Сети продолжают конкурировать, часто на протяжении тысяч или миллионов итераций до тех пор, пока генератор не улучшит свою производительность так, что дискриминатор больше не сможет отличать реальные данные от поддельных.

Основа машинных вычислений – это высокопроизводительная машинная инфраструктура и приложения (High-Capability Computing Infrastructure and Applications – HCIA). Эта инфраструктура является осью нового цифрового пространства. Её сфера распространения от лабораторных вычислений, искусственного интеллекта, интернета вещей до сферы медиаразвлечений.

Значительная часть этих вычислений требуется и в военной сфере для организации шифрования и коммуникации, управления беспилотными средствами, обеспечения кибербезопасности, нападения и др. Запущенная конгрессом США в 1991 году программа исследований и разработок в области сетевых и информационных технологий (Networking and Information Technology Research and Development Program – NITRD), эта программа направлена на координацию действий в сфере высоких технологий для обеспечения технологического лидерства США в мире. Почти пятая часть бюджетного запроса NITRD к конгрессу на 2021 год приходится на высокопроизводительную машинную архитектуру (HCIA).

Проблема в том, что доступ к высокопроизводительным машинным системам через облачные вычисления и по сходному тарифу получил широкий круг заинтересованных лиц. И это не только студенты и преподаватели технических вузов, но и лица, заинтересованные в создании ГП для целей, далёких от этических норм, как то: политическое давление или шантаж, в том числе и на межгосударственном уровне.

И вот здесь важно не попасть в заранее расставленные ловушки дезинформаций и фальсификаций, связанных с ведением информационных войн.

Сегодня термин ГП может использоваться как инструмент в ходе этой войны по дискредитации (сокрытие, нивелирование, дезавуирование) фактов (информации), способствующих негативному образу США и их союзников в глазах мирового сообщества.

Корректоры правды


Задумывая глубинные подделки как сложный и ресурсоёмкий процесс машинного обучения, ГП из технического инструмента превратился в дешёвый (с ресурсной и стоимостной точек зрения) манипулятивный инструмент верификации событий в мировом пространстве. Точнее – информации о данных и событиях в локализованном коммуникативном медиапространстве.

Так как у большинства жителей планеты нет возможности непосредственно быть наблюдателями тех или иных событий, то информацию о них, по утверждению журналиста и политического обозревателя У. Липпмана, мы получаем от третьих лиц, чаще всего заинтересованных и ангажированных. Не случайно лозунг платформы Twitter ещё недавно был таков: «Когда что-то происходит в мире – это происходит в Twitter». Подходя к данной мысли с позиции конструктивизма, можно привести высказывание немецкого социолога-конструктивиста Н. Лумана о том, что если окружающий мир не может быть отображён таким, каков он есть, то следует искать тех, кому выгодно было бы отображать реалии мира на своих условиях и в своих интересах.

Таким образом, используя ГП как соответствующий предлог (не важно, была ли фальсификация на самом деле или нет), заинтересованная сторона применяет выгодную ей степень интерпретации – от частичного нивелирования информации до полного отрицания события как такового. Как, например, в случае трагического инцидента с участием войск НАТО при переброске сил в странах Прибалтики. Напомню, что один из военных автомобилей колонны сбил велосипедиста в Литве. И когда очевидцы стали выкладывать материалы в сеть, руководство НАТО в лице США заявило, что эти фото – подделка и никакого инцидента вообще не было.

Американские эксперты (профессора Даниэль Китс Цитрон и Роберт Чесни) вводят понятие «дивиденды лжеца». Оно включает в себя представление о том, что люди могут успешно отрицать подлинность информации, особенно если оно изображает неподобающее или преступное поведение, утверждая, что это ГП. Проще говоря, если мне не выгодна та или иная информация, то я говорю, что это подделка. А если она выгодна мне, а противнику не выгодна, то говорю, что вы просто не желаете признавать правду и за это вас можно санкционировать. Не путать этот приём с «двойными стандартами», как, скорее, «диалектический закон властного наблюдателя», выбирающего пути принятия решения в свою пользу.

В данном контексте появляется ещё одно поле для деятельности. А именно: намеренное использование ГП в качестве предлога для проведения нелегальных, провокационных и антигуманных действий. Так, например, в представленном докладе для конгресса «Deep Fakes and National Security» северо-американские специалисты в области разведки утверждают, что глубокие фальсификации могут также использоваться для создания подстрекательского контента. Например, создание убедительных видеозаписей военнослужащих США, вовлеченных в военные преступления, для целей, связанных с радикализацией местного населения, вербовки террористов или подстрекательства к насилию, направленному против этих военных (см. сноска 1). С практической точки зрения такой приём понятен и применяется как контрпропаганда для дискредитации информационного пространства противника и может осуществляться ещё до проведения незаконных операций на территории третьих стран.

Так получилось, что мы склонны доверять тем источникам, которые мы сами для себя выбрали или думаем, что выбрали. ГП играет на наших слабостях и пассивности. Одна из основных мыслей Декарта, которую запомнило человечество: «сомневаюсь – значит существую». Перефразируя это высказывание на современный лад: «сомневаюсь – значит не существую».

Это трансформация происходит из того, что если я сомневаюсь в предоставляемой мне информации, исходящей из идеологически «правильного» источника, то мне нет места в той системе мировоззрений, которая доминирует в данной социальной системе или, говоря проще, стране. Характерным примером могут служить выборы в США 2020 года. Те, кто сомневаются в победе Дж. Байдена и настаивают на подтасовке данных, подвергаются цензуре в интернет-сетях, их незаконно увольняют с работы, они получают отказ в обслуживании своих банковских счетов. В стране, где купить бензин или оплатить ЖКХ можно только с помощью банковской карточки, такая практика имеет катастрофические последствия для жизненных условий человека.

Новый виток цензуры


В конце можно сказать, что особенность таких методов, как глубинная подделка, в том, что ГП может порождать реальность в отсутствии каких-либо связей с реальностью как таковой. Вызывая ряд губительных для этой реальности последствий.

Во-первых, как мы уже сказали выше, ГП может оказывать серьёзное давление на принятия решений лидерами наших сообществ из-за «туманности», «фальшивости» разворачивающихся событий. Весь вопрос в том, где они разворачиваются – на страницах «The Guardian», «Twitter» или на самом деле имеют место?

Из предыдущего следует и второй вывод. ГП – самореферентная, то есть обращающаяся к самой себе, система информационной цензуры и пропаганды. Так как то, что заявлено как «правда» или знание о правде, будет в дальнейшем использоваться как единая платформа для «правильной» демократической точки зрения. Обвинения о вмешательстве России в выборы США в 2016 году стало общим местом, не требующим для западного обывателя подтверждений или объяснений.

И в-третьих, в результате развития методов глубинных подделок, взрослый человек или подросток, обыватель, не сможет отличать, где правда, а где ложь. Эта неопределённость будет оказывать серьёзное психологическое давление на человека, группу и общность, вызывая чувство тревоги, опасности, безысходности, депрессию и аномию (беззаконие).

Так кто же всё-таки получает дивиденды – выгоду от осознанного воздействия на окружающий реальный мир с помощью подделок, распространяемых в средствах массовой информации?
Наши новостные каналы

Подписывайтесь и будьте в курсе свежих новостей и важнейших событиях дня.

23 комментария
Информация
Уважаемый читатель, чтобы оставлять комментарии к публикации, необходимо авторизоваться.
  1. +4
    12 мая 2021 18:26
    Мдаааа what Евгений поднял животрепещащую тему, мониторя инет постоянно сталкиваюсь там с тем что описал автор. Невозможно иногда с ходу определить подделку, фото иногда видео. Поэтому приходится обращать внимание на ресурс в котором она выложена.
    Виртуальный мир иногда трудно бывает отделить от реального... или наоборот.Шутники студенты часто выкладывают свои работы, материшь их последними словами за их скомпилированные видео.
    1. 0
      13 мая 2021 15:16
      Сильная статья. Очень убедительно написанная. Мир Оруэлла всё ближе.
  2. +3
    12 мая 2021 18:32
    И ведь защиты практически нет.Можно моделировать не только изображение,но и звук.
    "Тот, кто контролирует данные, контролирует и будущее"( Марк Цукерберг,основатель Facebook).
    P.S Не сомневаюсь что эта технология в обозримом будущем станет доступной, как сегодня "маски" в Instagram.
    А дальше и думать не хочется...
  3. nnm
    +3
    12 мая 2021 18:39
    О том, как Трамп устраивался на работу в RT
  4. +7
    12 мая 2021 18:52
    ГП это будущая проблема, да.

    Но она вырастает из современного вранья, которое заботливо культивируют, и с которым никто не борется.
    Соцсети полны подделок ,блогеры часто врут, и знают что врут, без конца уличают во вранье центральные телеканалы и официальные власти.

    Но! Законы работают только в одном направлении. Защита власти. Власть же может обещать и врать что угодно.

    Так чего хотели? И ГП будет, и ГПП будет, и прочие Крепкие картошки и орешки тоже будут.
    Если власти можно ,то остальным тоже хочется, и можно, и приходится.
    Врать
    1. +5
      12 мая 2021 19:22
      Цитата: Макс1995
      Если власти можно ,то остальным тоже хочется, и можно, и приходится.
      Врать

      У власти на порядки больше возможностей для манипуляций. наглядный пример - статистика.
      1. 0
        12 мая 2021 23:55
        Верно. У блоггера, как пример - один сайт.
        У власти - тысячи.

        ЕДРО, как пример, уже регистрирует принудительно госслужащих для выдвижения депутатов ЕДРА и голосования.
        Удаленно естественно.
        Чтоб и 80% и 70, и 60% голосов уже заранее были в кармане
        1. -1
          13 мая 2021 03:28
          Цитата: Макс1995
          ЕДРО, как пример, уже регистрирует принудительно госслужащих для выдвижения депутатов ЕДРА и голосования.

          Притом что многие ЕдРосы уже на прошлых выборах в агитматериалах о себе любимых, совершенно не упоминали что они ЕдРосы. Более того некоторые даже прямо просили в листовках и пр. ЦВЕТА белый, красный и синий не использовать, по возможности.
          1. -1
            13 мая 2021 09:04
            Это известно. И удалено тоже,

            Но Батька сделал офигительную рекламу. 40% удаленно - и все за батьку....Пол страны, считай, разом!

            Тут ПЖВ и обрадовалось....
  5. +4
    12 мая 2021 18:55
    технология поделок растет
    раньше когда-то люди верили всякому написанному слову и в ходу были "подметные письма", потом наступила эпоха фальшивых фотографий, фальшивых аудиозаписей, фальшивых ксерокопий, теперь вот будет эпоха фальшивых видео.
    Нужно привыкать с этим жить и вырабатывать в себе критическое мышление.
  6. +3
    12 мая 2021 21:33
    Справедливости ради практически все описанное существовало и до ДипФейка. Можно найти похожего человека под определенным ракурсом, можно создать очень похожий тембр голоса - можно искуственно ухудшить качество а потом апеллировать к тому, что мол качество плохое итд. Все это годов с 90х эпизодически встречается когда "человек похожий на генпрокурора" или нечто подобное всплывает где то и создает скандал - и уже не суть важно, сабж это был или не сабж. Слушок пошел и появляются люди которые по тем или иным причинам хотят прокатиться на волне хайпа - типа "свидетели" которые охотно скажут на камеру что видели сабжа в обществе девиц легкого поведения,покупающего травку или что он сбил кого то а потом откупился итд итп. В нашем обществе вовремя закинутая любая информация может создать "воздушный замок" ,который заживет собственной жизнью - качество подобного "вброса" зачастую практически неважно , важна потенциальная готовность среды в которую идет вброс -ему поверить. А ведь среду можно подготовить ,также через мероприятия.. Такая подготовка может быть и вовсе незаметна - после нее вброс "заходит" куда лучше и распространяется куда ловчее.
    На данный момент технология DeepFake все еще довольно примитивна т.к человеческий глаз довольно легко распознает даже незначительные дефекты машинной обработки . Куда хуже сами по себе такие "глубокие вбросы" на благодатную почву - даже если они технически слабы , это может здорово качать лодку. Средство тут только одно - повышения доверия к ГосСми. Которым и не пахнет .
    1. +1
      13 мая 2021 06:30
      На данный момент технология DeepFake все еще довольно примитивна т.к человеческий глаз довольно легко распознает даже незначительные дефекты машинной обработки

      дело не в достоверности посыла. Нет никакой необходимости формировать идеальную подделку. вопрос в том, на кого направлена подделка. Человеческое мышление в большинстве своем подвержено одной слабости - отсутствии критического мышления. В такой ситуации человек просто не замечает шероховатостей. Попробуйте объяснить украинцам, что никакая российская армия и не планирует захватывать Киев - не поверят. И никакие логические аргументы не примут. Так как отрицание опирается на защитную функцию мозга.
    2. +1
      13 мая 2021 12:18
      Многие люди ищут в СМИ/интернете не истину, но подтверждение правоты своих собственных идей. И, они находят каналы/сайты где их идеям потакают. Здесь нет ничего нового: "на ... не нужен нож, ему немного подпоешь и делай с ним, что хошь". Для них качество подделок, - это не главное, так поверят. Яркий пример, - это Михан. Ему не интересно, что там в реальности. Ему интересно то, что он сам себе выдумал.
      1. +2
        13 мая 2021 12:39
        Толерантность к некритическим вбросам воспитывает само государство - на этом построена львиная доля пропаганды (и на ксенофобии кстати говоря тоже) . Так что в итоге все сводится к состязанию музыкантов - кто более умел - государство образующая пропаганда или государство разрушающая (либо просто имеющая свои конкретные цели) . Привыкнув регулярно не получать важных или просто интересных ответов на свои вопросы -население перестает их задавать или считать ВАЖНЫМИ , либо нейтрально-пофигистично относясь ко всему , либо все озвучиваемое принимая на веру разной степени глубины. Борьба с фейками не будет результативной пока они существуют внутри бОльшей системы оперирующей ,подменяющей и перерабатывающей информацию . В такой системе побеждать будет всегда наиболее умелый лжец - либо наибольшая группа способных.
  7. +2
    13 мая 2021 05:49
    Не хочу знать,как это все делается. Но то,что это делается на высочайшем уровне,не сомневаюсь. Рекламный ролик с Милославским от Сбера тому подтверждение.Правда его после убрали.Все таки негоже рекламировать домушника под маркой Банка.Внутренний протест есть,и это не какое то самосознание.А скорее всего закон самосохранения.
  8. 0
    13 мая 2021 13:19
    То, о чем пишет автор, существует столько, сколько существует человечество - ложь и попытки выдать ее за правду.
    Появился еще один способ создавать достоверную ложь, ну и что с того? Отчего такая паника? Обязательно появится способ ее распознавать и борьба лжи и правды (по аналогии, меча и брони) продолжится в веках))))
    1. 0
      13 мая 2021 22:23
      Существует защита от не санкционированного , подмены , редактирования электронных документов , аудио и видио , остается только принять закон об обязательной подобной защите видио обращений высших лиц государства

«Правый сектор» (запрещена в России), «Украинская повстанческая армия» (УПА) (запрещена в России), ИГИЛ (запрещена в России), «Джабхат Фатх аш-Шам» бывшая «Джабхат ан-Нусра» (запрещена в России), «Талибан» (запрещена в России), «Аль-Каида» (запрещена в России), «Фонд борьбы с коррупцией» (запрещена в России), «Штабы Навального» (запрещена в России), Facebook (запрещена в России), Instagram (запрещена в России), Meta (запрещена в России), «Misanthropic Division» (запрещена в России), «Азов» (запрещена в России), «Братья-мусульмане» (запрещена в России), «Аум Синрике» (запрещена в России), АУЕ (запрещена в России), УНА-УНСО (запрещена в России), Меджлис крымскотатарского народа (запрещена в России), легион «Свобода России» (вооруженное формирование, признано в РФ террористическим и запрещено)

«Некоммерческие организации, незарегистрированные общественные объединения или физические лица, выполняющие функции иностранного агента», а так же СМИ, выполняющие функции иностранного агента: «Медуза»; «Голос Америки»; «Реалии»; «Настоящее время»; «Радио свободы»; Пономарев; Савицкая; Маркелов; Камалягин; Апахончич; Макаревич; Дудь; Гордон; Жданов; Медведев; Федоров; «Сова»; «Альянс врачей»; «РКК» «Центр Левады»; «Мемориал»; «Голос»; «Человек и Закон»; «Дождь»; «Медиазона»; «Deutsche Welle»; СМК «Кавказский узел»; «Insider»; «Новая газета»