Военное обозрение

Глубинная подделка: кто получает дивиденды лжеца

29

Источник: youtube.com


Глубокие или глубинные подделки (deep fake) – термин, впервые появившийся в 2017 году для описания реалистичных фото, аудио, видео и других подделок, созданных с помощью технологии глубинного машинного обучения (deep machin learning). Собственно, от этого метода термин и берёт своё начало.

Американский конвеер честных подделок


Эксперты США заявляют о том, что в ближайшее время технология глубинных подделок (сокращенно – ГП) может представлять серьёзную опасность для национальной безопасности. Об этом говорится в докладе для конгресса «Deep Fakes and National Security» . Основная опасность ГП состоит в том, что в результате возникающих неопределённостей образуется фактологический вакуум, оказывающий влияние на принятие политических решений на межгосударственном уровне. Например, лидер одной страны сделает заявление в видеообращении, которое спровоцирует межэтнический, расовый или религиозный конфликт, но само это заявление окажется подделкой. Примеры реалистичных глубинных подделок с политическими лидерами (В. В. Путин, А. Г. Лукошенко, Б. Обама и др.) можно найти в открытом доступе на платформе «YouTube» по запросу – «DeepFake».

Чаше всего под ГП подразумевают фальсификацию информации о событиях с использованием генеративных состязательных сетей (GANs). Первая сеть или генератор, занимается созданием поддельных данных, таких как фотографии, аудиозаписи или видеоматериалы из исходного реалистичного набора данных. Вторая сеть или дискриминатор, занимается идентификацией и верификацией полученных данных. Основываясь на результатах каждой итерации, генераторная сеть настраивается на создание все более реалистичных подделок. Сети продолжают конкурировать, часто на протяжении тысяч или миллионов итераций до тех пор, пока генератор не улучшит свою производительность так, что дискриминатор больше не сможет отличать реальные данные от поддельных.

Основа машинных вычислений – это высокопроизводительная машинная инфраструктура и приложения (High-Capability Computing Infrastructure and Applications – HCIA). Эта инфраструктура является осью нового цифрового пространства. Её сфера распространения от лабораторных вычислений, искусственного интеллекта, интернета вещей до сферы медиаразвлечений.

Значительная часть этих вычислений требуется и в военной сфере для организации шифрования и коммуникации, управления беспилотными средствами, обеспечения кибербезопасности, нападения и др. Запущенная конгрессом США в 1991 году программа исследований и разработок в области сетевых и информационных технологий (Networking and Information Technology Research and Development Program – NITRD), эта программа направлена на координацию действий в сфере высоких технологий для обеспечения технологического лидерства США в мире. Почти пятая часть бюджетного запроса NITRD к конгрессу на 2021 год приходится на высокопроизводительную машинную архитектуру (HCIA).

Проблема в том, что доступ к высокопроизводительным машинным системам через облачные вычисления и по сходному тарифу получил широкий круг заинтересованных лиц. И это не только студенты и преподаватели технических вузов, но и лица, заинтересованные в создании ГП для целей, далёких от этических норм, как то: политическое давление или шантаж, в том числе и на межгосударственном уровне.

И вот здесь важно не попасть в заранее расставленные ловушки дезинформаций и фальсификаций, связанных с ведением информационных войн.

Сегодня термин ГП может использоваться как инструмент в ходе этой войны по дискредитации (сокрытие, нивелирование, дезавуирование) фактов (информации), способствующих негативному образу США и их союзников в глазах мирового сообщества.

Корректоры правды


Задумывая глубинные подделки как сложный и ресурсоёмкий процесс машинного обучения, ГП из технического инструмента превратился в дешёвый (с ресурсной и стоимостной точек зрения) манипулятивный инструмент верификации событий в мировом пространстве. Точнее – информации о данных и событиях в локализованном коммуникативном медиапространстве.

Так как у большинства жителей планеты нет возможности непосредственно быть наблюдателями тех или иных событий, то информацию о них, по утверждению журналиста и политического обозревателя У. Липпмана, мы получаем от третьих лиц, чаще всего заинтересованных и ангажированных. Не случайно лозунг платформы Twitter ещё недавно был таков: «Когда что-то происходит в мире – это происходит в Twitter». Подходя к данной мысли с позиции конструктивизма, можно привести высказывание немецкого социолога-конструктивиста Н. Лумана о том, что если окружающий мир не может быть отображён таким, каков он есть, то следует искать тех, кому выгодно было бы отображать реалии мира на своих условиях и в своих интересах.

Таким образом, используя ГП как соответствующий предлог (не важно, была ли фальсификация на самом деле или нет), заинтересованная сторона применяет выгодную ей степень интерпретации – от частичного нивелирования информации до полного отрицания события как такового. Как, например, в случае трагического инцидента с участием войск НАТО при переброске сил в странах Прибалтики. Напомню, что один из военных автомобилей колонны сбил велосипедиста в Литве. И когда очевидцы стали выкладывать материалы в сеть, руководство НАТО в лице США заявило, что эти фото – подделка и никакого инцидента вообще не было.

Американские эксперты (профессора Даниэль Китс Цитрон и Роберт Чесни) вводят понятие «дивиденды лжеца». Оно включает в себя представление о том, что люди могут успешно отрицать подлинность информации, особенно если оно изображает неподобающее или преступное поведение, утверждая, что это ГП. Проще говоря, если мне не выгодна та или иная информация, то я говорю, что это подделка. А если она выгодна мне, а противнику не выгодна, то говорю, что вы просто не желаете признавать правду и за это вас можно санкционировать. Не путать этот приём с «двойными стандартами», как, скорее, «диалектический закон властного наблюдателя», выбирающего пути принятия решения в свою пользу.

В данном контексте появляется ещё одно поле для деятельности. А именно: намеренное использование ГП в качестве предлога для проведения нелегальных, провокационных и антигуманных действий. Так, например, в представленном докладе для конгресса «Deep Fakes and National Security» северо-американские специалисты в области разведки утверждают, что глубокие фальсификации могут также использоваться для создания подстрекательского контента. Например, создание убедительных видеозаписей военнослужащих США, вовлеченных в военные преступления, для целей, связанных с радикализацией местного населения, вербовки террористов или подстрекательства к насилию, направленному против этих военных (см. сноска 1). С практической точки зрения такой приём понятен и применяется как контрпропаганда для дискредитации информационного пространства противника и может осуществляться ещё до проведения незаконных операций на территории третьих стран.

Так получилось, что мы склонны доверять тем источникам, которые мы сами для себя выбрали или думаем, что выбрали. ГП играет на наших слабостях и пассивности. Одна из основных мыслей Декарта, которую запомнило человечество: «сомневаюсь – значит существую». Перефразируя это высказывание на современный лад: «сомневаюсь – значит не существую».

Это трансформация происходит из того, что если я сомневаюсь в предоставляемой мне информации, исходящей из идеологически «правильного» источника, то мне нет места в той системе мировоззрений, которая доминирует в данной социальной системе или, говоря проще, стране. Характерным примером могут служить выборы в США 2020 года. Те, кто сомневаются в победе Дж. Байдена и настаивают на подтасовке данных, подвергаются цензуре в интернет-сетях, их незаконно увольняют с работы, они получают отказ в обслуживании своих банковских счетов. В стране, где купить бензин или оплатить ЖКХ можно только с помощью банковской карточки, такая практика имеет катастрофические последствия для жизненных условий человека.

Новый виток цензуры


В конце можно сказать, что особенность таких методов, как глубинная подделка, в том, что ГП может порождать реальность в отсутствии каких-либо связей с реальностью как таковой. Вызывая ряд губительных для этой реальности последствий.

Во-первых, как мы уже сказали выше, ГП может оказывать серьёзное давление на принятия решений лидерами наших сообществ из-за «туманности», «фальшивости» разворачивающихся событий. Весь вопрос в том, где они разворачиваются – на страницах «The Guardian», «Twitter» или на самом деле имеют место?

Из предыдущего следует и второй вывод. ГП – самореферентная, то есть обращающаяся к самой себе, система информационной цензуры и пропаганды. Так как то, что заявлено как «правда» или знание о правде, будет в дальнейшем использоваться как единая платформа для «правильной» демократической точки зрения. Обвинения о вмешательстве России в выборы США в 2016 году стало общим местом, не требующим для западного обывателя подтверждений или объяснений.

И в-третьих, в результате развития методов глубинных подделок, взрослый человек или подросток, обыватель, не сможет отличать, где правда, а где ложь. Эта неопределённость будет оказывать серьёзное психологическое давление на человека, группу и общность, вызывая чувство тревоги, опасности, безысходности, депрессию и аномию (беззаконие).

Так кто же всё-таки получает дивиденды – выгоду от осознанного воздействия на окружающий реальный мир с помощью подделок, распространяемых в средствах массовой информации?
Автор:
29 комментариев
Информация
Уважаемый читатель, чтобы оставлять комментарии к публикации, необходимо авторизоваться.
  1. Леха с Андроида.
    Леха с Андроида. 12 мая 2021 18:26
    +4
    Мдаааа what Евгений поднял животрепещащую тему, мониторя инет постоянно сталкиваюсь там с тем что описал автор. Невозможно иногда с ходу определить подделку, фото иногда видео. Поэтому приходится обращать внимание на ресурс в котором она выложена.
    Виртуальный мир иногда трудно бывает отделить от реального... или наоборот.Шутники студенты часто выкладывают свои работы, материшь их последними словами за их скомпилированные видео.
    1. astepanov
      astepanov 13 мая 2021 15:16
      0
      Сильная статья. Очень убедительно написанная. Мир Оруэлла всё ближе.
  2. knn54
    knn54 12 мая 2021 18:32
    +3
    И ведь защиты практически нет.Можно моделировать не только изображение,но и звук.
    "Тот, кто контролирует данные, контролирует и будущее"( Марк Цукерберг,основатель Facebook).
    P.S Не сомневаюсь что эта технология в обозримом будущем станет доступной, как сегодня "маски" в Instagram.
    А дальше и думать не хочется...
  3. nnm
    nnm 12 мая 2021 18:39
    +3
    О том, как Трамп устраивался на работу в RT
  4. Макс1995
    Макс1995 12 мая 2021 18:52
    +7
    ГП это будущая проблема, да.

    Но она вырастает из современного вранья, которое заботливо культивируют, и с которым никто не борется.
    Соцсети полны подделок ,блогеры часто врут, и знают что врут, без конца уличают во вранье центральные телеканалы и официальные власти.

    Но! Законы работают только в одном направлении. Защита власти. Власть же может обещать и врать что угодно.

    Так чего хотели? И ГП будет, и ГПП будет, и прочие Крепкие картошки и орешки тоже будут.
    Если власти можно ,то остальным тоже хочется, и можно, и приходится.
    Врать
    1. Михаил м
      Михаил м 12 мая 2021 19:22
      +5
      Цитата: Макс1995
      Если власти можно ,то остальным тоже хочется, и можно, и приходится.
      Врать

      У власти на порядки больше возможностей для манипуляций. наглядный пример - статистика.
      1. Макс1995
        Макс1995 12 мая 2021 23:55
        0
        Верно. У блоггера, как пример - один сайт.
        У власти - тысячи.

        ЕДРО, как пример, уже регистрирует принудительно госслужащих для выдвижения депутатов ЕДРА и голосования.
        Удаленно естественно.
        Чтоб и 80% и 70, и 60% голосов уже заранее были в кармане
        1. Владимир_2У
          Владимир_2У 13 мая 2021 03:28
          -1
          Цитата: Макс1995
          ЕДРО, как пример, уже регистрирует принудительно госслужащих для выдвижения депутатов ЕДРА и голосования.

          Притом что многие ЕдРосы уже на прошлых выборах в агитматериалах о себе любимых, совершенно не упоминали что они ЕдРосы. Более того некоторые даже прямо просили в листовках и пр. ЦВЕТА белый, красный и синий не использовать, по возможности.
          1. Макс1995
            Макс1995 13 мая 2021 09:04
            -1
            Это известно. И удалено тоже,

            Но Батька сделал офигительную рекламу. 40% удаленно - и все за батьку....Пол страны, считай, разом!

            Тут ПЖВ и обрадовалось....
  5. Avior
    Avior 12 мая 2021 18:55
    +4
    технология поделок растет
    раньше когда-то люди верили всякому написанному слову и в ходу были "подметные письма", потом наступила эпоха фальшивых фотографий, фальшивых аудиозаписей, фальшивых ксерокопий, теперь вот будет эпоха фальшивых видео.
    Нужно привыкать с этим жить и вырабатывать в себе критическое мышление.
    1. Intruder
      Intruder 12 мая 2021 19:57
      -1
      технология поделок растет
      Они всегда были и будут, а самые реальные - подтасовка исторических данных в угоду правящих классов и заинтересованных кругов, подделка артифактов в музеях, один Лувр в 00-х годах, выставлял почти 1к подделок, из типа частных коллекций, но потом раздули и пришлось, там местным экспертам объяснятся с общественностью...
      1. Avior
        Avior 12 мая 2021 22:02
        +2
        в Лувре достаточно узнаваемых уникальных экспонатов, чтобы просто не заметить выставленные какие-то подделки.
        Идешь по музею, как по ожившим страницам учебника истории smile
        1. Intruder
          Intruder 12 мая 2021 22:40
          0
          как по ожившим страницам учебника истории
          ну это не совсем тот уровень чтобы довольно трезво судить о самой истории и тем более о подделках экспонатов, тут надо хоть несколько лет потратить на базовые исторические дисциплины, с несколькими практиками даже в заштатном городском музее! wink Так, чтобы понимать специфику и минимальный опыт в вопросе иметь...
          1. Avior
            Avior 13 мая 2021 00:58
            0
            речь идет о настолько известных экспонатах, что об их подделке вопрос не стоит в принципе.
            В Лувре таких предостаточно.
            1. Intruder
              Intruder 13 мая 2021 06:24
              -1
              что об их подделке вопрос не стоит в принципе.
              Это какие, так интересно...?
              1. Avior
                Avior 13 мая 2021 06:51
                +1
                Примерно такого уровня
                1. Intruder
                  Intruder 13 мая 2021 08:11
                  -1
                  Примерно такого уровня
                  вот прямо, сейчас и я хотел эту картинку вставить, не судьба, прямо с языка, точнее копипаста сняли! drinks
                  С ней тоже, не все было гладко, даже в начале прошлого века:

                  1. Многие авторы описывали то, как Винченцо Перуджа украл Мону Лизу в 1911 году. Но почему он её украл? Ответ кроется в этом имени – Уолтер Патер. Патер был влиятельным английским критиком, познакомившим людей Викторианской эпохи с Ренессансом, автором книги «Очерки по истории Ренессанса». Именно в этой книге было опубликовано его эссе, посвященное Моне Лизе, в котором он превозносил её до небес.
                  2. Отсылки к его работе появились в путеводителях по Лувру, даже в американских газетах. После похищения картины, в газете «New York Times» появлялись статьи с отсылками на эссе Патера, и даже в некрологе Патера 1894 года были упоминания этой работы.
                  Эссе Патера, несомненно, принесло Моне Лизе известность в мире искусства, но она не стала настолько боготворимым и безусловным шедевром, какой мы знаем её сейчас. В 1880 году Лувр обратил внимание на другой шедевр да Винчи, на «Тайную Вечерю», и в 1900 году вышел новый путеводитель по Лувру. В 1907 году совершается попытка испортить картину Жана Огюста Доминика Энгра, а не Мону Лизу, а в 1910 году Мону Лизу называют лишь второй по популярности картиной.
                  Несомненно, что в 1900-х годах Мона Лиза обрела известность благодаря Патеру. В конце 1800-х велись разговоры о её загадочной улыбке. В начале 20-го века даже были теории, что Мону Лизу тайно перевезли в Америку. Были приняты меры предосторожности после попытки испортить картину Энгра – Мону Лизу поместили под защитное стекло.
                  3. Мону Лизу украли 21 августа 1911 года – так родилась новая легенда.
                  Но истина проста: бывший работник Лувра Винченцо Паруджа хотел вернуть Мону Лизу в родную Италию. По его словам, это было делом чести (кажется, прибыль – тоже неплохой мотив). Итак, он проник в музей, спрятался там, и вынес картину под собственным пальто после закрытия музея. Потребовался целый день, чтобы в Лувре обнаружили пропажу, и целых два года, чтобы обнаружить вора, пытавшегося продать картину галерее во Флоренции.
                  Вот в эти пункты, можно вложить много версий и теорий, о факте ее подлинности и авторства (в 1503 году) легендарного мыслителя эпохи Возрождения - да Винчи!!! Т.е. похитили успешно, подлог можно сделать легко уже через сутки, и сдать бедолагу-исполнителя полиции, а картинку на серый/черный рынок - ПРОФИТ на лицо у организаторов..., плюс прикрытся публицистами и известными писателями...до кучи для отвлечения внимания общества, от этих даже фактов...!
                  1. Avior
                    Avior 13 мая 2021 08:29
                    -1
                    Ну, докажите всем, что там висит подделка. Успехов
                    hi
                    1. Intruder
                      Intruder 13 мая 2021 08:31
                      -1
                      Ну, докажите всем, что там висит подделка. Успехов
                      Я по другим темам сейчас работаю и время в жизни трачу и доказывать мне не надо, некому и ни где..., дирекция и попичительский совет Лувра, мне чеки не оплачивает, а бесплатно проводить расследования никто не будет, от слова вообще!!! hi
                      1. Avior
                        Avior 13 мая 2021 10:55
                        0
                        правильно. Этим занимаются эксперты страховых компаний, когда экспонаты музей страхует.
                        смотрели "Как украсть миллион"?
                        hi
                      2. Intruder
                        Intruder 13 мая 2021 11:00
                        0
                        Этим занимаются эксперты страховых компаний, когда экспонаты музей страхует.
                        смотрели "Как украсть миллион"?
                        ну, если по фильмам для среднего обывателя-зрителя, то да, возможно и эксперты страховых только они, знают толк! А если, с позиции историка-специалиста, даже со средним стажем работы в разных аспектах исторической науки, с практикой в музеях и экспедициях, тогда улыбка и только... laughing feel
                      3. Avior
                        Avior 13 мая 2021 11:26
                        +1
                        страховым деньги платить в случае чего, а не историкам со стажем.
                        поэтому они всерьез проверяют
  • Knell Wardenheart
    Knell Wardenheart 12 мая 2021 21:33
    +3
    Справедливости ради практически все описанное существовало и до ДипФейка. Можно найти похожего человека под определенным ракурсом, можно создать очень похожий тембр голоса - можно искуственно ухудшить качество а потом апеллировать к тому, что мол качество плохое итд. Все это годов с 90х эпизодически встречается когда "человек похожий на генпрокурора" или нечто подобное всплывает где то и создает скандал - и уже не суть важно, сабж это был или не сабж. Слушок пошел и появляются люди которые по тем или иным причинам хотят прокатиться на волне хайпа - типа "свидетели" которые охотно скажут на камеру что видели сабжа в обществе девиц легкого поведения,покупающего травку или что он сбил кого то а потом откупился итд итп. В нашем обществе вовремя закинутая любая информация может создать "воздушный замок" ,который заживет собственной жизнью - качество подобного "вброса" зачастую практически неважно , важна потенциальная готовность среды в которую идет вброс -ему поверить. А ведь среду можно подготовить ,также через мероприятия.. Такая подготовка может быть и вовсе незаметна - после нее вброс "заходит" куда лучше и распространяется куда ловчее.
    На данный момент технология DeepFake все еще довольно примитивна т.к человеческий глаз довольно легко распознает даже незначительные дефекты машинной обработки . Куда хуже сами по себе такие "глубокие вбросы" на благодатную почву - даже если они технически слабы , это может здорово качать лодку. Средство тут только одно - повышения доверия к ГосСми. Которым и не пахнет .
    1. Ка-52
      Ка-52 13 мая 2021 06:30
      +1
      На данный момент технология DeepFake все еще довольно примитивна т.к человеческий глаз довольно легко распознает даже незначительные дефекты машинной обработки

      дело не в достоверности посыла. Нет никакой необходимости формировать идеальную подделку. вопрос в том, на кого направлена подделка. Человеческое мышление в большинстве своем подвержено одной слабости - отсутствии критического мышления. В такой ситуации человек просто не замечает шероховатостей. Попробуйте объяснить украинцам, что никакая российская армия и не планирует захватывать Киев - не поверят. И никакие логические аргументы не примут. Так как отрицание опирается на защитную функцию мозга.
    2. Нормаль ок
      Нормаль ок 13 мая 2021 12:18
      +1
      Многие люди ищут в СМИ/интернете не истину, но подтверждение правоты своих собственных идей. И, они находят каналы/сайты где их идеям потакают. Здесь нет ничего нового: "на ... не нужен нож, ему немного подпоешь и делай с ним, что хошь". Для них качество подделок, - это не главное, так поверят. Яркий пример, - это Михан. Ему не интересно, что там в реальности. Ему интересно то, что он сам себе выдумал.
      1. Knell Wardenheart
        Knell Wardenheart 13 мая 2021 12:39
        +2
        Толерантность к некритическим вбросам воспитывает само государство - на этом построена львиная доля пропаганды (и на ксенофобии кстати говоря тоже) . Так что в итоге все сводится к состязанию музыкантов - кто более умел - государство образующая пропаганда или государство разрушающая (либо просто имеющая свои конкретные цели) . Привыкнув регулярно не получать важных или просто интересных ответов на свои вопросы -население перестает их задавать или считать ВАЖНЫМИ , либо нейтрально-пофигистично относясь ко всему , либо все озвучиваемое принимая на веру разной степени глубины. Борьба с фейками не будет результативной пока они существуют внутри бОльшей системы оперирующей ,подменяющей и перерабатывающей информацию . В такой системе побеждать будет всегда наиболее умелый лжец - либо наибольшая группа способных.
  • nikvic46
    nikvic46 13 мая 2021 05:49
    +2
    Не хочу знать,как это все делается. Но то,что это делается на высочайшем уровне,не сомневаюсь. Рекламный ролик с Милославским от Сбера тому подтверждение.Правда его после убрали.Все таки негоже рекламировать домушника под маркой Банка.Внутренний протест есть,и это не какое то самосознание.А скорее всего закон самосохранения.
  • Conjurer
    Conjurer 13 мая 2021 13:19
    0
    То, о чем пишет автор, существует столько, сколько существует человечество - ложь и попытки выдать ее за правду.
    Появился еще один способ создавать достоверную ложь, ну и что с того? Отчего такая паника? Обязательно появится способ ее распознавать и борьба лжи и правды (по аналогии, меча и брони) продолжится в веках))))
    1. agond
      agond 13 мая 2021 22:23
      0
      Существует защита от не санкционированного , подмены , редактирования электронных документов , аудио и видио , остается только принять закон об обязательной подобной защите видио обращений высших лиц государства