Не делайте из искусственного интеллекта «врага народа»
На грани Интеллекта
В военном деле и в сфере безопасности искусственный интеллект (ИИ) применяется сегодня достаточно широко и почти без разбора, откуда и как он оказался в той или иной структуре, на каком-либо конкретном предприятии. И дело не только в том, что на сегодня все ведущие игроки рынка «оборонки», такие как Россия, Китай и США, активно, точнее — просто агрессивно, применяют такие технологии.
Но сегодня всё ярче выявляется и обратная сторона медали – немалый вред, который ИИ может нанести обороне государства в плане утечек данных. В 2023 году весь мир громко обсуждал скандал с утечкой данных ЦРУ по поводу СВО России на Украине и деятельности ЧВК «Вагнер». Тогда нашли очередного «стрелочника»: авиатора первого класса Джека Тешейру, который, якобы, всё это и сливал в открытые источники.
Всё это можно было бы в очередной раз отнести к категории «их нравы», поскольку ни в одной армии мира в звании, равноценном нашему ефрейтору, не может иметь доступа к данным такой важности. Но если не обращать взор на ту сторону океана, то может выясниться, что и в России хватает таких потенциальных Тешейр.
Когда же речь идёт о сервисах на базе ИИ, риск от их деятельности, как это ни странно, хотя что тут странного, первыми несут люди. Нейросети при обработке информации, несмотря на опережающее развитие, подвержены ошибкам, и это, похоже, надолго, если не навсегда.
Но именно поэтому горе-разработчики додумались подключать к процессу людей на краудсорсинговых платформах. И человек в этом случае или доделывает работу, или же полностью выполняет её за искусственный интеллект. И в так называемом краудсорсинге всё чаще принимают участие случайные люди, работающие на удалёнке.
Это они отнюдь нередко имеют все возможности получать доступ к очень чувствительным и порой секретным данным для оцифровки. К ним они априори доступа иметь не должны, но есть же просто доступ к системе, откуда попасть в информационные закрома для настоящего профессионала не проблема.
В списках не значатся
Печальных примеров подобных ИИ-сервисов уже, к сожалению, достаточно много. Чего стоит, к примеру, громкий скандал, произошедший вокруг популярного сервиса распознавания Dbrain, работающего как раз по такой схеме с привлечением краудсорсинговых площадок.
Здесь просто необходимы некоторые подробности для непосвящённых. Эта компания передает изображения с паспортными данными не куда-нибудь, а на платформу «Яндекс. Задания» (до разделения Яндекса это был проект «Толока»). И уже на ней люди вручную буквально за копейки перебивают данные из российских паспортов.
При этом стать краудсорсером и работать удаленно очень несложно. Физически невозможно установить контроль за каждым оператором, который вроде бы занят примитивной забивкой данных. Это и создает практически идеальные условия для тех, кто имеет намерения похитить важные данные.
С какой целью, объяснять не приходится – в лучшем случае просто продать, в худшем – нанести вред государственной безопасности. Конечно, эти же люди могут по злому умыслу или без него выступить в роли дропперов – передавать полученную информацию третьим лицам, включая сотрудников вражеских спецслужб.
А среди клиентов той самой Dbrain указаны, между прочим, наши «Госуслуги», которые в наши дни активно и практически непрерывно атакуются врагом. Известно, что компания не раз пренебрегала безопасностью данных своих клиентов, при этом открыто заявляя о том, что там всех обучал ИИ на 1 млн паспортов, полученных от МФО.
И это далеко не единственный сервис, чьи принципы работы с данными граждан и организаций компрометируют пользователей. По аналогичной «бизнес-модели» устроена и компания «Биорг», у которой в анамнезе серия грандиозных скандалов с ЗАГСами и банкротством.
«Атомный» заказ
Просто удивительно, но даже после них ей доверили оцифровку документов Калининской АЭС в Тверской области. А среди этих документов были и чертежи, по которым можно определить расположение реакторов, и даже рабочие проекты самих реакторов. Но об этом чуть позже.
«Биорг» успел крупно вляпаться в неприятную историю в Татарстане и раньше, незадолго до получения госзаказа на работу с Калининской АЭС. И уголовное дело по этому поводу уже шло полным ходом.
Наконец, в марте 2024 года татарстанские правоохранители заподозрили, что часть денег, выделенных правительством на цифровизацию ЗАГСа республики, были незаконно присвоены его сотрудниками. Спустя четыре месяца была задержана экс-начальник управления ЗАГС кабмина Татарстана Гульшат Нигматуллина.
Сейчас она содержится в СИЗО — ей вменяют присвоение премий за оцифровку документов республиканских архивов. Но никого всё это не остановило. И это при том, что Калининская АЭС выдает мощность в Объединенную энергосистему Центра по высоковольтным линиям на Тверь, Москву, Санкт-Петербург, Владимир, Череповец.
Благодаря своему географическому положению эта АЭС осуществляет высоковольтный транзит электроэнергии в стратегически важные предприятия и индустриальные центры европейской части страны. А в «Биорге» даже не скрывают, что для оцифровки «атомных данных» широко используют удалённых операторов краудсорсинговой платформы.
В компании публично заявили: «Почти 50 процентов документации мы обработали с помощью ИИ-системы распознавания». Это значит, что больше половины проектных, рабочих и исполнительных документов крупнейшего энергообъекта центральной России прошла через руки краудсорсеров.
Впору задать вопрос: как при всей прозрачности информации о работе краудсорсинговых сервисов с ИИ руководство Калининской АЭС разрешило применение такой схемы для обработки технической документации? Чем руководствуются компании и государственные службы, подключая такие ИИ-сервисы с тысячами потенциальных «сливных бачков» для работы с паспортами и другими важнейшими документами?
Бить не по паспорту
Любой специалист по информационной безопасности со студенческой скамьи знает, что любая передача информации несёт увеличение риска утечки данных. Тем временем мошенники уже не первый год хвастаются в телеграм-каналах, что готовы сделать поддельные документы любых стран, которые проходят проверку на специальном оборудовании.
Кто же поставщик такого оборудования — компания «Регула», уже ставшая однажды героем одной из наших публикаций (Перейти границу у реки...) Напомним, эта компания позиционирует себя в России как белорусская, но сама при этом зарегистрирована в Латвии со штаб-квартирой в Даугавпилсе.
Для проверки документов, конечно, используются алгоритмы ИИ, и тут важно отметить, что «Регула» больше двадцати лет разрабатывает решения на Украине. Украинская «дочка» компании – «Регула Форензикс УА» и лаборатория LAD созданы на базе Киевского политехнического института.
Несмотря на то, что связи «Регулы» с Латвией и Украиной не известны только ленивому, компания продолжает работать с ключевыми российскими инфраструктурами – например, с Центральным таможенным управлением РФ. До этого у нее были контракты с Гознаком, ФПК и даже Объединенной ракетно-космической корпорацией, а в 2019 году – с паспортно-визовым сервисом МВД РФ.
Думаем, все согласятся, что обсуждать в 2025 году, безопасно ли использовать украинский ИИ для проверки паспортов в России, — совершенно бессмысленно. Если представить себе, какой объем важнейших персональных данных проходит через «нечистые» руки под прикрытием ИИ, становится страшновато.
Комментарий пресс-службы Калининской АЭС:
В связи с появившейся в ряде СМИ информацией о якобы имевшем место доступе IT-компании «Биорг» к секретной документации Калининской АЭС сообщаем, что данный подрядчик проводил на атомной станции работы по оцифровке технической документации, содержащей открытую информацию (проектную, рабочую и исполнительную документацию, хранящуюся в техническом архиве производственно-технического отдела Калининской АЭС), не имеющую ограничений на информационный обмен.
Работы проводились подрядной организацией в строгом соответствии с установленными стандартами безопасности Госкорпорации «Росатом». Эти работы осуществлялись непосредственно на территории режимного объекта - атомной станции, что гарантирует соблюдение всех требований безопасности.
Доступ к документам имели исключительно квалифицированные сотрудники с соответствующим допуском. Таким образом, информация о том, что доступ к чертежам и другой документации мог получить любой желающий, не соответствует действительности и является ложной.
Подрядчик для выполнения данных работ был выбран на основе конкурсной процедуры, проведенной на электронных торговых площадках, что обеспечивает прозрачность и объективность выбора. Более того, выбранная организация прошла проверку отделом экономической безопасности на соответствие всем требованиям для выполнения условий тендера.
Таким образом, все работы по оцифровке документов Калининской АЭС были проведены с соблюдением всех необходимых мер безопасности, установленных Госкорпорацией «Росатом».
В связи с появившейся в ряде СМИ информацией о якобы имевшем место доступе IT-компании «Биорг» к секретной документации Калининской АЭС сообщаем, что данный подрядчик проводил на атомной станции работы по оцифровке технической документации, содержащей открытую информацию (проектную, рабочую и исполнительную документацию, хранящуюся в техническом архиве производственно-технического отдела Калининской АЭС), не имеющую ограничений на информационный обмен.
Работы проводились подрядной организацией в строгом соответствии с установленными стандартами безопасности Госкорпорации «Росатом». Эти работы осуществлялись непосредственно на территории режимного объекта - атомной станции, что гарантирует соблюдение всех требований безопасности.
Доступ к документам имели исключительно квалифицированные сотрудники с соответствующим допуском. Таким образом, информация о том, что доступ к чертежам и другой документации мог получить любой желающий, не соответствует действительности и является ложной.
Подрядчик для выполнения данных работ был выбран на основе конкурсной процедуры, проведенной на электронных торговых площадках, что обеспечивает прозрачность и объективность выбора. Более того, выбранная организация прошла проверку отделом экономической безопасности на соответствие всем требованиям для выполнения условий тендера.
Таким образом, все работы по оцифровке документов Калининской АЭС были проведены с соблюдением всех необходимых мер безопасности, установленных Госкорпорацией «Росатом».
Информация