«Пять глаз»: ИИ сможет совершать масштабные кибератаки на бизнес и госструктуры

Искусственный интеллект (ИИ) совсем скоро сможет совершать масштабные и разрушительные кибератаки на бизнес и госструктуры. Это произойдет в результате значительного роста скорости, масштаба и сложности операций, которые станут доступны нейросетям.

Об этом говорится в предупреждении мировым лидерам от разведсообщества «Пять глаз», куда входят спецслужбы США, Британии, Канады, Австралии и Новой Зеландии.

В документе отмечено, что нейросети смогут получить такую возможность не в течение нескольких лет, как предполагалось ранее, а уже в ближайшие месяцы. Поэтому корпорациям и правительствам следует срочно произвести замену устаревшего программного обеспечения и обновление программ кибербезопасности, чтобы быть готовыми к защите своих ресурсов.

Эсперты выражают тревогу, прогнозируя существенное усиление киберугроз глобального масштаба. И времени на подготовку к борьбе с ними практически не осталось.

Специалисты «Пяти глаз» не отрицают того, что нейросети помогают укреплять киберзащиту ресурсов, но они также совершенствуют способы ее преодоления.

Заявлению разведывательного альянса предшествовал запрет властями США предоставления доступа иностранцам к новейшей модели ИИ Fable 5, созданной американской компанией Anthropic. Данная разработка уже вызвала интерес во всем мире благодаря ее способности эффективно находить уязвимые места в киберзащите. Среди экспертного сообщества все чаще звучит тезис, что развитие искусственного интеллекта создает новые риски для человеческой цивилизации.

Comments

[silberwolf88]

Есть и такое … но ведущие компании в области киберзащиты (PT KASPERSKY Игфотекс и тп) занимаются применением/противодействием ИИ давно … это две стороны одной медали нападение/защита … вызов понятен а вот противодействия не раскрывают ибо зачем))

[Solomon_BY]

У обезьяны нет никаких шансов против гранаты - нашла и на этом жизнь кончилась! А как игралась, как было весело! Вот и человечество с этим ИИ доиграется! И даже следов не останется - цифра только в мозгах компьютеров. За 100 лет соржавеют остатки их и пыль развеется по миру. И придёт уже 7-я цивилизация на эту Землю. Шесть канули в лету.

[gridasov]

Из любого лабиринта рано или поздно можно выйти по одной стороне соприкосновения. Это являеться одним из примеров двоичной логики позволяющем опираясь на скорость пересчёта взломать любые замки. Но логика на всех числах натурального ряда и пространственной записи кода в своей вариативной возможности практически исключает доступ к числовой крепости.

[Azim77]

От ИИ 2 основных типа угрозы - за счет большой вычислительной мощности и за счет "логики" (большой базы данных опыта и его применения). В первом случае существенный прорыв, соответственно высокая угроза возможны при увеличении мощности квантовых компьютеров. Во втором случае - "логика", появившаяся за счет первичной загруженной исторической информации, из-за более тесного обращения уже к самой ИИ, тем самым передачи опыта уже от пользователей может резко быстро обучить ИИ новому. Т.е. весь мир начнет обучать ИИ.
И в таком случае будет трудно даже большой группе специалистов противостоять всему остальному миру, через который ИИ обучается.

[Михаил Б]

Так весь мир и так уже давно обучает ИИ. Многие люди ведут очень откровенные беседы с gpt, gemini и другими...

[gridasov]

Большие вычислительные мощности как процесс тянут за собой массу паразитных и отягчающих процессов. Поэтому об этом стоит помнить. Поэтому современный ИИ даёт много информации как суеты, а по научному сказать нет продвижения в масштабируемом аспекте развития. Нет оптимизации и анализа на машиной основе, а есть большие стат данные ещё болле дезорганизующиие работу аналитический способности мозга человека. Поэтому уже есть признаки негативного влияния этого ИИ создающего искаженное представление о реальности и ни одного эффективного моделирования реальных физ процессов.

[Azim77]

Цитата: gridasov

Поэтому уже есть признаки негативного влияния этого ИИ создающего искаженное представление о реальности

Вот в этом кроется 3 угроза - разным категориям людей разный ИИ и уровень его ответов. За счет этого кого-то или даже страны ослабить, а кому-то дать очень сильную фору и мощь. В статье есть упоминание Fable 5, созданной американской компанией Anthropic. И ее запрет для других стран уже говорит, что формируется новый вид оружия - интеллектуальный.

[gridasov]

Думаю Вы безусловно правы. Интеллект как инструмент выживания и развития созвучно с термином оружие. Новые условия жизни и борьба за ресурсы ставят и задачи нового уровня их решений и в соответствии с интеллектом и его развитием. Но все технологии современного ИИ в своей основе ничто что ждёт цивилизацию на пути её эволюции.

[Михаил Б]

Риски для человеческой цивиллизации возникают не потому что технология какая-то не такая, а потому что её могут неправильно использовать. Мы же не отказываемся от электричества из-за риска удара током.
Как бы там ни было ИИ даёт неоспоримое преимущество тем кто умеет его правильно использовать в своих целях, особенно если он имеет доступ к большим мощностям и передовым разработкам

[gridasov]

Да, и остаеться фактом, что цивилизация до сих пор не способна использовать однонаправленный импульсный ток без элементной базы нивелирующих качество этого процесса. Цивилизация которая не осмысливает, что все энергетические параметры всего, что находиться в пространстве этой планеты оптимизированны под эти условия и необходимо искать алгоритмические аспекты процессов обеспечивающих достаточно т энергообеспечения, а не использовать невосполнимые ре курсы планеты.