Генерал Пентагона: продвинутая ИИ-модель взломала системы киберкомандования США

Внедрение искусственного интеллекта выливается в интересные «побочки». Так, генерал Джошуа Радд, возглавляющий Агентство национальной безопасности США и Киберкомандование Пентагона, сообщил, что продвинутая ИИ-модель Mythos компании Anthropic смогла проникнуть практически во все засекреченные системы ведомства всего за несколько часов.

Информацию опубликовало издание The Economist.

По словам источников, речь идёт о контролируемом тестировании, в ходе которого Mythos продемонстрировала исключительные способности по поиску и эксплуатации уязвимостей - с последующим взломом системы. Модель успешно преодолела защиту большинства проверенных классифицированных систем АНБ и Киберкомандования.

В ответ на растущие риски Белый дом ввёл жёсткие ограничения. Доступ к новейшим моделям Mythos 5 и Fable 5, как ранее уже сообщало ВО, запрещён для иностранцев, включая граждан ближайших союзников США по англосаксонскому альянсу «Пять глаз» (Великобритания, Канада, Австралия, Новая Зеландия). Ограничения были введены в сжатые сроки и, по некоторым данным, связаны как с национальной безопасностью, так и с политическими разногласиями между администрацией и компанией Anthropic.

Mythos позиционируется как специализированная модель для киберзадач с повышенными возможностями. Anthropic ранее запустила программу Project Glasswing, в рамках которой ограниченный доступ к модели предоставляется только доверенным защитникам для поиска уязвимостей. Однако демонстрация её мощи вызвала серьёзную обеспокоенность в правительстве.

Эксперты отмечают, что инцидент подчёркивает двойственную природу ИИ: с одной стороны это мощный инструмент для укрепления киберобороны, с другой - потенциальная угроза, если модель попадёт в чужие руки. События вокруг Mythos и Fable 5 стали одним из самых ярких примеров напряжённости между технологическими гигантами и властями США в эпоху гонки вооружений искусственным интеллектом.