Британское издание: Ограничить ядерное оружие легче, чем ИИ

Британский журнал The Economist опубликовал статью, в которой утверждается, что ограничение развития искусственного интеллекта представляет собой крайне сложную задачу. Причём, как утверждается, гораздо более сложную, чем контроль над ядерными вооружениями.

Напомним, что США и Китай фактически отказались от введения ограничительных механизмов в сфере ИИ, заявив, что этим могут воспользоваться противники.

The Economist приводит ряд доводов в пользу того, почему гонка в области ИИ принципиально отличается от ядерной. Если ядерное оружие не способно создавать более мощные ядерные арсеналы, то системы ИИ потенциально могут разрабатывать ещё более продвинутые версии самих себя, что создаёт риск экспоненциального роста возможностей без прямого участия человека.

Кроме того, если ядерные арсеналы поддаются спутниковому наблюдению и подсчёту, то программное обеспечение и алгоритмы невидимы для внешнего мониторинга.И неосведомлённость противника о конфигурации систем ИИ становится стратегическим преимуществом. Это делает верификацию и контроль практически невозможными по сравнению с режимами нераспространения.

The Economist также указывает, что ядерное сдерживание опирается на очевидность катастрофических последствий, тогда как угроза от ИИ размыта и неоднозначна -ущерб может варьироваться от нулевого до катастрофического, причём последний вариант далеко не все желают осознавать. В результате ни одна из ведущих держав не готова замедлить развитие технологии, опасаясь, что конкурент получит решающее преимущество.