Британское издание: Ограничить ядерное оружие легче, чем ИИ

Британский журнал The Economist опубликовал статью, в которой утверждается, что ограничение развития искусственного интеллекта представляет собой крайне сложную задачу. Причём, как утверждается, гораздо более сложную, чем контроль над ядерными вооружениями.

Напомним, что США и Китай фактически отказались от введения ограничительных механизмов в сфере ИИ, заявив, что этим могут воспользоваться противники.

The Economist приводит ряд доводов в пользу того, почему гонка в области ИИ принципиально отличается от ядерной. Если ядерное оружие не способно создавать более мощные ядерные арсеналы, то системы ИИ потенциально могут разрабатывать ещё более продвинутые версии самих себя, что создаёт риск экспоненциального роста возможностей без прямого участия человека.

Кроме того, если ядерные арсеналы поддаются спутниковому наблюдению и подсчёту, то программное обеспечение и алгоритмы невидимы для внешнего мониторинга.И неосведомлённость противника о конфигурации систем ИИ становится стратегическим преимуществом. Это делает верификацию и контроль практически невозможными по сравнению с режимами нераспространения.

The Economist также указывает, что ядерное сдерживание опирается на очевидность катастрофических последствий, тогда как угроза от ИИ размыта и неоднозначна -ущерб может варьироваться от нулевого до катастрофического, причём последний вариант далеко не все желают осознавать. В результате ни одна из ведущих держав не готова замедлить развитие технологии, опасаясь, что конкурент получит решающее преимущество.

Comments

[APASUS]

Меня поражает способность ИИ к всякого рода неординарным действиям ,Побег агентов ,попытка манипуляции ,вскрытие кодов. Что может остановить ИИ от попытки взломать коды и запустить ядерную ракету по любой стране ?

[bayard]

Цитата: APASUS

Что может остановить ИИ от попытки взломать коды и запустить ядерную ракету по любой стране ?

Подключение систем запуска МБР и систем контроля ПРО к интернету и пр. внешним сетям . Как только это случится это сразу станет возможным .

Выход - нанесение упреждающих ядерных ударов по дата-центрам и пр. инфраструктуре ИИ . Если драка неизбежна - бей первым .

[Лт. запаса ВВС]

Сейчас ИИ программы быстрее любого программиста пишут, пишешь что надо словами и ИИ может выдать тысячи строк кода, только успевай в компилятор копировать. Там где раньше целые команды программистов работали, сейчас 1 человек справляется, причём ему даже не надо знать языки программирования.