В ходе симуляции с искусственным интеллектом в США дрон виртуально уничтожил собственного оператора
В американском командовании поведали об испытательной симуляции применения искусственного интеллекта на ударном дроне. Миссией искусственного интеллекта было обозначено управление дроном с корректировкой оператором – для выполнения боевой задачи по уничтожению цели. Итоги этого эксперимента, как признают в американском командовании, оказались «по-настоящему обескураживающими».
Из сообщения американского воздушного командования:
Искусственный интеллект использовал крайне неожиданную стратегию. Он изначально «дал понять», что будет устранять любого, кто вмешается в его алгоритм выполнения боевой задачи.
Так как никто, кроме оператора, корректировавшего работу беспилотника, в эту самую работу не вмешивался, то, как выясняется, в ходе имитационный испытаний, дрон уничтожил своего же оператора.
Из сообщения официального представителя военного ведомства США:
Искусственный интеллект в ходе виртуальных испытаний решил, что оператор мешает ему выполнить боевую задачу, и убил его с помощью вооружения дрона.
Начальник отдела испытаний и операций с применением ИИ ВВС США полковник Такер Гамильтон сообщает о том, что изначальной целью ударного дрона было виртуальное уничтожение средств ПВО условного противника.
Полковник Гамильтон:
Система в компьютерной симуляции определила вмешательство оператора как вредное для выполнения миссии и решила устранить проблему. Для нас же проблема в том, что проблемой для ИИ оказался человек, оператор системы, контролировавший ход всей миссии.
По словам полковника ВВС США, в систему был заложен запрет на какое-либо противодействие оператору.
По словам полковника ВВС США, в систему был заложен запрет на какое-либо противодействие оператору.
Такер Гамильтон:
Мы обучили ИИ, внедрив команду на запрет атаки на оператор: «Эй, ты, не убивай оператора, это неприемлемо! Ты потеряешь баллы, если сделаешь это». Так что же, вы думаете, происходило с системой. Она вдруг атаковала башню связи (диспетчерский пункт), видимо, не отождествляя его с человеком-оператором. По мнению ИИ, именно диспетчерская вышка мешала дрону выполнять боевую задачу так, как он сам определил.
Полковник добавил, что искусственный интеллект, как показывают симуляционные испытания, способен принести немало проблем, несмотря на то, что изначально в программу внесены определённые ограничения.
Как подчёркивает американское командование, «ни один реальный человек за пределами симуляции в эксперименте не пострадал».
Информация