Роботы-убийцы ошарашили Илона Маска и еще более ста специалистов



Автономным оружием или автономными системами вооружений (AWS) военные эксперты называют виды оружия, которые все делают сами: и находят цель, и выполняют поставленную задачу без вмешательства человека. Одной из наиболее известных, пока только по научно-фантастическим фильмам и книгам AWS считаются так называемые «роботы убийцы».

О смертельной угрозе от роботов убийц пишет в открытом письме-предостережении в ООН Илон Маск и более сотни других специалистов по робототехнике. Маск, Мустафа Сулейман, создатель AI-компании DeepMind Technologies, которая сейчас принадлежит Google, и еще 114 экспертов из 26 стран предупреждают ООН о том, что гонка вооружений в AWS может открыть ящик Пандоры, который способен причинить человечеству труднопрогнозируемый и очень большой вред. Они требуют запретить разработку и внедрение автономных систем вооружений.


Все подписанты прекрасно разбираются в вопросе, потому что работают в области искусственного интеллекта (AI). Они уверены, что поступление на вооружение армий развитых государств роботов-убийц будет иметь для военного дела такое же значение, как изобретение пороха и ядерного оружия, которые они называют первой и второй революциями в военном деле. AWS, считают они, станут третьей революцией.

«После доведения до высокого уровня, автономные системы вооружений выведут военные конфликты к такой степени размаха, которую человечество еще не видело,- говорится в коллективном письме. — Причем, произойдет это с огромной скоростью. AWS могут стать оружием террора, оружием, которое деспоты и террористы будут применять против мирного населения...»

Авторы письма предупреждают о гипотетическом пока еще оружии, которое сможет без участия человека уничтожать людей. Близок день, когда из разряда фантастики оно станет суровой реальностью и заставит искать ответы на множество сложных вопросов, начиная от безопасного управления такими системами и заканчивая моральными и этическими проблемами, вызванных «железной» жестокостью и непредсказуемостью смертельно опасных машин.

Маск со сторонниками, разделяющими его позицию в отношении опасности AWS для человечества, подчеркивает, что времени на раздумья и дискуссии нет и что необходимо действовать немедленно. «У нас совсем немного времени,- пишут они в ООН.- Как только ящик Пандоры откроется, его будет очень трудно закрыть».

Время для написания открытого письма выбрано не случайно. Эксперты хотели приурочить его к началу работы в Мельбурне Международной конференции по искусственному интеллекту (IJCAI). Она должна была открыться в понедельник 21 августа, но ООН решила перенести ее на ноябрь.

В конце открытого письма Илон Маск с коллегами призывает ООН удвоить усилия по созданию к ноябрю стратегии, которая должна будет защитить планету от роботов убийц.

Ранее, сам Маск предупреждал об опасности работ по искусственному интеллекту как таковому, поскольку основанные на нем системы могут выйти из под контроля человека. При этом автомобили с электродвигателями Tesla уже ездят по дорогам США в беспилотном режиме, что не обходится без происшествий.
Автор: Сергей Мануков
Первоисточник: http://expert.ru/2017/08/21/ilon-mask-protiv-robotov-ubijts/


Читайте "Военное обозрение" в Яндекс Новостях

CtrlEnter
Если вы заметили ошибку в тексте, выделите текст с ошибкой и нажмите Ctrl+Enter
Читайте также

Комментарии 49

Информация

Уважаемый читатель, чтобы оставлять комментарии к публикации, необходимо зарегистрироваться.
Уже зарегистрированы? Войти
  1. MadCat 26 августа 2017 06:40
    скоро ИСКИН-ов будут судить, отстранять от должности и усыплять в криотюрьме за ошибочное убивство этих ходячих кусков мяса laughing
    1. Котище (Владислав Котище) 26 августа 2017 07:44
      Более веротно, что "судить" будут куски мяса которые ходят и мешают рулить по дорогам Искинам! tongue
  2. Razvedka_Boem 26 августа 2017 06:48
    У Р. Шекли есть хороший рассказ на эту тему - Страж-птица.
    Можно вспомнить и С. Лема с его Ийоном Тихим на Луне, где военные полигоны были вынесены на Луну и эволюция вооружения шла под надзором ИИ. В итоге получилось нанооружие. У этого же автора оно неплохо описано в н.ф. романе "Непобедимый".
    1. Котище (Владислав Котище) 26 августа 2017 07:53
      Кто из фантастов был первым вопрос спорный! Но история знает двух первопроходцев, сформулировавших "три закова робото техники". Правда они "валят авторство" друг на друга.
      Цитата из "вики":
      В 1939 году Айзек Азимов начал писать первую из своих историй о роботах, рассказ «Робби» (англ. Robbie). В 1941 году Азимов написал рассказ «Лжец» (англ. Liar!) о роботе, умевшем читать мысли. В этом рассказе начинают появляться знаменитые Три закона роботехники. Азимов приписывал авторство этих законов Джону В. Кэмпбеллу, сформулировавшему их в беседе с Азимовым 23 декабря 1940 года. Кэмпбелл, однако, говорил, что идея принадлежала Азимову, он лишь дал ей формулировку. В этом же рассказе Азимов придумал слово «robotics» (робототехника, наука о роботах), вошедшее в английский язык. В переводах Азимова на русский robotics также переводят как «роботехника», «роботика».

      Следующий сборник рассказов "Я, робот" классктка мирового фэнтази!
      1. Железностоп (Василий) 26 августа 2017 09:08
        Фентези вроде про хоббитов, эльфофв.
        1. Котище (Владислав Котище) 26 августа 2017 11:06
          Вы правы, я обобщил понятия. Если уточнить жанр, то - научная фантастика.
          К слову Ваш ник имеет аналог у Р.Толкина "шерстолап"! laughing
          Не обижайтесь!
    2. voyaka uh (Alexey) 26 августа 2017 12:43
      Шекли ли первый, не Шекли, но это время пришло. Гораздо быстрее, чем предполагали.
      И Маск, не зря тревожится. Он из тех немногих, кто видит далеко вперед.
      1. Вишневая девятка (1) 26 августа 2017 13:35
        Цитата: voyaka uh
        Он из тех немногих, кто видит далеко вперед.

        А смысл?

        Текст письма

        https://futureoflife.org/autonomous-weapons-open-
        letter-2017

        Допустим, скажут святые люди из ООН (в основном, напомню, состоящей из воров, людоедов и профессиональных лжецов), что терминаторы - это ай-ай-ай. И что? Израиль, допустим, тут же закроет лавочку? А Хезболла?

        Кажется, Маск, гугловцы и вся прочая шайка-лейка из Сан-Франциско решили очередной раз попиарится в жанре мейк лав нот вор.
        1. voyaka uh (Alexey) 26 августа 2017 19:00
          Шайка-лейка из Сан-Франциско определяет, какие технологии у нас у всех будут завтра.
          Они не могут запретить какое-то направление техники, но могуть заставить политиков придумать законодательство, заранее вводящее это направление в некие рамки.
          Например, невозможно запретить разработку новых ядов, но любому ясно, что никакой новый яд нельзя использовать в виде химического оружия.
          1. Вишневая девятка (1) 26 августа 2017 19:20
            Цитата: voyaka uh
            Например, невозможно запретить разработку новых ядов, но любому ясно, что никакой новый яд нельзя использовать в виде химического оружия.

            А что, табуретки еще не запретили использовать в виде дробящего оружия? Какая досада. Надо бы запретить.

            Или вот НУРСы. Нельзя ли запретить обстреливать НУРСами, допустим, Сдерот? Это ведь его обстреливают потому, что ООН не ввело это направление в некие рамки? Кому письмо написать?
  3. vladimirvn (Владимир Николаевич) 26 августа 2017 08:09
    По пиарится дяденька решил. Видать дела то, у него идут не очень.
    1. Смехотворец (Андрей) 26 августа 2017 13:33
      Просто заблаговременно убирает конкурентов.
    2. saturn.mmm (михаил) 27 августа 2017 08:08
      Цитата: vladimirvn
      По пиарится дяденька решил. Видать дела то, у него идут не очень.

      Дела у него идут хорошо.
  4. п-к Опарышев (Алексей Голубов) 26 августа 2017 08:48
    тема актуальная,но прогресс никакими словами не остановить.Если дроны стремятся быть массовыми,то никто это не отменит.Другой вопрос.Элита отгородится от люда дронами и станет проводить виртуальные войны с народом через иронмэнов и летаков.Пока вы играете,воюете в танчики,готовится игра,в которой будут коптеры воевать с вами.
    1. igordok (Игорь) 26 августа 2017 09:11
      Цитата: п-к Опарышев
      Если дроны стремятся быть массовыми,то никто это не отменит.

      Т.е. дроны будут создавать, себе подобных, дронов. recourse
      1. п-к Опарышев (Алексей Голубов) 26 августа 2017 13:46
        Почему будут?Уже штампуют,десятилетиями,это ВО как всегда готов к прошлой Войне.
      2. yehat (Сергей) 28 августа 2017 10:52
        не, они научатся размножаться, как мухи :)
  5. Moryarty (Михаил) 26 августа 2017 09:29
    Есть три угрозы от ИИ:
    1) Наиболее вероятной угрозой является возможность использования таких роботов диктаторами и террористами. Роботы безжалостны и просто выполняют любой приказ, какой бы жестокий он не был.
    2) Выход ИИ из-под контроля управляющего, а остановить его очень тяжело. Но этот самый маловероятным сценарий.
    3) Очень вероятно в ближайшем будущем. Роботы заменят рабочих, а также полицейских и солдат. Любое недовольство будет подавливаться с жестокостью (роботы не знают жалости). В итоге кучка богатых будет контролировать весь мир, а несогласных уничтожать при помощи бесчувственных машин.
    1. Смехотворец (Андрей) 26 августа 2017 13:41
      Пока запущена протоугроза- оболванивание и последующая паника.
    2. Вишневая девятка (1) 26 августа 2017 13:46
      Цитата: Moryarty
      кучка богатых будет контролировать весь мир

      Сионистское окупационное правительство, релиз 666.1488 бета-тест.

      До сих пор диктатурки, геноцидики и прочие народные забавы вполне удавались на весьма низких уровнях технологий. Наган в руки и вперёд!

      Цитата: Moryarty
      Наиболее вероятной угрозой является возможность использования таких роботов диктаторами и террористами


      И по забавному совпадению, именно этим людям глубоко по*ть и на Маска, и на ООН
  6. andrewkor 26 августа 2017 09:31
    Так же думали и про динамит,про пулеметы,только ЯО ещё как-то оправдывает надежды!
  7. Bob 57 (Борис) 26 августа 2017 10:44
    США от России с любовью партнерам !
    1. Greenwood 26 августа 2017 15:53
      Ага, партнёры сильно испужались!
  8. Вольный ветер ( АЛЕКСАНДР) 26 августа 2017 11:10
    и ходит он теперь ошарашенный!!!!!! Заголовки стали.........
  9. Евгений Стрыгин (Евгений Стрыгин) 26 августа 2017 14:33
    какой всё таки угар с этим пропихиванием имени "Маск" во все труднодоступные щели.
    1. tforik (Сергей) 26 августа 2017 16:39
      хорошо, когда есть кого пропихивать)
  10. tforik (Сергей) 26 августа 2017 15:44
    Толковый малый это Элон Маск. Жаль что у нас в стране таким дороги нет.
    1. Котище (Владислав Котище) 26 августа 2017 16:50
      Элон Маск - толковый? belay
      Но более всено меня напрягло Ваше высказывание, что "у нас в чтране таким дороги нет"! У меня сразу же возникли ассоциации "Толпа клонов Маска прет по бурелому паралельно шоссе"! wink laughing
      1. вадим dok (марусев) 26 августа 2017 18:38
        Вспомните Зворыкина,Сикорского,Брина и многих многих других!
      2. voyaka uh (Alexey) 26 августа 2017 19:08
        "Элон Маск - толковый?"/////
        ---------
        Тут я с Вами согласен. Назвать Маска "толковым", это как назвать Шаляпина "неплохим певцом".
        40 пусков Фалкон-9 из них 15 с возвращением 1-ой ступени, из них 12 в этом году (Роскосмос - 11). Толковый парень.
        1. Вадим237 (Вадим) 26 августа 2017 20:39
          Просто парень занялся делом в нужном направлении, в нужный момент и в нужном месте - вот и стремительно набирает высоту.
          1. Вишневая девятка (1) 26 августа 2017 22:13
            Цитата: Вадим237
            Просто парень занялся делом в нужном направлении, в нужный момент и в нужном мест

            Не вполне "просто".
            Применительно к ракетам, Маск - это разница между Фалкон 9 и Антарес от Орбитал АТК, которая создавалась в тот же срок, по тому же заданию, за бОльшие деньги и гораздо более крупной и опытной фирмой.
        2. yehat (Сергей) 28 августа 2017 10:56
          разве это заслуга Маска?
          мне кажется, это скорее заслуга НАСА, которая финансирует его, щедро делится накопленным опытом и обученным персоналом
          лично я считаю Маска талантливым пиарщиком, не более того.
          1. Вишневая девятка (1) 2 сентября 2017 20:15
            Цитата: yehat
            мне кажется, это скорее заслуга НАСА, которая финансирует его, щедро делится накопленным опытом и обученным персоналом

            Еще раз.
            По программе Commercial Resupply Services работал не один SpaceX. И у SpaceX получилось существенно лучше других. В этом и разница. И заслуга это Маска либо людей, которых Маск нанял, т.е. все равно Маска.
            Был бы у американцев по этой программе один Антарес и второе что-то вроде него - был бы принципиально иной расклад в индустрии запусков.
  11. Михаил_Зверев (Михаил) 26 августа 2017 19:22
    Эти аппараты напоминают "аэровафли" которые хулиганы в подвалах когда-то рисовали. laughing
    А вообще, подобные устройства и вправду очень опасны, а развитие технологий делает их всё доступнее. Скомпоновать обычный дрон, мобильник с распознаванием лиц, пистолет и немного взрывчатки вполне возможно уже сейчас, несколько десятков, а то и сотен таких устройств разместить на крышах, где-нибудь в Лондоне например, да и выпустить на охоту в час пик. Бонус — чёрные лица плохо распознаются, стрельба будет в основном по более-менее светлым. smile
  12. Попович (Ива) 26 августа 2017 20:33
    Илон Маск -Терминаторр4 (облегченная версия)
  13. Dekabrev 26 августа 2017 22:16
    Маск озвучил лишь то, что и так всем давно ясно. И, в общем-то, это пиар. Точно так же многие хотели запретить ядерное оружие. Результат нулевой. Ядерного оружия нет у любого желающего лишь потому, что его изготовление требует очень серьёзных ресурсов. Боюсь, что с дронами и другим полностью автономным оружием таких проблем не будет. Элементная база все дешевеет и дешевеет. Программное обеспечение украсть или адаптировать похожее из гражданской сферы, тоже, скорее всего можно будет. Может я и ошибаюсь. Пусть поправят специалисты.
    1. Михаил_Зверев (Михаил) 26 августа 2017 22:53
      Я вообще не специалист, но мне проблема технически сложной не представляется: распознавать фигуру и лицо человека машины уже умеют, селфи-дроны уже имеются, снабдить из стреляющим устройством и небольшим зарядом взрывчатки для самоподрыва по израсходованию боезапаса несложно. Дрон с пистолетом один студент ещё в 2015 году сделал. https://www.youtube.com/watch?v=c5zFyJyTIBw
  14. Oleg7700 (Oлег) 27 августа 2017 18:37
    Как уже неоднократно бывало в истории, текущие "прогнозы и страхи" могут оказаться сродни "научным" прогнозам своего времени, что "развитие городского общественного транспорта невозможно по достижению определённого предела, из-за проблемы удаления конского навоза с улиц" и реальная опасность совершенно иная. Что касается доктрины Израиля то: "...одной только ситуационной осведомленности недостаточно, если она не увязана с возможностью реагировать в течение одного и того же интервала времени. Поскольку эти временные интервалы в настоящее время составляют секунды и доли секунды, способности человека создают ограничения. Следовательно, концепция «Fire Canopy» включает разработку автоматического реагирования наряду с ситуационной осведомленностью". Система второго поколения "Tzayad"(Digital Land Army) от Elbit Systems станет основным элементом, объединяющим все это вместе, "замыкая контур", работы идут полным ходом и оон-шмаон, вместе с "обеспокоенной общественностью", тут не советчики: - ну не в рукопашную же ходить...
    1. voyaka uh (Alexey) 27 августа 2017 23:27
      "включает разработку автоматического реагирования наряду с ситуационной осведомленностью"////

      Это еще пол-беды... recourse беда, что автоматически реагировать будут ситуационно осведомленные аппараты с САМООБУЧАЮЩИМСЯ программным обеспечением. То есть
      ПО, написанным (постепенно, по ситуациям) ими самими, а не людьми-программистами. А что робот сам себе напрограммирует, бог его знает. Об этом и предупреждают гуру от технологий.
      1. Oleg7700 (Oлег) 28 августа 2017 00:08
        Есть над чем работать израильским гуру от логистики и ИИ. "Жить захочешь не так раскорячишься..."
        1. voyaka uh (Alexey) 28 августа 2017 10:30
          Израиль, понятно дело, этим занимается. И укрепит армию, конечно.
          И, как я предполагаю, израильские фирмы заработают
          на ИИ огромные деньги. Но погоду все-таки делает Калифорния.
          Они и шумят в прессе.
  15. Леонид Хар (Леонид) 28 августа 2017 04:37
    Илон Маск всех предупреждает об опасности искусственного интеллекта, но сам продолжает разрабатывать искусственный интеллект. Странно. Не правда ли?
    1. voyaka uh (Alexey) 28 августа 2017 10:26
      Разработки остановить невозможно. И естественно фирмы Кремниевой долины и
      Сиэтла - в первых рядах. Но также естественно, что они предупреждают о возможных
      последствиях собственных разработок. Впервые стало понятно, что ИИ существует, он уже разработан и он - оружие.
      И неглупо задуматься заранее о законодательстве в этой области.
      1. yehat (Сергей) 28 августа 2017 10:58
        что может остановить жажду власти и наживы?
        ии - средство добычи всего этого и никакие моральные нормы не способны остановить негодяев.
  16. DimerVladimer (Дмитрий Владимирович) 28 августа 2017 15:22
    Одно дело, когда ИИ действует по заложенной программе и связан ее ограничениями.
    Другое дело, когда предусмотрена возможность самообучаться - править свой код, не связанный никакими ограничениями этического плана.
    Специалисты пытаются предупредить - Человечество, своими руками ставит точку в судьбе.

    С появлением майнинговых ферм (вычислительных мощностей для криптовалютных рассчетов), огромные объемы распределенных вычислительных мощностей, не подконтрольные правительствам, станут относительно доступны для ИИ.
  17. Mestny (Сергей) 29 августа 2017 00:13
    Цитата: voyaka uh
    И неглупо задуматься заранее о законодательстве в этой области.

    Да, действительно. А то получится как с атомным оружием - не успели отпраздновать полное превосходство над остальным человечеством, как тут же оно появилось у другой страны, а потом и у следующих. Пришлось долго и нудно уговаривать "нераспространять".
    Надо, надо срочно запретить всем остальным, кроме исключительной страны.
  18. ML-334 29 августа 2017 06:27
    Парадокс-Создатель создал нас-биороботов с программой "Заповедь Бога"-исполняем мы их?То то и оно-возомнили из себя Бога-будем наказаны.Кстати-сколько цивилизаций он зачистил?
  19. solovald 30 августа 2017 06:45
    Все идет по сценарию Брэдбери в «Страж-птице»
Картина дня