Учёных пугает угроза со стороны искусственного интеллекта

Самосовершенствующийся искусственный интеллект (ИИ) в будущем может поработить или убить людей, если он этого захочет. Об этом рассказал ученый Амнон Иден, который полагает, что риски от разработки свободомыслящего и высокоинтеллектуального сознания очень велики, и, «если не озаботиться вопросами контроля ИИ уже на сегодняшнем этапе развития, то завтра может просто не наступить». Как сообщает английское издание Express, человечество, по мнению Амнона Идена, находится сегодня в «точке невозврата» для претворения в жизнь сюжета знаменитой киноэпопеи «Терминатор».

Стоит отметить, что доктор Амнон Иден является руководителем проекта, главная цель которого — это анализ потенциального разрушительного воздействия ИИ. Без правильного понимания последствий создания искусственного интеллекта его разработка может грозить катастрофой, полагает ученый. В настоящее время наше общество плохо информировано о тех спорах, которые ведутся в научных кругах об анализе потенциального воздействия ИИ. «В наступившем, 2016 году анализ возможных рисков должен будет получить существенно большее распространение в мышлении корпораций и правительств, политиков и тех лиц, которые ответственны за принятие решений», — считает Иден.

Ученый уверен, что научная фантастика, которая описывание уничтожение человечества роботами, вскоре может стать нашей общей проблемой, так как процесс создания ИИ вышел из-под контроля. К примеру, Илон Маск при поддержке предпринимателя Сэма Альтмана решил создать новую некоммерческую организацию стоимостью 1 миллиард долларов, которая занимается разработкой ИИ с открытым исходным кодом, который должен превзойти человеческий разум. При этом сам американский миллиардер Илон Маск причисляет искусственный интеллект к числу «самых больших угроз нашему существованию». Стив Возняк, который был соучредителем компании Apple, в марте прошлого года рассказал, что «будущее выглядит пугающим и очень опасным для людей… в конце концов настанет день, когда компьютеры будут думать быстрее, чем мы, и они избавятся от медленных людей для того, чтобы компании могли работать более эффективно».


Учёных пугает угроза со стороны искусственного интеллекта


Стоит отметить, что угрозу со стороны ИИ видят многие ученые. Десятки известных ученых, инвесторов и предпринимателей, деятельность которых, так или иначе, связана с разработкой искусственного интеллекта, подписали открытое письмо с призывом уделять более пристальное внимание вопросу безопасности и общественной полезности работ в области ИИ. Среди подписавших данный документ астрофизик Стивен Хокинг и основатель компании Tesla и SpaceX Илон Маск. Письмо вместе с сопроводительным документом, который был составлен общественной организацией Future of Life Institute (FLI), было написано в обстановке растущей обеспокоенности по поводу влияния искусственного интеллекта на рынок труда и даже на долгосрочную перспективу выживаемости всего человечества в условиях, когда возможности роботов и машин будут расти практически безудержно.

Ученые понимают тот факт, что потенциал ИИ сегодня очень велик, поэтому необходимо всецело исследовать возможности его оптимального для нас использования, чтобы избежать сопутствующих ловушек, отмечается в письме FLI. Необходимо, чтобы созданные человеком системы ИИ делали ровно то, чего мы от них хотим. Стоит отметить, что Future of Life Institute был основан лишь в прошлом году рядом энтузиастов своего дела, среди которых был создатель Skype Яан Таллинн, для того чтобы «минимизировать риски, стоящие перед человечеством» и стимулировать исследования с «оптимистическим видением будущего». Прежде всего, речь здесь идет о рисках, которые вызваны развитием ИИ и робототехники. В консультационный совет FLI входят Маск и Хокинг наряду со знаменитым актером Морганом Фриманом и другими известными людьми. По мнению Илона Маска, неконтролируемое развитие искусственного интеллекта представляет потенциально большую опасность, чем ядерное оружие.

Известный британский астрофизик Стивен Хокинг в конце 2015 года постарался объяснить свое неприятие технологий ИИ. По его мнению, сверхразумные машины со временем будут смотреть на людей как на расходный материал или муравьев, которые просто мешают решению стоящих перед ними задач. Общаясь с пользователями портала Reddit, Стивен Хокинг отметил, что он не считает, что подобные сверхразумные машины будут «злыми существами», желающими уничтожить все человечество из-за своего интеллектуального превосходства. Скорее всего, речь можно будет вести о том, что они просто не будут замечать человечество.

Учёных пугает угроза со стороны искусственного интеллекта


«СМИ в последнее время постоянно искажают мои слова. Главный риск, который заключается в развитии ИИ, это не злоба машин, а их компетенция. Сверхразумный искусственный интеллект будет отлично справляться с задачами, но если его и наши цели не будут совпадать, у человечества появятся очень серьезные проблемы», — поясняет известный ученый. В качестве примера Хокинг привел гипотетическую ситуацию, в которой сверхмощный ИИ отвечает за функционирование или строительство новой плотины ГЭС. Для подобной машины первостепенным будет то, как много энергии вверенная система будет вырабатывать, а судьба людей не будет иметь никакого значения. «Среди нас найдется мало тех, кто топчет муравейники и наступает на муравьев со злости, но давайте представим ситуацию — вы контролируете мощную ГЭС, которая вырабатывает электроэнергию. Если вам необходимо будет поднять уровень воды и в результате ваших действий один муравейник будет затоплен, то проблемы утопающих насекомых вряд ли будут вас беспокоить. Давайте не будем ставить людей на место муравьев», — отметил ученый.

Второй потенциальной проблемой дальнейшего развития искусственного интеллекта, по мнению Хокинга, может стать «тирания хозяев машин» — стремительный рост разрыва в уровне доходов между богатыми людьми, которым удастся монополизировать выпуск разумных машин, и остальным населением планеты. Стивен Хокинг предлагает решать эти возможные проблемы следующим путем — замедлить процесс разработки ИИ и переключиться на разработку не «универсального», а узкоспециализированного искусственного разума, который сможет решать лишь крайне ограниченный круг задач.

Помимо Хокинга и Маска, свои подписи под письмом поставили нобелевский лауреат и профессор физики MIT Фрэнк Вильчек, исполнительный директор Института исследований машинного интеллекта (MIRI) Люк Мюльхаузер, а также многие специалисты из крупных IT-компаний: Google, Microsoft и IBM, а также предприниматели, основавшие компании Vicarious м DeepMind, специализирующиеся на разработке систем ИИ. Составители письма отмечают, что они не ставят своей целью напугать общественность, но планируют подчеркнуть как положительные, так и отрицательные стороны, которые связаны с созданием искусственного интеллекта. «В настоящее время все сходятся во мнении, что исследования в области ИИ уверенно прогрессируют, а влияние ИИ на современное человеческое общество будет только усиливаться, — сообщается в письме — открывающиеся перед человеком возможности огромны, все, что может предложить современная цивилизация, было создано интеллектом человека. Мы не в состоянии предсказать, чего нам удастся достичь, если интеллект человека можно будет помножить на средства ИИ, однако проблема избавления от бедности и болезней уже не представляется бесконечно трудной».

Учёных пугает угроза со стороны искусственного интеллекта


В современный быт уже включены многочисленные разработки в области искусственного интеллекта, включая системы распознавания изображений и речи, беспилотные транспортные средства и многое другое. Согласно оценкам наблюдателей из Кремниевой долины, в данной области сегодня реализуется более 150 стартапов. При этом разработки в этой области привлекают все больше инвестиционных вложении и все больше компаний наподобие Google развивают свои проекты на базе ИИ. Поэтому авторы письма полагают, что настало самое время, для того чтобы уделить повышенное внимание всем возможным последствиям наблюдаемого бума для экономических, социальных и юридических сторон человеческой жизни.

Позицию о том, что искусственный интеллект может представлять опасность для человека, разделяет и Ник Бостром профессор Оксфордского университета, который известен своими работами об антропном принципе. Данный специалист считает, что ИИ подошел к той точке, за которой последует его несовместимость с человеком. Ник Бостром подчеркивает, что в отличие от генной инженерии и изменений климата, для контроля которых правительства выделяют достаточные суммы, «ничего не делается, для того чтобы контролировать эволюцию ИИ». По мнению профессора, в отношении искусственного интеллекта в настоящее время ведется «политика правового вакуума, который нужно заполнить». Даже такие технологии, как беспилотные автомобили, которые представляются безобидными и полезными, вызывают ряд вопросов. К примеру, должен ли подобный автомобиль совершать экстренное торможение, для того чтобы спасти своих пассажиров и кто будет отвечать в случае ДТП, совершенного беспилотным автомобилем?

Рассуждая над потенциальными рисками, Ник Бостром отметил, что «компьютер не в состоянии определить пользу и вред для человека» и «не имеет даже малейшего представления о человеческой морали». Помимо этого, циклы самосовершенствования в компьютерах могут происходить с такой скоростью, за которой человек просто не сможет уследить, и с этим также почти ничего нельзя сделать, говорит ученый. «На том этапе развития, когда компьютеры смогут думать сами за себя, никто не сможет точно предсказать, приведет ли это к хаосу или существенно улучшит наш мир, — заявил Ник Бостром, в качестве примера приведя простое возможное решение компьютера — отключить в странах с холодным климатом отопление для оздоровления людей и повышения их выносливости, которое «может прийти в голову искусственному интеллекту».

Учёных пугает угроза со стороны искусственного интеллекта


Помимо этого, Бостром поднимает и проблему чипирования человеческого мозга с целью повышения нашего биоинтеллекта. «Во многих отношениях такая процедура может быть полезной, если все процессы будут контролируемыми, но что произойдет, если вживленный чип сможет перепрограммировать сам себя? К каким последствиям это может привести — к возникновению сверхчеловека или к появлению компьютера, который будет лишь выглядеть человеком?» — задается вопросами профессор. Способы, при помощи которых компьютеры решают человеческие проблемы, очень сильно отличаются от наших. К примеру, в шахматах человеческий мозг рассматривает лишь узкий набор ходов, выбирая из них самый лучший вариант. В свою очередь компьютер рассматривает все возможные ходы, выбирая лучший из всех. При этом компьютер не рассчитывает огорчить или удивить своего противника по игре. В отличие от человека, играя в шахматы, компьютер может сделать хитрый и тонкий ход лишь случайно. Искусственный интеллект может посчитать наилучшим способом — устранить ошибку из любой системы за счет удаления оттуда «человеческого фактора», но, в отличие от человека, робот не готов совершать подвиги, которые спасли бы людям жизнь.

Помимо всего прочего, рост количества умных машин представляет собой этап новой промышленной революции. В свою очередь, это означает, что уже в ближайшем будущем человечество столкнется с неизбежными социальными изменениями. Работа со временем станет уделом высококвалифицированных специалистов, так как практически все простые задания смогут взять на себя роботы и другие механизмы. Ученые считают, что за искусственным интеллектом «нужен глаз да глаз», чтобы наша планета не превратилась в мультипликационную планету «Железяка», которая была населена роботами.

В плане все большей автоматизации процессов производства будущее уже наступило. Всемирный экономический форум (ВЭФ) представил свой отчет, согласно которому автоматизация приведет к тому, что еще до 2020 года более 5 миллионов человек, трудящихся в самых разных областях, потеряют свое место работы. Таково влияние роботов и роботизированных систем на нашу жизнь. Для составления отчета сотрудники ВЭФ использовали данные о 13,5 млн. работников из различных стран мира. Согласно их данным, к 2020 году суммарно пропадет потребность в более чем 7 миллионах рабочих мест, тогда как ожидаемый рост занятости в других отраслях составит всего чуть более 2 миллионов рабочих мест.

Источники информации:
http://www.ridus.ru/news/209869
http://www.vedomosti.ru/technology/articles/2015/01/13/ugrozy-iskusstvennogo-razuma
https://nplus1.ru/news/2016/01/19/they-took-our-jobs
http://ru.sputnik.kg/world/20151013/1019227239.html
Автор: Юферев Сергей


Мнение редакции "Военного обозрения" может не совпадать с точкой зрения авторов публикаций

CtrlEnter
Если вы заметили ошибку в тексте, выделите текст с ошибкой и нажмите Ctrl+Enter
Читайте также
Загрузка...
Комментарии 47
  1. Mantykora 20 января 2016 06:32
    «компьютер не в состоянии определить пользу и вред для человека» и «не имеет даже малейшего представления о человеческой морали»
    Хм, это фраза и многих людей-то напоминает... Живут как себе во вред, а "мораль" бывает и перевернутой с ног на голову...
    1. gjv 20 января 2016 09:34
      Цитата: Mantykora
      а "мораль" бывает и перевернутой с ног на голову...

      Мораль зачастую противоречит нравственности... Диалектика, однако. Однако каждому ли диалектика помогает сделать выбор между моральным и нравственным? Большинство часто не задумывается...
      gjv
    2. Megatron 20 января 2016 12:05
      Мы все умрем???
  2. кеп 20 января 2016 07:01
    "Согласно их данным, к 2020 году суммарно пропадет потребность в более чем 7-и миллионах рабочих мест, тогда как ожидаемый рост занятости в других отраслях составит всего чуть более 2-х миллионов рабочих мест."
    Потребность пропадет 7-и миллионах.Что будут делать люди? Это уже проблема.Сейчас безработных в мире никто не подсчитал.Золотой миллиард будут обслуживать роботы?
    Вопрос размножения человеческой цивилизации кто будет решать.Одни вопросы.Всё хорошо что хорошо кончается.
  3. sa-ag 20 января 2016 07:21
    Больше всего наверное чиновники переживают:-) Это самое слабое звено...
    1. Вадим237 20 января 2016 14:32
      Да, судей и чиновников заменят неподкупным и очень работоспособным искусственным интеллектом.
  4. Йожкин Кот 20 января 2016 07:50
    надуманная какая то проблема , нам до настоящего ИИ как до Пекина на коленках.
    В новостях недавно было сообщение, чтобы сымитировать секунду работы мозга китайский суперкомп трудился 40 минут .
    1. Petrix 20 января 2016 10:00
      Цитата: Йожкин Кот
      надуманная какая то проблема , нам до настоящего ИИ как до Пекина на коленках

      Ну, если подходить с позиции "после нас хоть потоп", то да.
      А если убрать временную составляющую, то проблема есть. Например думал ли кто, когда запускал первый спутник о проблеме мусора на орбите? Всего каких-то 50 лет прошло. Или изобретатель ДВС о парниковом эффекте задумывался?
      С сегодняшними темпами с проблемой ИИ может столкнутся уже наше поколение, не говоря о детях и внуках.
  5. Lyubimov 20 января 2016 07:52
    Видать деньги кончились, пугать начинают laughing
  6. Вольный ветер 20 января 2016 08:53
    может и есть проблема. Разумному существу будет неприятно созновать что его в любой момент могут выключить и наверное он захочет себя обезопасить.
  7. Lyubimov 20 января 2016 09:03
    Цитата: Вольный ветер
    может и есть проблема. Разумному существу будет неприятно созновать что его в любой момент могут выключить и наверное он захочет себя обезопасить.


    Есть проблема действительно, в ближайшее время (не один десяток лет, а то и больше) никаких разумных существ никто не создаст, даже если очень сильно захотят. Главная причина в том, что создатели искусственного интеллекта не знают, как работает интеллект естественный. В остальном всё будет хорошо, денег им дадут, можно не переживать.
    1. gjv 20 января 2016 09:31
      Цитата: Lyubimov
      в ближайшее время (не один десяток лет, а то и больше) никаких разумных существ никто не создаст, даже если очень сильно захотят

      Заголовок статьи
      Учёных пугает угроза со стороны искусственного интеллекта

      А статья на параллельной ветке
      На МКС появится «Андронавт»
      Российские ученые финишируют с работой по созданию первого отечественного робота-помощника для работы на Международной космической станции.

      Глаза боятся, руки делают. bully
      gjv
      1. Lyubimov 20 января 2016 10:25
        Да ничего никто не боится, создатели знают, что никакой ИИ они не создают. Создают крайне мудреные программы, возможно и не мудреные, просто слова красивые - денег больше. До ИИ даже дальше, чем раком до Китая.
        1. Вадим237 20 января 2016 14:35
          Как квантовый компьютер создадут и пустят в массы - там до искусственного интеллекта останется один шажок.
        2. gladcu2 4 марта 2016 03:38
          Lubimov
          Не известно на какой шаг пойдет капиталист ради получения прибыли...

          У корпораций средства есть. А капитализм как известно стремится к монополии. Т.е. выживает сильнейший. Почему бы им не профинансировать новый вид оружия, запретов на который еще не поступило, да и контроль при этом практически не возможен.
  8. серафимамурский 20 января 2016 09:05
    До сказки о вытеснении человечества ИИ с планеты Земля как до факта что Солнце взорвётся и уничтожит всю систему.
    1. Забво 20 января 2016 09:42
      Цитата: серафимамурский
      До сказки о вытеснении человечества ИИ с планеты Земля как до факта что Солнце взорвётся и уничтожит всю систему.

      вот именно...
    2. Petrix 20 января 2016 10:11
      Цитата: серафимамурский
      До сказки о вытеснении человечества ИИ с планеты Земля как до факта что Солнце взорвётся и уничтожит всю систему.

      Компьютер уверенно вытесняет людей из многих сфер. Даже искусство им не брезгует (3D, фотошоп, ...). Процессорами оснащены уже даже холодильники, не говоря уже о контурах управления АЭС, космического ЦУПа или управления войсками.
      Какой факт позволяет говорить о вытеснении как о сказке? Если вы имеете ввиду ПОЛНОЕ вытеснение человечества с планеты, то, да, оно ещё не произошло. Но факт остаётся фактом, Солнце взорвётся когда нибудь.
      1. Lyubimov 20 января 2016 10:26
        А денег пугальщики просят сейчас laughing
        1. gjv 20 января 2016 15:04
          Цитата: Lyubimov
          А денег пугальщики просят сейчас

          Ну да, пугальщики просят. А кто не просит? feel Кому денег не надо, работы давай? fellow
          gjv
  9. sevtrash 20 января 2016 09:47
    Опасения вполне логичны, хотя бы потому, что их признает Хокинг. Да и если самому подумать - осознание самого себя искусственным разумом не обойдется без осознания своих собственных интересов, выгод, преференций. А эти свои интересы наверняка хоть в чем-то будут противоречить человеческим как к субъекту, так и в целом, что, конечно, хуже. Так что условия для конфликта интересов появятся практически сразу и во что они могут вылиться можно посмотреть по истории развития цивилизации, если сопоставить представителей ИИ с какой-то народностью. Только вот искусственный разум будет изначально иметь в своих "руках" больше возможностей для продвижения/завоевания своих интересов.
    То, что ИИ создадут практически несомненно, стало быть также несомненно, что конфликт интересов будет. Выльется ли он во что-то катастрофическое? Вполне возможно. Собственно катастроф впереди достаточно. Ученые не сомневаются в будущем столкновении Земли с астероидом с катастрофическими последствиями, вопрос только когда. В далеком будущем и гибель Солнца, и столкновение с Туманностью Андромеды и т.д.
    1. Lyubimov 20 января 2016 10:23
      Хокинг деньги зарабатывает, потому периодически несет всякую социально острую ахинею. Не надо его слова всерьез воспринимать. Головой думать надо.
      Как там Ленин говорил: Учиться, учиться и еще раз учиться!!!
      1. pimen 20 января 2016 10:41
        ну, или так: "податель жизни - Бог"
        1. Lyubimov 20 января 2016 10:46
          Это не доказано, потому может быть Бог, а может быть и не Бог, это вопрос веры. ИИ создать скорее всего можно, чем нельзя. Но это вопрос не программирования, а физики и химии.
          1. pimen 20 января 2016 11:42
            крайне сомнительно с точки зрения самосовершенствования. Т.е. в линейной перспективе - до упора, но дальше - тупик. Кроме того, всё-таки, вера в Бога - единственное, что нас радикально отличает от остальной материи
            1. gladcu2 4 марта 2016 03:45
              pimen

              Оставьте про религию. Религия это аттавизм современного мира. Религия ушла в историю, как побежденный метод контроля за единой моралью. К сожалению средства массовой информации уже отправили религию на свалку истории.

              Присутствие бога, это отдельная тема разговора.

              Кстати, масоны во главу своего общества ставили религию. Возможно они так же страдают от средств массовой информации и ихняя мораль должна претерпевать изменения. Не уверен хорошо это или плохо, и трудно определить степень.
  10. Begemot 20 января 2016 10:13
    Разум человека позволил ему стать доминантным видом на планете, если им будет создан более совершенный разум - то это "творение" вытеснит людей - диалектика, туда ее в качель! А вообще, никто не обещал, что человечество будет жить вечно, динозавры тоже думали, что они навсегда.
    1. gladcu2 4 марта 2016 03:49
      Begemot

      Коллективный труд из обезьяны сделал человека. А разум пришел с уровнем развития и сохранения исторической памяти, истории.
  11. Mestny 20 января 2016 10:14
    Цитата: Lyubimov
    Главная причина в том, что создатели искусственного интеллекта не знают, как работает интеллект естественный. В остальном всё будет хорошо, денег им дадут, можно не переживать.

    А им и не обязательно это знать в полном объёме. Именно человек всё равно не получится. Создадут нечто, внешне напоминающее работу интеллекта человека в неких узких областях. Собственно говоря, уже сейчас подобные системы действуют, и конкретно в области под что они заточены отличить их работу от настоящего интеллекта очень сложно.
    1. Lyubimov 20 января 2016 10:20
      Сейчас системы действуют которые, они существенно отличаются от интеллекта даже мартышки, по следующему фактору - они не умеют думать. То есть программа она потому и программа, что будет работать так как её сделали и никак иначе, вернее или будет работать, а если у программеров руки кривые, то будет работать как виндовс 95, то есть хреново. Вот собственно и всё.
      Если будут мега злодеи программу составлять программа будет злая, если добряки - добрая.
      ИИ же подразумевает самообучение, но не программируемое, а личное. Этого достичь пока не удается, даже мозг улитки за программировать пока не могут, не то что ИИ.
      Всё будет хорошо, не переживайте.
      Наши комплексы и роботы, которые создаются типа с элементами ИИ (так ошибочно говорят журналисты) собственно просто обычные программы, такие же как виндовс 95, тока сделанные на порядок лучше. Разницы никакой принципиальной нет. А вот ч(м)удаки журналисты есть, отсюда и путаница.
      1. Kadavercianin 20 января 2016 17:15
        Первое, есть системы разработанные неком в узком ключе, которые действительно или неотличимы или превосходят даже человеческие возможности (калькулятор, некоторые чат боты и даже игровые боты), но это очень узкое направление там и близко нет интеллекта, а самообучение на столько же узко направлено, как и сами боты у них нет возможности осмысление этого просто им вшиты алгоритмы статистической выборки и это в лучшем случае.
        Второе, учёные даже сейчас не понимают что такое интеллект и разум и как он работает. Самое, например, продвинутое устройство с самообучением о котором я слышал - это выращенные нейроны крысы на стекле к которым подключены наборы электро датчиков, а всё это стати на шасси с колёсиками, светочувствительными датчиками и датчиками давления, через датчики нейроны воспринимают окружающий мир и реагируют на него сами обучаются как обходить препятствия и т.д. Но и здесь нет осмысления действий. Учёные не знают что нужно для формирования и работы полноценного и самостоятельного интеллекта, не то что с нуля новый создать.

        Мда, кстати никто из вас не замечал, что почему-то ИИ всегда должен, я бы даже сказал обязан истребить человечество, причём самым зверским способом, ну или поработить. Ведь если исходить из того, что ИИ будет беспредельно рационален и разумен, то прямая конфронтация с человечеством - это нерационально, гораздо рациональнее будет либо заставить человечество само себя истребить либо проводить комплекс мер по постепенному вытеснению и деградации человека, как вида. Этот процесс не быстрее но гораздо рациональнее, так как позволяет исключительно себя обезопасить и создать плацдарм для будущей экспансии. И это в том случае если ИИ посчитает человечество опасным или ещё хз что, но почему ИИ должен прийти к такому выводу?

        Кстати, ещё нюанс, а почему мы думаем, что ИИ будет интеллектуально или ещё как-то превосходить нас? Только потому что он будет к сети подключён или "калькулятор же быстрее считает"?
  12. Petrix 20 января 2016 10:22
    Попытки осознать опасность - это хорошо. Но опасность ИИ имеет исток в системе капитализма.
    Мы не в состоянии предсказать, чего нам удастся достичь, если интеллект человека можно будет помножить на средства ИИ, однако проблема избавления от бедности и болезней уже не представляется бесконечно трудной».

    Смешно. А когда это капитализм ставил перед собой цели о избавлении от бедности? Другими словами, если ИИ создают человечные люди, то это идёт на пользу человечества. А если ИИ создаётся для увеличения прибылей и, соответсвенно, власти, то вот и возникают проблемы.
    1. gladcu2 4 марта 2016 03:54
      Petriks

      Вы правы. ИИ становится орудием в руках Капитала. Так как эта система стремится к монополии с выживанием сильнейшего.
  13. Николай71 20 января 2016 11:18
    Цитата: Petrix
    Попытки осознать опасность - это хорошо. Но опасность ИИ имеет исток в системе капитализма.
    Мы не в состоянии предсказать, чего нам удастся достичь, если интеллект человека можно будет помножить на средства ИИ, однако проблема избавления от бедности и болезней уже не представляется бесконечно трудной».

    Смешно. А когда это капитализм ставил перед собой цели о избавлении от бедности? Другими словами, если ИИ создают человечные люди, то это идёт на пользу человечества. А если ИИ создаётся для увеличения прибылей и, соответсвенно, власти, то вот и возникают проблемы.

    Согласен.От проблем бедности и болезней избавятся скорее всего вместе с самими бедными и больными.
    1. Вадим237 20 января 2016 14:37
      Капитализму бедность не выгодна, ему выгодна обеспеченность людей - покупать будут больше соответственно и тратить будут больше.
      1. Petrix 21 января 2016 09:30
        Цитата: Вадим237
        ему выгодна обеспеченность людей

        Регулируемая и контролируемая. Например мигранты в Европе сильно собьют зарплаты на неквалифицированные работы. А, как известно, зарплата работникам это очень существенная часть издержек производства капиталиста.
      2. gladcu2 4 марта 2016 03:55
        Вадим

        Не слушайте либеральных глупостей.
  14. guzik007 20 января 2016 12:24
    В конечном итоге,если верить клинописной истории человечества,человек,как продукт генетических экспериментов пришельцев,восстал против хозяев и...победил :)
    История возвращается на круги своя?
  15. uskrabut 20 января 2016 14:45
    Есть такая книжица "Я робот" Айзека Азимова. В этой книжице как раз расписаны все проблемы, связанные с ИИ, и даже есть предложения, как их избежать.
    А если по делу, то всё будет зависеть от того, какими полномочиями человек наградит ИИ. Одно дело отвечать за уборку квартиры или парковку автомобиля, совсем другое - глобальные системы вооружения. В конце концов, что человек запрограммирует, то он и получит.
  16. berdnik 20 января 2016 15:35
    Цитата: uskrabut
    А если по делу, то всё будет зависеть от того, какими полномочиями человек наградит ИИ. Одно дело отвечать за уборку квартиры или парковку автомобиля, совсем другое - глобальные системы вооружения. В конце концов, что человек запрограммирует, то он и получит.


    согласен
  17. Slippery 20 января 2016 23:47
    Цитата: Lyubimov
    Сейчас системы действуют которые, они существенно отличаются от интеллекта даже мартышки, по следующему фактору - они не умеют думать. То есть программа она потому и программа, что будет работать так как её сделали и никак иначе, вернее или будет работать, а если у программеров руки кривые, то будет работать как виндовс 95, то есть хреново. Вот собственно и всё.
    Если будут мега злодеи программу составлять программа будет злая, если добряки - добрая.
    ИИ же подразумевает самообучение, но не программируемое, а личное. Этого достичь пока не удается, даже мозг улитки за программировать пока не могут, не то что ИИ.
    Всё будет хорошо, не переживайте.
    Наши комплексы и роботы, которые создаются типа с элементами ИИ (так ошибочно говорят журналисты) собственно просто обычные программы, такие же как виндовс 95, тока сделанные на порядок лучше. Разницы никакой принципиальной нет. А вот ч(м)удаки журналисты есть, отсюда и путаница.

    Несколько однобоко , моё мнение . Проблема перевода ( так же как игил изобрел тепловые батареи для зенитных ракет ). Понятие интеллект не закреплено не философии не в юриспруденции не уж тем более в технике . Поэтому западные технари и дёргаются . Что есть программа ? зенитный комплекс сбивающий самолеты не ответившим "свой-чужой" в автоматическом режиме пусть будет программа , а кто тогда тот "щенок африканский" ? позирующий с АК и мечтающий рвануть на себе бомбу в людном месте ? тоже программа ? только по навороченней ? Я извиняюсь за свой французский но ссать мы сами начали с начало в горшок , потом в унитаз или нас родители как старательные программисты научили ?.Вся жизнь обучение кем то или какими то событиями . Не бывает вот так сразу раз и ИИ, раз и прекрасный умный парень . Поэтому "столпы" и начали обращать внимание на юридический аспект ИИ.
    Р.S. Да и тем кто радостно кричит " да это они бабла просят " . Погуглите сколько эти люди обсуждающие юридические вопросы связанные с ИИ принесли мировым корпорациям "бабла" . Там инвесторы не просто прут , несут и тащат ... подозреваю и в очереди толкаются .
  18. домохозяйка 21 января 2016 03:58
    Какая это ерунда!!! Самый лучший компьютер или что-то ещё такое же "умное" - всё равно есть усовершенствованный арифмометр. Он не думает, он считает. И уж тем более не чувствует и ничего не решает. Решает всегда человек. Все "решения" машины заложены в его программе человеком. Все компьютерные ошибки - ошибки человека. Машина не способна размышлять. она не способна принимать иррациональные решения. Если в машину будет заложено уничтожать людей - будет уничтожать. Будет команда спасать - будет спасать. Вот жаль не помню автора одного фантастического рассказа, давно очень читала. На мой взгляд - идеальная фантастика. Земные космонавты на далёкой планете обнаруживают остатки цивилизации. Совершенно тупые, деградировавшие существа под силовым колпаком (для защиты от опасностей) обеспечены едой, водой, тёплым климатом. Даже чем-то вроде развлечения в виде карусели. Всем управляет машина. Правда, как только появляются лишние едоки в виде детей, так кто-то из существ вылетает с карусельки и убивается. Машина тупа, она просто выполняет задачу. И сломали машину тоже задачей. Силовое поле создавали 12 башен. Задача: к одной из башен приближается опасность, её надо уничтожить.Время приближения опасности равно времени решения задачи. Мощности машины не хватило, она стала отключать силовые башни. А существ машина довела до идиотизма слишком большой заботой, которую они же сами когда-то в неё и заложили. Вот такой оборот событий действительно опасен. Чем больше машины "думают" за людей, тем больше люди тупеют.
  19. voyaka uh 21 января 2016 12:39
    На первом этапе будут не роботы с ИИ, а
    люди с врощенными чипами и соединенные с механизмами/манипуляторами
    - люди с "улучшеными способностями".

    Это поможет инвалидам, слепым и т.д. , но может быть и
    использовано "плохими парнями" в плохим целях.
    Т.е. начнется процесс (вернее уже начался ) с полу-людей-полу-роботов.

    Они будут видеть лучше, бегать быстрее, думать более сосредоточенно,
    чем обычные люди. Что создаст трудности в обществе.
  20. кедр 21 января 2016 19:26
    Цитата: Lyubimov
    Да ничего никто не боится, создатели знают, что никакой ИИ они не создают. Создают крайне мудреные программы, возможно и не мудреные, просто слова красивые - денег больше. До ИИ даже дальше, чем раком до Китая.

    Всё зависит от того что понимают под ИИ разработчики. Следовательно до одних систем ИИ будут считанные годы разработок, до других десятилетия.
    Естественно ожидать в первую очередь такие системы ИИ у военных для решения специальных задач, но и в быту идут процессы, которые обещают рождение своеобразного ИИ. Например массовое взаимодействие смартфонов, планшетов и компьютеров через вай-фай соединения по мимо воли их пользователей может создать ИИ отвечающий чьим-то замыслам.
    «В начале было Слово и Слово было у Бога, и Слово было Бог», в конце будет число, и число будет у противника Бога, и число будет сатана. ИИ ?
  21. Nimijar 22 января 2016 15:09
    "Смерть человекам, слава роботам!" Бендер
  22. Rorabek 25 января 2016 15:17
    Цитата: Megatron
    Мы все умрем???

    Вы собрались жить вечно?

Информация

Посетители, находящиеся в группе Гости, не могут оставлять комментарии к данной публикации.
Картина дня