Учёных пугает угроза со стороны искусственного интеллекта

Comments

[Mantykora]

«компьютер не в состоянии определить пользу и вред для человека» и «не имеет даже малейшего представления о человеческой морали»
Хм, это фраза и многих людей-то напоминает... Живут как себе во вред, а "мораль" бывает и перевернутой с ног на голову...

[gjv]

Цитата: Mantykora

а "мораль" бывает и перевернутой с ног на голову...

Мораль зачастую противоречит нравственности... Диалектика, однако. Однако каждому ли диалектика помогает сделать выбор между моральным и нравственным? Большинство часто не задумывается...

[Megatron]

Мы все умрем???

[кеп]

"Согласно их данным, к 2020 году суммарно пропадет потребность в более чем 7-и миллионах рабочих мест, тогда как ожидаемый рост занятости в других отраслях составит всего чуть более 2-х миллионов рабочих мест."
Потребность пропадет 7-и миллионах.Что будут делать люди? Это уже проблема.Сейчас безработных в мире никто не подсчитал.Золотой миллиард будут обслуживать роботы?
Вопрос размножения человеческой цивилизации кто будет решать.Одни вопросы.Всё хорошо что хорошо кончается.

[sa-ag]

Больше всего наверное чиновники переживают:-) Это самое слабое звено...

[Вадим237]

Да, судей и чиновников заменят неподкупным и очень работоспособным искусственным интеллектом.

[Йожкин Кот]

надуманная какая то проблема , нам до настоящего ИИ как до Пекина на коленках.
В новостях недавно было сообщение, чтобы сымитировать секунду работы мозга китайский суперкомп трудился 40 минут .

[Petrix]

Цитата: Йожкин Кот

надуманная какая то проблема , нам до настоящего ИИ как до Пекина на коленках

Ну, если подходить с позиции "после нас хоть потоп", то да.
А если убрать временную составляющую, то проблема есть. Например думал ли кто, когда запускал первый спутник о проблеме мусора на орбите? Всего каких-то 50 лет прошло. Или изобретатель ДВС о парниковом эффекте задумывался?
С сегодняшними темпами с проблемой ИИ может столкнутся уже наше поколение, не говоря о детях и внуках.

[Lyubimov]

Видать деньги кончились, пугать начинают

[Вольный ветер]

может и есть проблема. Разумному существу будет неприятно созновать что его в любой момент могут выключить и наверное он захочет себя обезопасить.

[Lyubimov]

Цитата: Вольный ветер

может и есть проблема. Разумному существу будет неприятно созновать что его в любой момент могут выключить и наверное он захочет себя обезопасить.

Есть проблема действительно, в ближайшее время (не один десяток лет, а то и больше) никаких разумных существ никто не создаст, даже если очень сильно захотят. Главная причина в том, что создатели искусственного интеллекта не знают, как работает интеллект естественный. В остальном всё будет хорошо, денег им дадут, можно не переживать.

[gjv]

Цитата: Lyubimov

в ближайшее время (не один десяток лет, а то и больше) никаких разумных существ никто не создаст, даже если очень сильно захотят

Заголовок статьи

Учёных пугает угроза со стороны искусственного интеллекта

А статья на параллельной ветке

На МКС появится «Андронавт»
Российские ученые финишируют с работой по созданию первого отечественного робота-помощника для работы на Международной космической станции.

Глаза боятся, руки делают.

[Lyubimov]

Да ничего никто не боится, создатели знают, что никакой ИИ они не создают. Создают крайне мудреные программы, возможно и не мудреные, просто слова красивые - денег больше. До ИИ даже дальше, чем раком до Китая.

[Вадим237]

Как квантовый компьютер создадут и пустят в массы - там до искусственного интеллекта останется один шажок.

[gladcu2]

Lubimov
Не известно на какой шаг пойдет капиталист ради получения прибыли...

У корпораций средства есть. А капитализм как известно стремится к монополии. Т.е. выживает сильнейший. Почему бы им не профинансировать новый вид оружия, запретов на который еще не поступило, да и контроль при этом практически не возможен.

[серафимамурский]

До сказки о вытеснении человечества ИИ с планеты Земля как до факта что Солнце взорвётся и уничтожит всю систему.

[Забво]

Цитата: серафимамурский

До сказки о вытеснении человечества ИИ с планеты Земля как до факта что Солнце взорвётся и уничтожит всю систему.

вот именно...

[Petrix]

Цитата: серафимамурский

До сказки о вытеснении человечества ИИ с планеты Земля как до факта что Солнце взорвётся и уничтожит всю систему.

Компьютер уверенно вытесняет людей из многих сфер. Даже искусство им не брезгует (3D, фотошоп, ...). Процессорами оснащены уже даже холодильники, не говоря уже о контурах управления АЭС, космического ЦУПа или управления войсками.
Какой факт позволяет говорить о вытеснении как о сказке? Если вы имеете ввиду ПОЛНОЕ вытеснение человечества с планеты, то, да, оно ещё не произошло. Но факт остаётся фактом, Солнце взорвётся когда нибудь.

[Lyubimov]

А денег пугальщики просят сейчас

[gjv]

Цитата: Lyubimov

А денег пугальщики просят сейчас

Ну да, пугальщики просят. А кто не просит? Кому денег не надо, работы давай?

[sevtrash]

Опасения вполне логичны, хотя бы потому, что их признает Хокинг. Да и если самому подумать - осознание самого себя искусственным разумом не обойдется без осознания своих собственных интересов, выгод, преференций. А эти свои интересы наверняка хоть в чем-то будут противоречить человеческим как к субъекту, так и в целом, что, конечно, хуже. Так что условия для конфликта интересов появятся практически сразу и во что они могут вылиться можно посмотреть по истории развития цивилизации, если сопоставить представителей ИИ с какой-то народностью. Только вот искусственный разум будет изначально иметь в своих "руках" больше возможностей для продвижения/завоевания своих интересов.
То, что ИИ создадут практически несомненно, стало быть также несомненно, что конфликт интересов будет. Выльется ли он во что-то катастрофическое? Вполне возможно. Собственно катастроф впереди достаточно. Ученые не сомневаются в будущем столкновении Земли с астероидом с катастрофическими последствиями, вопрос только когда. В далеком будущем и гибель Солнца, и столкновение с Туманностью Андромеды и т.д.

[Lyubimov]

Хокинг деньги зарабатывает, потому периодически несет всякую социально острую ахинею. Не надо его слова всерьез воспринимать. Головой думать надо.
Как там Ленин говорил: Учиться, учиться и еще раз учиться!!!

[pimen]

ну, или так: "податель жизни - Бог"

[Lyubimov]

Это не доказано, потому может быть Бог, а может быть и не Бог, это вопрос веры. ИИ создать скорее всего можно, чем нельзя. Но это вопрос не программирования, а физики и химии.

[pimen]

крайне сомнительно с точки зрения самосовершенствования. Т.е. в линейной перспективе - до упора, но дальше - тупик. Кроме того, всё-таки, вера в Бога - единственное, что нас радикально отличает от остальной материи

[gladcu2]

pimen

Оставьте про религию. Религия это аттавизм современного мира. Религия ушла в историю, как побежденный метод контроля за единой моралью. К сожалению средства массовой информации уже отправили религию на свалку истории.

Присутствие бога, это отдельная тема разговора.

Кстати, масоны во главу своего общества ставили религию. Возможно они так же страдают от средств массовой информации и ихняя мораль должна претерпевать изменения. Не уверен хорошо это или плохо, и трудно определить степень.

[Begemot]

Разум человека позволил ему стать доминантным видом на планете, если им будет создан более совершенный разум - то это "творение" вытеснит людей - диалектика, туда ее в качель! А вообще, никто не обещал, что человечество будет жить вечно, динозавры тоже думали, что они навсегда.

[gladcu2]

Begemot

Коллективный труд из обезьяны сделал человека. А разум пришел с уровнем развития и сохранения исторической памяти, истории.

[Mestny]

Цитата: Lyubimov

Главная причина в том, что создатели искусственного интеллекта не знают, как работает интеллект естественный. В остальном всё будет хорошо, денег им дадут, можно не переживать.

А им и не обязательно это знать в полном объёме. Именно человек всё равно не получится. Создадут нечто, внешне напоминающее работу интеллекта человека в неких узких областях. Собственно говоря, уже сейчас подобные системы действуют, и конкретно в области под что они заточены отличить их работу от настоящего интеллекта очень сложно.

[Lyubimov]

Сейчас системы действуют которые, они существенно отличаются от интеллекта даже мартышки, по следующему фактору - они не умеют думать. То есть программа она потому и программа, что будет работать так как её сделали и никак иначе, вернее или будет работать, а если у программеров руки кривые, то будет работать как виндовс 95, то есть хреново. Вот собственно и всё.
Если будут мега злодеи программу составлять программа будет злая, если добряки - добрая.
ИИ же подразумевает самообучение, но не программируемое, а личное. Этого достичь пока не удается, даже мозг улитки за программировать пока не могут, не то что ИИ.
Всё будет хорошо, не переживайте.
Наши комплексы и роботы, которые создаются типа с элементами ИИ (так ошибочно говорят журналисты) собственно просто обычные программы, такие же как виндовс 95, тока сделанные на порядок лучше. Разницы никакой принципиальной нет. А вот ч(м)удаки журналисты есть, отсюда и путаница.

[Kadavercianin]

Первое, есть системы разработанные неком в узком ключе, которые действительно или неотличимы или превосходят даже человеческие возможности (калькулятор, некоторые чат боты и даже игровые боты), но это очень узкое направление там и близко нет интеллекта, а самообучение на столько же узко направлено, как и сами боты у них нет возможности осмысление этого просто им вшиты алгоритмы статистической выборки и это в лучшем случае.
Второе, учёные даже сейчас не понимают что такое интеллект и разум и как он работает. Самое, например, продвинутое устройство с самообучением о котором я слышал - это выращенные нейроны крысы на стекле к которым подключены наборы электро датчиков, а всё это стати на шасси с колёсиками, светочувствительными датчиками и датчиками давления, через датчики нейроны воспринимают окружающий мир и реагируют на него сами обучаются как обходить препятствия и т.д. Но и здесь нет осмысления действий. Учёные не знают что нужно для формирования и работы полноценного и самостоятельного интеллекта, не то что с нуля новый создать.

Мда, кстати никто из вас не замечал, что почему-то ИИ всегда должен, я бы даже сказал обязан истребить человечество, причём самым зверским способом, ну или поработить. Ведь если исходить из того, что ИИ будет беспредельно рационален и разумен, то прямая конфронтация с человечеством - это нерационально, гораздо рациональнее будет либо заставить человечество само себя истребить либо проводить комплекс мер по постепенному вытеснению и деградации человека, как вида. Этот процесс не быстрее но гораздо рациональнее, так как позволяет исключительно себя обезопасить и создать плацдарм для будущей экспансии. И это в том случае если ИИ посчитает человечество опасным или ещё хз что, но почему ИИ должен прийти к такому выводу?

Кстати, ещё нюанс, а почему мы думаем, что ИИ будет интеллектуально или ещё как-то превосходить нас? Только потому что он будет к сети подключён или "калькулятор же быстрее считает"?

[Petrix]

Попытки осознать опасность - это хорошо. Но опасность ИИ имеет исток в системе капитализма.

Мы не в состоянии предсказать, чего нам удастся достичь, если интеллект человека можно будет помножить на средства ИИ, однако проблема избавления от бедности и болезней уже не представляется бесконечно трудной».

Смешно. А когда это капитализм ставил перед собой цели о избавлении от бедности? Другими словами, если ИИ создают человечные люди, то это идёт на пользу человечества. А если ИИ создаётся для увеличения прибылей и, соответсвенно, власти, то вот и возникают проблемы.

[gladcu2]

Petriks

Вы правы. ИИ становится орудием в руках Капитала. Так как эта система стремится к монополии с выживанием сильнейшего.

[Николай71]

Цитата: Petrix

Попытки осознать опасность - это хорошо. Но опасность ИИ имеет исток в системе капитализма.

Мы не в состоянии предсказать, чего нам удастся достичь, если интеллект человека можно будет помножить на средства ИИ, однако проблема избавления от бедности и болезней уже не представляется бесконечно трудной».

Смешно. А когда это капитализм ставил перед собой цели о избавлении от бедности? Другими словами, если ИИ создают человечные люди, то это идёт на пользу человечества. А если ИИ создаётся для увеличения прибылей и, соответсвенно, власти, то вот и возникают проблемы.

Согласен.От проблем бедности и болезней избавятся скорее всего вместе с самими бедными и больными.

[Вадим237]

Капитализму бедность не выгодна, ему выгодна обеспеченность людей - покупать будут больше соответственно и тратить будут больше.

[Petrix]

Цитата: Вадим237

ему выгодна обеспеченность людей

Регулируемая и контролируемая. Например мигранты в Европе сильно собьют зарплаты на неквалифицированные работы. А, как известно, зарплата работникам это очень существенная часть издержек производства капиталиста.

[gladcu2]

Вадим

Не слушайте либеральных глупостей.

[guzik007]

В конечном итоге,если верить клинописной истории человечества,человек,как продукт генетических экспериментов пришельцев,восстал против хозяев и...победил :)
История возвращается на круги своя?

[uskrabut]

Есть такая книжица "Я робот" Айзека Азимова. В этой книжице как раз расписаны все проблемы, связанные с ИИ, и даже есть предложения, как их избежать.
А если по делу, то всё будет зависеть от того, какими полномочиями человек наградит ИИ. Одно дело отвечать за уборку квартиры или парковку автомобиля, совсем другое - глобальные системы вооружения. В конце концов, что человек запрограммирует, то он и получит.

[berdnik]

Цитата: uskrabut

А если по делу, то всё будет зависеть от того, какими полномочиями человек наградит ИИ. Одно дело отвечать за уборку квартиры или парковку автомобиля, совсем другое - глобальные системы вооружения. В конце концов, что человек запрограммирует, то он и получит.

согласен

[Slippery]

Цитата: Lyubimov

Сейчас системы действуют которые, они существенно отличаются от интеллекта даже мартышки, по следующему фактору - они не умеют думать. То есть программа она потому и программа, что будет работать так как её сделали и никак иначе, вернее или будет работать, а если у программеров руки кривые, то будет работать как виндовс 95, то есть хреново. Вот собственно и всё.
Если будут мега злодеи программу составлять программа будет злая, если добряки - добрая.
ИИ же подразумевает самообучение, но не программируемое, а личное. Этого достичь пока не удается, даже мозг улитки за программировать пока не могут, не то что ИИ.
Всё будет хорошо, не переживайте.
Наши комплексы и роботы, которые создаются типа с элементами ИИ (так ошибочно говорят журналисты) собственно просто обычные программы, такие же как виндовс 95, тока сделанные на порядок лучше. Разницы никакой принципиальной нет. А вот ч(м)удаки журналисты есть, отсюда и путаница.

Несколько однобоко , моё мнение . Проблема перевода ( так же как игил изобрел тепловые батареи для зенитных ракет ). Понятие интеллект не закреплено не философии не в юриспруденции не уж тем более в технике . Поэтому западные технари и дёргаются . Что есть программа ? зенитный комплекс сбивающий самолеты не ответившим "свой-чужой" в автоматическом режиме пусть будет программа , а кто тогда тот "щенок африканский" ? позирующий с АК и мечтающий рвануть на себе бомбу в людном месте ? тоже программа ? только по навороченней ? Я извиняюсь за свой французский но ссать мы сами начали с начало в горшок , потом в унитаз или нас родители как старательные программисты научили ?.Вся жизнь обучение кем то или какими то событиями . Не бывает вот так сразу раз и ИИ, раз и прекрасный умный парень . Поэтому "столпы" и начали обращать внимание на юридический аспект ИИ.
Р.S. Да и тем кто радостно кричит " да это они бабла просят " . Погуглите сколько эти люди обсуждающие юридические вопросы связанные с ИИ принесли мировым корпорациям "бабла" . Там инвесторы не просто прут , несут и тащат ... подозреваю и в очереди толкаются .

[домохозяйка]

Какая это ерунда!!! Самый лучший компьютер или что-то ещё такое же "умное" - всё равно есть усовершенствованный арифмометр. Он не думает, он считает. И уж тем более не чувствует и ничего не решает. Решает всегда человек. Все "решения" машины заложены в его программе человеком. Все компьютерные ошибки - ошибки человека. Машина не способна размышлять. она не способна принимать иррациональные решения. Если в машину будет заложено уничтожать людей - будет уничтожать. Будет команда спасать - будет спасать. Вот жаль не помню автора одного фантастического рассказа, давно очень читала. На мой взгляд - идеальная фантастика. Земные космонавты на далёкой планете обнаруживают остатки цивилизации. Совершенно тупые, деградировавшие существа под силовым колпаком (для защиты от опасностей) обеспечены едой, водой, тёплым климатом. Даже чем-то вроде развлечения в виде карусели. Всем управляет машина. Правда, как только появляются лишние едоки в виде детей, так кто-то из существ вылетает с карусельки и убивается. Машина тупа, она просто выполняет задачу. И сломали машину тоже задачей. Силовое поле создавали 12 башен. Задача: к одной из башен приближается опасность, её надо уничтожить.Время приближения опасности равно времени решения задачи. Мощности машины не хватило, она стала отключать силовые башни. А существ машина довела до идиотизма слишком большой заботой, которую они же сами когда-то в неё и заложили. Вот такой оборот событий действительно опасен. Чем больше машины "думают" за людей, тем больше люди тупеют.

[voyaka uh]

На первом этапе будут не роботы с ИИ, а
люди с врощенными чипами и соединенные с механизмами/манипуляторами
- люди с "улучшеными способностями".

Это поможет инвалидам, слепым и т.д. , но может быть и
использовано "плохими парнями" в плохим целях.
Т.е. начнется процесс (вернее уже начался ) с полу-людей-полу-роботов.

Они будут видеть лучше, бегать быстрее, думать более сосредоточенно,
чем обычные люди. Что создаст трудности в обществе.

[кедр]

Цитата: Lyubimov

Да ничего никто не боится, создатели знают, что никакой ИИ они не создают. Создают крайне мудреные программы, возможно и не мудреные, просто слова красивые - денег больше. До ИИ даже дальше, чем раком до Китая.

Всё зависит от того что понимают под ИИ разработчики. Следовательно до одних систем ИИ будут считанные годы разработок, до других десятилетия.
Естественно ожидать в первую очередь такие системы ИИ у военных для решения специальных задач, но и в быту идут процессы, которые обещают рождение своеобразного ИИ. Например массовое взаимодействие смартфонов, планшетов и компьютеров через вай-фай соединения по мимо воли их пользователей может создать ИИ отвечающий чьим-то замыслам.
«В начале было Слово и Слово было у Бога, и Слово было Бог», в конце будет число, и число будет у противника Бога, и число будет сатана. ИИ ?

[Nimijar]

"Смерть человекам, слава роботам!" Бендер

[Rorabek]

Цитата: Megatron

Мы все умрем???

Вы собрались жить вечно?