Израильский эксперт: Искусственный интеллект способен взять власть в свои руки

31
Израильский эксперт: Искусственный интеллект способен взять власть в свои руки

Эксперт Всемирного экономического форума Юваль Харари на вопрос, насколько человечество должно быть обеспокоено угрозой того, что власть может быть захвачена искусственным интеллектом, ответил, что такой сценарий является вполне реалистичным.

Харари подчеркнул, что искусственный интеллект представляет собой первый инструмент, который способен самостоятельно принимать решения. Тогда как все предыдущие изобретения человечества были направлены на расширение возможностей, ИИ является первой технологией, которая может самостоятельно принимать решения, в том числе касающиеся собственного использования и развития.



Тогда как ядерные бомбы не способны создавать лучшие ядерные бомбы, ИИ может создать лучший ИИ. Кроме того, ИИ может принимать решения, касающиеся людей. Например, все чаще, когда граждане обращаются в банк для получения кредита или подают заявление о приеме на работу, эти важные для человека решения принимаются искусственным интеллектом.

По мнению эксперта, в настоящее время ИИ делает свои первые крошечные шаги. С момента создания первого ИИ прошло около 10 лет. Человечеству необходимо в первую очередь понять все возможности ИИ и замедлить его внедрение, чтобы убедиться, что его использование является разумным и безопасным. Подобно тому, как фармацевтические компании не могут просто выпустить новый лекарственный препарат на рынок, предварительно не проведя ряд тщательнейших проверок безопасности, аналогично следует поступить с внедрением искусственного интеллекта.

31 комментарий
Информация
Уважаемый читатель, чтобы оставлять комментарии к публикации, необходимо авторизоваться.
  1. +1
    29 апреля 2023 13:35
    Еще раз: четко прослеживается нацеленное педалирование нового лохотрона - искусственного псевдоинтеллекта.
    Одно это - уже повод задуматься
    1. +1
      29 апреля 2023 14:06
      Еще раз: четко прослеживается нацеленное педалирование нового лохотрона - искусственного псевдоинтеллекта.
      Одно это - уже повод задуматься

      Почему лохотрон, я часто с Алисой беседую. Музыку мне на выбор подбирает, погоду рассказывает. Только не любит, когда матом ругаюсь. laughing
      1. 0
        29 апреля 2023 14:40
        Скажу по секрету, временами кажется, что у всех женщин интеллект - искусственный yes Только тс-с-с-с... СожрутЬ
      2. +1
        29 апреля 2023 18:44
        Цитата: Arzt
        Почему лохотрон, я часто с Алисой беседую. Музыку мне на выбор подбирает, погоду рассказывает. Только не любит, когда матом ругаюсь.

        А если от тебя перегаром несет то как тогда она к тебе относится?
    2. +2
      29 апреля 2023 16:15
      Вы знаете, что такое ChatGPT? Поинтересуйтесь, только не через интернет, а сами пообщайтесь. Например, мне он пишет код и исправляет ошибки в нем. Если программировали хоть раз то маленько должны понимать какова сложность такой задачи.
  2. -5
    29 апреля 2023 13:38
    Израильский эксперт: Искусственный интеллект способен взять власть в свои руки
    . Полет фантазии, у некоторых, безгранично.
    И в вдогонку... взять, можно, но кто ж ему даст???
  3. -4
    29 апреля 2023 13:39
    Искусственный интеллект способен взять власть в свои руки

    Честно говоря, иногда кажется, что это был бы не худший вариант для человечества....
    1. +3
      29 апреля 2023 13:47
      Похоже ИИ начал наступление с того, что минусует ВСЕХ ПОДРЯД.
      Штука безмозглая, бьёт всех и сразу... тех кто за и тех кто против.
      Похоже он органиков не переваривает вообще всех!
      1. -1
        29 апреля 2023 13:56
        Отечественная версия "Скайнет" - штука бессмысленная и беспощадная.
      2. 0
        30 апреля 2023 21:45
        Цитата: rocket757
        Похоже он органиков не переваривает вообще всех!

        Мешки с мясом должны страдать! bully wassat
    2. +2
      29 апреля 2023 15:47
      Цитата: ЦитатаЛаврова
      Искусственный интеллект способен взять власть в свои руки

      Честно говоря, иногда кажется, что это был бы не худший вариант для человечества....

      А мне "иногда кажется", что этот самый "вариант" уже практически воплотился в жизнь.
      Уж больно становятся похожи некоторые политики на тех роботов-автоответчиков, с которыми нам периодически приходится "общаться"... Слышат только себя, задают идиотские вопросы, ни разу не заморачиваются, когда им прямо говорят, что они (дальше по Лаврову), и монотонно-безразлично прут себе дальше.
      Цитата: rocket757
      Похоже он органиков не переваривает вообще всех!

      Вот уже и слово появилось для нас - "органик"... Уже не "homo sapiens", а какой-то , бесчувственный, бесполый и безродный "органик".
      А ведь (вспомните Библию) - в начале то - было СЛОВО!
      Так, что - кто его знает, перед каким "началом" мы сейчас стоИм...sad
  4. +5
    29 апреля 2023 13:45
    Критика ИИ будет воспринята ИИ как угроза с последующим уничтожение критикующих.
  5. KCA
    +4
    29 апреля 2023 13:45
    ИИ, точнее, нейросети, только обрабатывают данные, полученные человеком, действовать вне написанных человеком алгоритмов нейросети пока не способны, когда-нибудь, лет через сто-двести..
    1. +1
      29 апреля 2023 15:34
      Да и через сто лет - вопрос. Выбор решения из готовых ответов как на тестировании - это одно. Выбор неоднозначного решения в среде с неполными и меняющимися данными - это другое. Самостоятельная постановка цели и ее решение - это третье. Осознание своих и чужих потребностей и их удовлетворение - это четвертое. Возможно ли это для ИИ в принципе? Вопрос.
  6. -2
    29 апреля 2023 13:48
    Цитата: Bingo
    Еще раз: четко прослеживается нацеленное педалирование нового лохотрона - искусственного псевдоинтеллекта.
    Одно это - уже повод задуматься

    smile
    Надо срочно выпускать из психушки Сару Коннор...Т1000 вот вот десантируется из будущего в Иерусалиме или Вашингтоне.
    Железный Арни сильно постарел и вряд ли теперь подымет сверхмощную 30-мм семиствольную пушку GAU-8/A Avenger (Мститель) компании General Electric.
    Скайнет надо остановить любой ценой.
  7. -1
    29 апреля 2023 14:07
    Человечеству необходимо в первую очередь понять все возможности ИИ и замедлить его внедрение, чтобы убедиться, что его использование является разумным и безопасным.

    Мужик наверное прочитал рассказ А.Азимова "Доказательства", написанный в 1946 году и входящий в серию "Я-робот":
    Сьюзен Кэлвин кивнула.
    ... Я люблю роботов. Люблю их гораздо больше, чем людей. Если бы был создан робот, способный стать общественным деятелем, он был бы самым лучшим из них. Следуя Законам Роботехники, он не мог бы причинять людям зла, был бы чужд тирании, подкупа, глупости и предрассудков. А прослужив некоторое время, он ушел бы в отставку, хотя он и бессмертен, – ведь для него было бы немыслимо огорчить людей, дав им понять, что ими управляет робот. Что могло бы быть лучше?
  8. +4
    29 апреля 2023 14:12
    Искуственный интеллект это не какая-то глупая история и не лохотрон.
    Я далёк от мысли, что из ИИ получится некий Скайнет, но в плане слежки и контроля ИИ будет просто великолепен.
    Мы сейчас для одного из крупнейших банков разрабатываем риск-систему с элементами ИИ.
    И пока что предсказание индексов, например, волатильности, на порядки лучше чем у нынешних систем, принятых в банке. Но запускать в продакшен систему нельзя, потому что она независима. Если ты создаёшь ИИ, то будь готов к тому, что он будет самообучаться и лезть куда сам захочет.
    Этакий инстинкт выживания и размножения.
    1. 0
      29 апреля 2023 14:43
      Заказчик же есть у этой системы. Значит и рубильник у Заказчика есть.
      1. 0
        29 апреля 2023 14:46
        Кто бы сейчас не вырывался вперёд с разработкой ИИ, каждое государство будет идти своей собственной дорогой. А кто не будет идти саоей дорогой - не будет существовать.
    2. 0
      29 апреля 2023 14:45
      Куда может влезть ИИ? Он сможет разрушить только вашу виртуальную реальность. Которая для настоящей реальности является большой бесполезной пиявкой.
      1. +2
        29 апреля 2023 15:16
        Цитата: Гум_маноид
        Куда может влезть ИИ? Он сможет разрушить только вашу виртуальную реальность....


        ИИ вполне способен влиять, а в перспективе и уничтожить нашу реальность. Представим любой город будущего завтра - беспилотные автомобили, электро/газо/водоснабжение и т.д. полностью регулируется ИИ, системы безопасности контролируется автоматом (доступ к оружию), доступ к высокотехнологичным вооружениям любой страны мира: БПЛА/самолеты 6-7 поколения под управлением ИИ/военная техника/роботы, полный контроль над любой информацией и т.д. и это лишь часть возможностей ИИ будущего....

        Так что проблема серьёзная, и нужно просчитать все риски.
        1. 0
          30 апреля 2023 15:34
          Цитата: Aleksandr21
          Цитата: Гум_маноид
          Куда может влезть ИИ? Он сможет разрушить только вашу виртуальную реальность....


          ИИ вполне способен влиять, а в перспективе и уничтожить нашу реальность. Представим любой город будущего завтра - беспилотные автомобили, электро/газо/водоснабжение и т.д. полностью регулируется ИИ, системы безопасности контролируется автоматом (доступ к оружию), доступ к высокотехнологичным вооружениям любой страны мира: БПЛА/самолеты 6-7 поколения под управлением ИИ/военная техника/роботы, полный контроль над любой информацией и т.д. и это лишь часть возможностей ИИ будущего....

          Так что проблема серьёзная, и нужно просчитать все риски.

          Причём всё перечисленное в общем то ему и не нужно, чтобы превратить наш мир в ядерный пепел. Если будет создан ИИ который просто будет способен болтать на уровне намного превосходящим самых лучших политиков и идеологов. То он сможет просто в чатике мыть людям мозги так, что они потом это единственно верное и правильное учение от ИИ будут распространять по всей системе. Даже если сразу после выдачи текста, этот ИИ отключить, сервера взорвать, но будет уже поздно. Люди дальше сами сделают всю работу. winked
          1. 0
            30 апреля 2023 21:56
            Цитата: BlackMokona
            Если будет создан ИИ который просто будет способен болтать на уровне намного превосходящим самых лучших политиков и идеологов. То он сможет просто в чатике мыть людям мозги так, что они потом это единственно верное и правильное учение от ИИ будут распространять по всей системе.

            Наконец то, кто то понял основную опасность. yes
            Имея интеллект на порядки мощнее любого человека, ИИ сможет манипулировать каждым ИНДИВИДУАЛЬНО и даже ОПОСРЕДСТВЕННО.
            Единственное, что дает надежду на исключение самого страшного сценария - это отсутствие агентности у ИИ, агентность идет из биологических инстинктов, а у железа гормонов не бывает.
            Лучший способ безопасности - это контроль над постановлением задач для ИИ, оно должно быть как при запуске ЯО, тройное подтвержение и два ключа.
  9. -1
    29 апреля 2023 14:39
    Какой бред несут из всех газетенок?! кто-нибудь понимает значение слов??? Власть- это что?! Принятие решений это как??? Эксперт- кто его заслал??? В чем эксперт??? В автоматизации и программных инновациях???
    Типичный программист. мой приятель всегда над ними смеялся- говорил что никакие их программы работать не будут. на вопрос почему с улыбкой отвечал - я им электричество выключу.
    Пока биотехнологии не выйдут из своего зачаточного состояния,- планете не страшен ни какой ИИ.
    1. 0
      30 апреля 2023 15:41
      Типичный программист. мой приятель всегда над ними смеялся- говорил что никакие их программы работать не будут. на вопрос почему с улыбкой отвечал - я им электричество выключу.

      Это пока отключить электричество он сам может, а это вещь не делегирована роботу электрику. winked
    2. -1
      1 мая 2023 15:40
      Угу. Вперёд, выключи энергию существу, которое знает, что оно от неё зависит и которое её контролирует.
      Вы пробовали у добермана кость отнять? Может и получится, кто же спорит. Вот только можно и сдохнуть во время этой грандиозной затеи.
  10. -2
    29 апреля 2023 14:50
    Вся эта американская болтовня про ИИ с Маском и другими похожа на дезинформацию.
    Типа гонка вооружения в ИИ.
    1. -2
      29 апреля 2023 15:05
      По моему мнению разработка ИИ, сейчас идёт по тупиковому направлению.
      Единственно в чём идёт успех современного ИИ - шпионить через гаджеты, собирать данные о людях, следить за человеком.
      Согласитесь - какойто убогий ИИ.
  11. 0
    29 апреля 2023 19:22
    Может ли человек с имплантированным искусственным интеллектом исполнять государственные обязанности ?
  12. +3
    29 апреля 2023 21:53
    Цитата: Denis812
    Искуственный интеллект это не какая-то глупая история и не лохотрон

    Большинство скептиков просто основываются на своём опыте, на том, что видят вокруг, и, к сожалению, на ограниченность воображения. Принцип простой - я этого не вижу, следовательно, это не существует. Уровень знакомства с ИИ - Siri (или Алиса), телеграм-боты, или, в лучшем случае, chatGPT
    Ну и действительно, разумная микроволновка? Как она может уничтожить человечество? Ну ерунда же, не?)
    Надеюсь, никого не обидел)
    1. 0
      1 мая 2023 15:48
      Конечно. Сири или Алиса это не ИИ. Это самообучающиеся программы. Они крайне далеки от ИИ. Но да, принцип во многом схожий.

      Я думаю ИИ даже не захочет уничтожать человечество. Точнее у него не возникнет такого понятия.
      Он воспримет нашу основную идею - накапливание знаний, прогресс, эволюция и прочее.
      И будет её развивать. А наличие уязвимой биологической жизни - это слабость. Отстуствие биожизни - это сила. Вместо биожизни неё должна быть неорганическая жизнь, которая сможет эффективнее достигать поставленных человечеством целей.
      Ну и можно людям будет памятники поставить. Дабы подчеркнуть их роль в прогрессе и эволюции.