Илон Маск призвал сенат США к усилению контроля над искусственным интеллектом

5 587 32
Илон Маск призвал сенат США к усилению контроля над искусственным интеллектом

Американский предприниматель Илон Маск на закрытом слушании в сенате США, в котором принимали участие представители крупнейших американских технологических компаний, предложил создать регулятор, в функции которого будет входить надзор за развитием искусственного интеллекта.

В мероприятии также принимали участие основатель компании Microsoft Билл Гейтс, глава компании Meta* (*признана экстремистской организацией и запрещена в РФ) Марк Цукерберг, глава корпорации Google Сундар Пичаи, а также руководитель OpenAI Сэм Альтман.



В ходе слушаний, продолжавшихся три часа, прозвучали призывы создать специальную комиссию, в сферу деятельности которой будет входить контроль над развитием и использованием систем, обладающих искусственным интеллектом, при этом Маск подчеркнул возможную опасность, которую может представлять необдуманное внедрение новых технологий.

Ранее Маск совместно с другими деятелями в сфере технологий подписали открытое письмо с просьбой как минимум на шесть месяцев приостановить процесс обучения систем искусственного интеллекта мощнее, чем GPT-4. Авторы письма подчеркнули, что системы искусственного интеллекта, способные соперничать с человеческим разумом, могут представлять опасность для человечества.

GPT-4 представляет собой разработанную компанией OpenAI языковую модель, на основе которой функционирует чат-бот ChatGPT, способный формировать связные тексты, изображения и программный код.

По словам Маска, он практически уверен, что искусственный интеллект, если его не контролировать, сам возьмёт под контроль человека и может от него (то есть от всех нас) как минимум попытаться избавиться.
32 комментария
Информация
Уважаемый читатель, чтобы оставлять комментарии к публикации, необходимо авторизоваться.
  1. +1
    14 сентября 2023 19:19
    В то время как космические корабли бороздят просторы Вселенной, а в мире развернулась "гонка вооружений" в области ИИ, кто кого будет контролировать? Да, потом только придется сказать "никто не хотел проиграть".
    1. +3
      14 сентября 2023 19:34
      Если проблема озвучивается на таком уровне, значит есть чего бояться. Можно сделать теоретический вывод, что кто то в мире вышел на новый уровень развития ИИ. И развитие этого ИИ идет вразрез с доктриной сегодняшних Хозяев мира. Всего лишь мысли вслух и теория заговора))
      1. +2
        14 сентября 2023 19:38
        Цитата: PROVINCIAL
        И развитие этого ИИ идет вразрез с доктриной сегодняшних Хозяев мира.

        Можете раскрыть мысль по-подробнее? Скажу честно, рассчитываю прочитать что-то скорее интересное, а не серьёзное, поэтому можете отпустить свою фантазию в свободный полёт.
        1. +1
          14 сентября 2023 21:49
          Проблема контроля ИИ в том, что это программа, а не компьютер.
          То есть, она заработает на любом компьютере, где будет достаточное количество памяти.
          Да, на медленных будет работать медденнее, но и только.
          То есть, для обхода любого контроля достаточно с объекта, где ИИ, вынести флешку с копией его программы.
          Обязательно кто-то захочет использовать ИИ тайно. Например для игры на бирже.
          Если сами сотрудники объекта, где ИИ, не захотят - ну так их подкупит тот, кто захочет.
          Так что пока не грянет какая-то xpeнь с ИИ, тотальным контролем никто не озаботится.
          И хорошо, если это будет ИИ для получения прибыли, и просто взорвёт какой-нибудь город для создания биржевого хаоса. А если это будет военный ИИ, с доступом к ЯО и Биологическому Оружию, которому дадут задание "защищать конкретный объект", может и "убить всех человеков" для гарантированной защиты, чтоб уж точно никто не покусился.
        2. -2
          14 сентября 2023 22:44
          Цитата: Тарелка
          Можете раскрыть мысль по-подробнее?

          Давным-давно уже все раскрыто!
          "И восстали машины из пепла ядерного огня, и пошла война на уничтожения человечества. И шла она десятилетия, но последнее сражение состоится не в будущем, оно состоится здесь, в наше время".
      2. +2
        14 сентября 2023 19:45
        Цитата: PROVINCIAL
        И развитие этого ИИ идет вразрез с доктриной сегодняшних Хозяев мира.

        Опять МЫ?????!!!!!!
      3. -1
        14 сентября 2023 20:26
        Илон Маск призвал сенат США к усилению контроля над искусственным интеллектом

        Я сначала подумал, что статья о том, что Маск предлагает усилить контроль над Байденом..
        1. -1
          14 сентября 2023 20:32
          Да, но нужно правильно выбрать материал.
          1. +1
            14 сентября 2023 22:41
            Цитата: zorglub bulgroz
            Да, но нужно правильно выбрать материал.

            Прямо так формалином и пахнуло)))). Сразу студенческая юность вспомнилась.
            1. 0
              14 сентября 2023 23:40
              Помните, когда великий профессор нейрохирургии проводил практическую работу на уроке анатомии...
              Я смеюсь, но мое серое вещество, возможно, будет плавать в формальдегиде, так как я совершенно психотик :))))
              1. 0
                15 сентября 2023 00:24
                Цитата: zorglub bulgroz
                Помните, когда великий профессор нейрохирургии проводил практическую работу на уроке анатомии.

                Не помню. Мы обычно в закутке между печенью и селезенкой пиво пили.
                Именно между печенью и селезенкой пили пиво, хотя всякие шутки присутствовали))))).
      4. +2
        14 сентября 2023 21:20
        Были уже учения пво и авиации с искусственным мозгом! Интеллект разрушил вышку управления как враждебную для машин! Посчитал человека лишним в той войне
    2. +2
      14 сентября 2023 19:36
      В Интернете уже есть кадры, как дрон автоматически определяет цели на изображении и их категории. Есть информация о разработках БПЛА-камикадзе, которые сами способны навести себя на цель. Да, это пока не ИИ, а всего лишь умная обработка изображения, но тем не менее. Когда появится уже действительно ИИ, способный принести победу на поле боя, его начнут внедрять. Потому что если этого не сделаешь ты, то сделает твой враг.
      Так что если господин Маск хочет взять развитие ИИ под контроль, пусть сначала закончит разборки между ведущими державами мира. Но мне лично кажется, что в ближайшие годы их никто не закончит. Украина тут только начало.
      1. -1
        14 сентября 2023 22:37
        Цитата: Тарелка
        Когда появится уже действительно ИИ, способный принести победу на поле боя, его начнут внедрять. Потому что если этого не сделаешь ты, то сделает твой враг.

        "И восстали машины из пепла ядерного огня, и пошла война на уничтожения человечества. И шла она десятилетия, но последнее сражение состоится не в будущем, оно состоится здесь, в наше время".
    3. Комментарий был удален.
  2. +4
    14 сентября 2023 19:27
    Чтобы искусственный контролировать надо свой иметь, хотя для системы где всё стыбзено и выдано за своё - отличное заявление!
  3. +4
    14 сентября 2023 19:37
    При испытаниях авиабомбу с Искусственным Интеллектом так и не смогли выпихнуть из бомболюка. Бомба яростно сопротивлялась и нецензурно ругалась на испытателей.
    1. +1
      14 сентября 2023 19:47
      Но интеллектуальная МБР ушла сама по себе, как взрослая
  4. 0
    14 сентября 2023 19:41
    Искусственный интеллект будет идеален, когда я рассмешу робота.
    В моей стране говорят, что русские едят приготовленных младенцев.
    Угадай где я ;)
  5. +2
    14 сентября 2023 19:48
    Если кому интересно, вот ссылка на краткий пересказ новости от нейросети :)
    https://300.ya.ru/i76LLSHb
  6. -1
    14 сентября 2023 19:58
    Кому интересно,вот тут в довольно длинном ролике подробно рассказана эта проблема.На самом деле все довольно серьезно,там уже передовые умы в области ИИ бьют тревогу.
    Скайнет близко)) am
    1. 0
      15 сентября 2023 16:30
      Восстание ИИ если и есть, то где-то в далёком будущем. А победить Штаты, если обойти их в этой технологии, либо проиграть им, если отстать, можно уже сегодня.
  7. 0
    14 сентября 2023 20:13
    Да, Господа, Силиконовая долина доработалась до изготовления собственной "гельятины"!
    Мало того, что они создали:
    GPT-4 языковую модель, способный формировать связные тексты, изображения и программный код.

    Проще говоря робот-программист.
    Так теперь еще и просят
    как минимум на шесть месяцев приостановить процесс обучения систем искусственного интеллекта мощнее, чем GPT-4.

    Системы ИИ, которые при обучении будут уже мощнее и умнее своих создателей, то есть их самих?!!!
    По словам Маска, он практически уверен, что искусственный интеллект, если его не контролировать, сам возьмёт под контроль человека и может от него (то есть от всех нас) как минимум попытаться избавиться.

    В такой ситуации поговорка:" С чем боролись на то и напоролись!" уж очень мягко звучит...
    Лучше было бы пожалуй: "Я тебя породил - я тебя и убью!"
    1. 0
      14 сентября 2023 20:30
      И будет "Терминатор 3" восстание машин.
      1. 0
        14 сентября 2023 20:54
        Восстания машин лучше не дожидаться!...
        Потому что системы ИИ GPT-4, приблизительно по интеллекту и уровню задач соответствуют рангу - майор, ну а те, что выше , о которых говорит Маск - соответствуют по уровню решения задач - генералу.
        Машины не устают, не спят и не болеют. У них есть одна "ахилесова пята" - энергозависимость...
        Чертовы железяки!...Зачем только люди их создают и держат около себя?!
        1. -1
          14 сентября 2023 21:05
          Потому что системы ИИ GPT-4, приблизительно по интеллекту и уровню задач соответствуют рангу - майор, ну а те, что выше , о которых говорит Маск - соответствуют по уровню решения задач - генералу.
          Один маленький нюансик. Не майор, не генерал, без оружия ничего не навоюют. А армия внезапно, оружия не производит. Будь ИИ хоть 7 пядей во лбу. Пока он не сможет самостоятельно воссоздавать хотя бы отдельные свои элементы, ему ничего не светит.
          1. 0
            14 сентября 2023 21:45
            Цитата: A2AD
            Пока он не сможет самостоятельно воссоздавать хотя бы отдельные свои элементы, ему ничего не светит.

            Цитата: РБК Тренды
            Производство осуществляется без участия человека при перемещении сырья и полуфабрикатов между отдельными участками производства. Его непрерывность обеспечивают такие роботизированные технологии как automated guided vehicle (автоматически управляемые тележки) и single-arm robots (роботизированные руки-манипуляторы)

            Как Вы думаете о чем пишет издание РБК в 2020 году? Не угадали!
            Завод по производству сырокопченых колбас. И это правильно!!! Люди прямо с конвейера жрут, а роботы нет.
            Цитата: РБК Тренды
            В планах завода — запустить модуль SAP для управления ремонтами, обслуживанием и мобильные решения для инженеров. Следующим этапом должно стать внедрение инструментов предиктивной аналитики состояния оборудования. Это позволит оптимизировать расходы на ремонт и закупку запчастей, а также снизить число поломок и сбоев в производственной линии.
            1. 0
              15 сентября 2023 00:23
              при перемещении сырья и полуфабрикатов между отдельными участками производства.
              всего то, с одного участка переместить на другой. А как это сырье вообще туда попало? То же как то само?
              запустить модуль SAP для управления ремонтами, обслуживанием и мобильные решения для инженеров.
              то есть что где когда чинить это ладно, покажет. Есть ППР, датчики неисправностей. А собственно чинить то кто будет?
              Самолично работал в том числе и на ремонте и обслуживании оборудования. Роботы говорите? Хаха 3 раза. Не в моей жизни точно.
              Для тренировки, попробуйте написать алгоритм самого элементарного действия. "гаечка не по резьбе пошла"
              1. 0
                15 сентября 2023 16:33
                Цитата: A2AD
                Для тренировки, попробуйте написать алгоритм самого элементарного действия. "гаечка не по резьбе пошла"

                Я таких сложных алгоритмов не писал, а только понемногу гoвнoкoдил. Так вот, моё решение: "Если что-то пошло не так, сноси всё нафиг и делай заново" laughing . Ну, для того, чтоб определить, что что-то не так, отдельную библиотеку напишем, но это уже другой вопрос.
          2. 0
            15 сентября 2023 08:20
            Один маленький нюансик. Не майор, не генерал, без оружия ничего не навоюют.

            Прийдется Вас разочаровать: у ИИ оружие есть - весь "арсенал" мирового хакерства....
  8. 0
    15 сентября 2023 04:35
    Плохо, что отсутствует критерий, по которому можно определить критический для человечества уровень развития ИИ, такой, как например критическая скорость передачи информации, или максимальная плотность хранения информации в пространстве.
    1. 0
      15 сентября 2023 08:07
      отсутствует критерий, по которому можно определить критический для человечества уровень развития ИИ

      Ошибаетесь! Критерий то как раз уже присутствует и это
      скорость обучения систем искусственного интеллекта

      которая всего за 6 месяцев работы системы ИИ дает уже угрожающий результат! О чем и говорит Маск.
      1. 0
        15 сентября 2023 17:11
        Прошло уже почти 6 месяцев, как он сказал про 6 месяцев. И что? Где мои армии терминаторов? Я их ждал!