Эксперты призвали ООН установить «красные линии» для искусственного интеллекта

Сегодня, 06:29 1 906 21

Более двухсот ведущих специалистов в области искусственного интеллекта, включая десять лауреатов Нобелевской премии, выступили с совместным обращением к Организации Объединенных Наций. В открытом письме они настаивают на незамедлительном определении и обеспечении соблюдения международных «красных линий», которые должны запретить наиболее опасные способы применения ИИ.

Как отмечают авторы инициативы, некоторые передовые системы искусственного интеллекта уже демонстрируют способность к обманным и вредоносным действиям. При этом таким системам предоставляется всё больше автономии для принятия решений в реальном мире. По их мнению, в ближайшей перспективе ИИ может значительно превзойти человеческие возможности, что создаст беспрецедентные риски. В их числе — создание искусственных пандемий, кампании массовой дезинформации и манипуляции общественным мнением, в том числе в отношении детей, а также системные угрозы национальной и международной безопасности, массовая безработица и нарушения прав человека.

Текст обращения, опубликованный на специализированном ресурсе redlines.ai, содержит призыв к ООН ввести запрет на применение ИИ в сферах, которые группа считает недопустимо рискованными. В этот перечень входят: передача системам ИИ прямого управления ядерным оружием, использование технологий для тотальной слежки и имитация человека без четкого раскрытия участия искусственного интеллекта.

Подписанты настаивают, чтобы ООН установила глобальный и имеющий обязательную силу режим контроля над развитием ИИ до конца 2026 года. Они предупреждают, что после появления сверхмощного искусственного интеллекта человечество может утратить над ним какой-либо контроль.

Среди тех, кто поддержал обращение, — профессор Джеффри Хинтон, лауреат премии Тьюринга Йошуа Бенджио, сооснователь OpenAI Войцех Заремба, директор по информационной безопасности компании Anthropic Джейсон Клинтон и ведущий научный сотрудник Google DeepMind Ян Гудфеллоу, а также ряд их коллег.

При этом генеральный директор DeepMind Демис Хассабис и глава OpenAI Сэм Альтман свою подпись под документом не поставили, что может создать почву для напряженности внутри индустрии.

Информация

Уважаемый читатель, чтобы оставлять комментарии к публикации, необходимо авторизоваться.

Hitriy Zhuk

0

Сегодня, 06:33

Запретите на уровне ООН видеокарты мощнее слабенькой игровой, и эта проблема решится сама на ближайшие 30 лет.
За одно игродебилы вымрут(или начнут жить неальной жизнью).
1. Naofumi
  
  -1
  
  Сегодня, 06:43
  
  Запретите на уровне ООН видеокарты мощнее слабенькой игровой, и эта проблема решится сама на ближайшие 30 лет.
  
  И эти слабенькие видеокарты, уровня GTX-9050 будут стоить по 1000+ баксов.
  Ну для ИИ тот же EPYC 9965 тоже хорошо подходит.
  1. Hitriy Zhuk
    
    -1
    
    Сегодня, 06:46
    
    Цитата: Naofumi
    И эти слабенькие видеокарты, уровня GTX-9050 будут стоить по 1000+ баксов.
    
    А и они не особо то нужны.
    Пусть "игроделы" учатся как раньше, где скроить запекши всё, где оптимизировать.
    
    >Ну для ИИ тот же EPYC 9965 тоже хорошо подходит.
    Почти всё на игле Nvidia.
    
    Для обучения не особо.
    А если новые модели делать станет дорого невыносимо - инвестиции запнутся и пузырь снова лопнет.
    1. Naofumi
      
      0
      
      Сегодня, 06:57
      
      А и они не особо то нужны.
      Пусть "игроделы" учатся как раньше, где скроить запекши всё, где оптимизировать.
      
      Нужны, хотя бы потому, что графика тоже на месте не стоит. Чистая растеризация нужна, точнее увеличение оной.
      Да, есть движки, которые не такие требовательные, но потихоньку все садятся на UE5+.
      На том же UE5+ даже 5090 в паре с 9800X3D не выдают стабильные 60 кадров в 1080p. Что уж про 5050 говорить. Да, я имел в виду 5050, а не 9050. Спутал.)
      
      Почти всё на игле Nvidia.
      
      Да, Нвидиа тут монополист и хозяин рынка. Но и на EPYC ИИ работает.
      
      А если новые модели делать станет дорого невыносимо - инвестиции запнутся и пузырь снова лопнет.
      
      Если убрать GPU, то CPU будут более востребованы.
      1. Hitriy Zhuk
        
        -1
        
        Сегодня, 07:10
        
        Цитата: Naofumi
        На том же UE5+ даже 5090 в паре с 9800X3D не выдают стабильные 60 кадров в 1080p
        
        Дожили, еще не так давно(10-15 лет) в 2к разрешении на 550ti эти 60 выдавало в игрушках.
        Пр итом что со времен Half-Life2(а это около 2004) разницы год от года не особо то и видно, там скорее ерегруженность травками всякими.
        Может конечно рекламные ролики не передают разницу.
        
        Цитата: Naofumi
        Если убрать GPU, то CPU будут более востребованы.
        
        Будут, но кроме самых новых Эпиков - это совсем медленно в обучении будет.
        
        Naofumi
        
        0
        
        Сегодня, 07:33
        
        Дожили, еще не так давно(10-15 лет) в 2к разрешении на 550ti эти 60 выдавало в игрушках.
        
        Не помню такого. Даже в 2013 году моя R9 290 не могла в QHD, в современные на тот момент игры. А она на голову мощнее 550Ti.
        Естественно, если мы говорим про максимальные настройки.
        
        Пр итом что со времен Half-Life2(а это около 2004) разницы год от года не особо то и видно, там скорее ерегруженность травками всякими.
        Может конечно рекламные ролики не передают разницу.
        
        Просто так кажется. Но развитие есть и оно заметно.
        
        Будут, но кроме самых новых Эпиков - это совсем медленно в обучении будет.
        
        Сделают склейку Эпиков, которые будут жрать 1-2 кВт)Да и Эпики на Зен-6 не за горами.
2. Русич
  
  0
  
  Сегодня, 06:46
  
  Цитата: Hitriy Zhuk
  За одно игродебилы вымрут(или начнут жить неальной жизнью).
  
  Игродебилы начнут, как минимум, водку жрать. Однажды, ища рецепт, попал на женский сайт. Диспут постепенно от рецептов перешёл на мужей, которые играют в танки. Большинство женщин бухтели, а одна пишет: "Девчонки, подскажите, как мне подсадить мужа на танки, чтобы он дома сидел, а не шлялся."
  1. Hitriy Zhuk
    
    0
    
    Сегодня, 06:48
    
    Цитата: Русич
    Игродебилы начнут, как минимум, водку жрать.
    
    Водку тоже запретить!
3. carpenter
  
  +1
  
  Сегодня, 07:42
  
  Цитата: Hitriy Zhuk
  апретите на уровне ООН видеокарты мощнее слабенькой игровой
  
  Наивные люди, кто так считает. После ПМВ Лига Наций пыталась остановить пулемёт, после ВМВ пытаются остановить гонку вооружения и распространение ядерного оружия.
  ООН это площадка для "говорильни", а не для действий. Это еще в России думают, чято ООН может что то делать, а остальные ведущие страны мира, такие как США и Британия, сразу после образования организации, на неё положили все причиндалы и делают что их заблагорассудится. вон Трамп уже решил вместо Палестины сделать зону, а бриты после ВМВ сделали Израиль, а потом вдруг появилось в мире столько лимитрофов, сколько было стран перед ПМВ.
ism_ek

0

Сегодня, 06:40

Летом трафик chatGTP снижается на 50%. Студенты и школьники уходят на каникулы))) Думаете они используют языковые модели для углубленного изучения наук?
Вот это опасно.
Дырокол

+2

Сегодня, 06:47

Более двухсот ведущих специалистов в области искусственного интеллекта, включая десять лауреатов Нобелевской премии, выступили с совместным обращением к Организации Объединенных Наций.

Полагаю эти "более двухсот" умные люди, но похоже они не понимают, что ООН давно уже ничего не решает и не способна повлиять на развитие ИИ.
1. Hitriy Zhuk
  
  +1
  
  Сегодня, 06:50
  
  А другого подобного ООН гадюшника пока не изобрели.
  В прочем, кто только в ООН не выступал, от нацистов до "дефективной девочки".
  Походу там заплати и выступай.
  1. carpenter
    
    +1
    
    Сегодня, 08:30
    
    Цитата: Hitriy Zhuk
    А другого подобного ООН гадюшника пока не изобрели.
    
    Как улетели в небытие - Венский Конгресс, Лига Наций, так и улетит ООН.
    Но вместо ООН уже ничего создавать не будут, мирное сосуществование тоже уходит в небытие.
Дилетант

0

Сегодня, 06:57

Они бы для начала определились что такое искусственный интеллект. То, что сейчас пытаются выдать за ИИ, А.Вассерман назвал "Имитацией интеллекта". Он вообще за несколько минут "камна на камне" не оставил на этой модной выдумки маркетологов.
Кому интересно посмотрите сами. https://youtu.be/msF4fplo3us?si=Xut9c2J5hjPFuhJG
1. Hitriy Zhuk
  
  -1
  
  Сегодня, 07:23
  
  Ну тащемто именно "искусственный интеллект" называли это умные книжки давным давно.
  Один из разделов, конкрентый подраздел.
  
  Токмо когда-то оно применялось для "что за цифра на картинке".
  Для текста ужо не так давно извратились.
  
  А вообще, да, это не тот "общего назначения" что в киношках.
  Плюс, пузырь современный это еще и заливаие проблемы деньгами.
  
  На счет "развиваться самостоятельно" в эту сторону тоже были работы.
  Просто нейронные сети удалось ловко комерциализовать когда компухетры позволили.
Владимир Владимирович Воронцов

0

Сегодня, 07:12

❝ Эксперты призвали ООН установить «красные линии» для искусственного интеллекта ❞ —
❝ По их мнению, в ближайшей перспективе ИИ может значительно превзойти человеческие возможности ❞ —

— В таком случае «красные линии» для него не помеха ...
Stas157

0

Сегодня, 07:34

Они предупреждают, что после появления сверхмощного искусственного интеллекта человечество может утратить над ним какой-либо контроль.
До этого далеко. И невозможно прогнозировать, когда это настанет. Сам ИИ об этом говорит. Возможно сложно будет ограничивать процесс самообучения и принятия решений у сильного ИИ, но ведь физический носитель ИИ контролировать можно. Его можно просто выключить из розетки.
1. свой1970
  
  0
  
  Сегодня, 09:03
  
  Цитата: Stas157
  Его можно просто выключить из розетки.
  
  Мы движемся к "Терминатору" бешенным галопом, и за попытки отключить его - он может отключить например системы жизнеобеспечения больных или обеспечение авиадеспетчеров - пока это фантастика, но 20 лет тому назад НД в 10 гб был вполне мощным и еще прорва места оставалась
михаил3

0

Сегодня, 08:14

Все, абсолютно все, перенесут свои усилия ЗА "красные линии". Итак вся эта вакханалия выскочила за все границы. Однако, поскольку ИИ не интеллект, краши будут эпические.
501Legion

0

Сегодня, 08:21

Да все уже читали про этот мыльный пузырь как растут IT гиганты и их акции. Всю эту конторы надо брать в жесткие регулирования. не национальными а над националами/международными мерами.
Сержант

+1

Сегодня, 08:49

Глядя на красные линии некоторых политиков,лучше подобрать другое выражение для этого призыва экспертов.