Эксперты призвали ООН установить «красные линии» для искусственного интеллекта

Более двухсот ведущих специалистов в области искусственного интеллекта, включая десять лауреатов Нобелевской премии, выступили с совместным обращением к Организации Объединенных Наций. В открытом письме они настаивают на незамедлительном определении и обеспечении соблюдения международных «красных линий», которые должны запретить наиболее опасные способы применения ИИ.

Как отмечают авторы инициативы, некоторые передовые системы искусственного интеллекта уже демонстрируют способность к обманным и вредоносным действиям. При этом таким системам предоставляется всё больше автономии для принятия решений в реальном мире. По их мнению, в ближайшей перспективе ИИ может значительно превзойти человеческие возможности, что создаст беспрецедентные риски. В их числе — создание искусственных пандемий, кампании массовой дезинформации и манипуляции общественным мнением, в том числе в отношении детей, а также системные угрозы национальной и международной безопасности, массовая безработица и нарушения прав человека.

Текст обращения, опубликованный на специализированном ресурсе redlines.ai, содержит призыв к ООН ввести запрет на применение ИИ в сферах, которые группа считает недопустимо рискованными. В этот перечень входят: передача системам ИИ прямого управления ядерным оружием, использование технологий для тотальной слежки и имитация человека без четкого раскрытия участия искусственного интеллекта.

Подписанты настаивают, чтобы ООН установила глобальный и имеющий обязательную силу режим контроля над развитием ИИ до конца 2026 года. Они предупреждают, что после появления сверхмощного искусственного интеллекта человечество может утратить над ним какой-либо контроль.

Среди тех, кто поддержал обращение, — профессор Джеффри Хинтон, лауреат премии Тьюринга Йошуа Бенджио, сооснователь OpenAI Войцех Заремба, директор по информационной безопасности компании Anthropic Джейсон Клинтон и ведущий научный сотрудник Google DeepMind Ян Гудфеллоу, а также ряд их коллег.

При этом генеральный директор DeepMind Демис Хассабис и глава OpenAI Сэм Альтман свою подпись под документом не поставили, что может создать почву для напряженности внутри индустрии.

Comments

[Hitriy Zhuk]

Запретите на уровне ООН видеокарты мощнее слабенькой игровой, и эта проблема решится сама на ближайшие 30 лет.
За одно игродебилы вымрут(или начнут жить неальной жизнью).

[Naofumi]

Запретите на уровне ООН видеокарты мощнее слабенькой игровой, и эта проблема решится сама на ближайшие 30 лет.

И эти слабенькие видеокарты, уровня GTX-9050 будут стоить по 1000+ баксов.
Ну для ИИ тот же EPYC 9965 тоже хорошо подходит.

[Hitriy Zhuk]

Цитата: Naofumi

И эти слабенькие видеокарты, уровня GTX-9050 будут стоить по 1000+ баксов.

А и они не особо то нужны.
Пусть "игроделы" учатся как раньше, где скроить запекши всё, где оптимизировать.

>Ну для ИИ тот же EPYC 9965 тоже хорошо подходит.
Почти всё на игле Nvidia.

Для обучения не особо.
А если новые модели делать станет дорого невыносимо - инвестиции запнутся и пузырь снова лопнет.

[Naofumi]

А и они не особо то нужны.
Пусть "игроделы" учатся как раньше, где скроить запекши всё, где оптимизировать.

Нужны, хотя бы потому, что графика тоже на месте не стоит. Чистая растеризация нужна, точнее увеличение оной.
Да, есть движки, которые не такие требовательные, но потихоньку все садятся на UE5+.
На том же UE5+ даже 5090 в паре с 9800X3D не выдают стабильные 60 кадров в 1080p. Что уж про 5050 говорить. Да, я имел в виду 5050, а не 9050. Спутал.)

Почти всё на игле Nvidia.

Да, Нвидиа тут монополист и хозяин рынка. Но и на EPYC ИИ работает.

А если новые модели делать станет дорого невыносимо - инвестиции запнутся и пузырь снова лопнет.

Если убрать GPU, то CPU будут более востребованы.

[Hitriy Zhuk]

Цитата: Naofumi

На том же UE5+ даже 5090 в паре с 9800X3D не выдают стабильные 60 кадров в 1080p

Дожили, еще не так давно(10-15 лет) в 2к разрешении на 550ti эти 60 выдавало в игрушках.
Пр итом что со времен Half-Life2(а это около 2004) разницы год от года не особо то и видно, там скорее ерегруженность травками всякими.
Может конечно рекламные ролики не передают разницу.

Цитата: Naofumi

Если убрать GPU, то CPU будут более востребованы.

Будут, но кроме самых новых Эпиков - это совсем медленно в обучении будет.

[Naofumi]

Дожили, еще не так давно(10-15 лет) в 2к разрешении на 550ti эти 60 выдавало в игрушках.

Не помню такого. Даже в 2013 году моя R9 290 не могла в QHD, в современные на тот момент игры. А она на голову мощнее 550Ti.
Естественно, если мы говорим про максимальные настройки.

Пр итом что со времен Half-Life2(а это около 2004) разницы год от года не особо то и видно, там скорее ерегруженность травками всякими.
Может конечно рекламные ролики не передают разницу.

Просто так кажется. Но развитие есть и оно заметно.

Будут, но кроме самых новых Эпиков - это совсем медленно в обучении будет.

Сделают склейку Эпиков, которые будут жрать 1-2 кВт)Да и Эпики на Зен-6 не за горами.

[isv000]

Цитата: Naofumi

Запретите на уровне ООН видеокарты мощнее слабенькой игровой, и эта проблема решится сама на ближайшие 30 лет.

И эти слабенькие видеокарты, уровня GTX-9050 будут стоить по 1000+ баксов.
Ну для ИИ тот же EPYC 9965 тоже хорошо подходит.

Крамола с меня: коли эта бабца-робот будет мне борщ варить, соточку подносить и ... всё такое то пусть будет!

[Русич]

Цитата: Hitriy Zhuk

За одно игродебилы вымрут(или начнут жить неальной жизнью).

Игродебилы начнут, как минимум, водку жрать. Однажды, ища рецепт, попал на женский сайт. Диспут постепенно от рецептов перешёл на мужей, которые играют в танки. Большинство женщин бухтели, а одна пишет: "Девчонки, подскажите, как мне подсадить мужа на танки, чтобы он дома сидел, а не шлялся."

[Hitriy Zhuk]

Цитата: Русич

Игродебилы начнут, как минимум, водку жрать.

Водку тоже запретить!

[isv000]

Цитата: Hitriy Zhuk

Цитата: Русич

Игродебилы начнут, как минимум, водку жрать.

Водку тоже запретить!

Водку?!! Запретить?! Да пжалста! Нет преград для российского знтузазиста! Завсегда найдём способ как опохмельнуться...

[carpenter]

Цитата: Hitriy Zhuk

апретите на уровне ООН видеокарты мощнее слабенькой игровой

Наивные люди, кто так считает. После ПМВ Лига Наций пыталась остановить пулемёт, после ВМВ пытаются остановить гонку вооружения и распространение ядерного оружия.
ООН это площадка для "говорильни", а не для действий. Это еще в России думают, чято ООН может что то делать, а остальные ведущие страны мира, такие как США и Британия, сразу после образования организации, на неё положили все причиндалы и делают что их заблагорассудится. вон Трамп уже решил вместо Палестины сделать зону, а бриты после ВМВ сделали Израиль, а потом вдруг появилось в мире столько лимитрофов, сколько было стран перед ПМВ.

[Михаил Драбкин]

Кони ускакали, закрывать конюшню бессмысленно. Эти подписанты - все часть похоронщиков человечества, они знали что делали, но неуемная страсть к познанию того КТО за чертой Венца Природы, к предсказуемости, к Создателю - все это проявление неискоренимого Зла в человеке.

Они знали, раскаиваться поздно, как и Еве познавшей Яблоко с древа Греха.

Красные линии не удержат Сэма Альтмана и Иже от стремления к бессмертию - истиной причины гонки к Всеобщему Искусственному Интеллекту… только вооруженное сопротивление и смертельные исход для этой новой расы господ - а вернее Чужих в личине людей… может дать шанс Человечеству выжить как виду.

Сопротивление - или уничтожение! Таков выбор осознающих грядущий конец человечества.

[ism_ek]

Летом трафик chatGTP снижается на 50%. Студенты и школьники уходят на каникулы))) Думаете они используют языковые модели для углубленного изучения наук?
Вот это опасно.

[Дырокол]

Более двухсот ведущих специалистов в области искусственного интеллекта, включая десять лауреатов Нобелевской премии, выступили с совместным обращением к Организации Объединенных Наций.

Полагаю эти "более двухсот" умные люди, но похоже они не понимают, что ООН давно уже ничего не решает и не способна повлиять на развитие ИИ.

[Hitriy Zhuk]

А другого подобного ООН гадюшника пока не изобрели.
В прочем, кто только в ООН не выступал, от нацистов до "дефективной девочки".
Походу там заплати и выступай.

[carpenter]

Цитата: Hitriy Zhuk

А другого подобного ООН гадюшника пока не изобрели.

Как улетели в небытие - Венский Конгресс, Лига Наций, так и улетит ООН.
Но вместо ООН уже ничего создавать не будут, мирное сосуществование тоже уходит в небытие.

[cpls22]

Цитата: Hitriy Zhuk

В прочем, кто только в ООН не выступал, от нацистов до "дефективной девочки".
Походу там заплати и выступай.

Вот , кстати, не лепят ли там новый "жупел" вроде глобального изменения климата, который будет просто заточен на замедление развития конкурентов . Главные игроки чего-то достигли, пора осадить идущих следом..

[Дилетант]

Они бы для начала определились что такое искусственный интеллект. То, что сейчас пытаются выдать за ИИ, А.Вассерман назвал "Имитацией интеллекта". Он вообще за несколько минут "камна на камне" не оставил на этой модной выдумки маркетологов.
Кому интересно посмотрите сами. https://youtu.be/msF4fplo3us?si=Xut9c2J5hjPFuhJG

[Hitriy Zhuk]

Ну тащемто именно "искусственный интеллект" называли это умные книжки давным давно.
Один из разделов, конкрентый подраздел.

Токмо когда-то оно применялось для "что за цифра на картинке".
Для текста ужо не так давно извратились.

А вообще, да, это не тот "общего назначения" что в киношках.
Плюс, пузырь современный это еще и заливаие проблемы деньгами.

На счет "развиваться самостоятельно" в эту сторону тоже были работы.
Просто нейронные сети удалось ловко комерциализовать когда компухетры позволили.

[Владимир Владимирович Воронцов]

❝ Эксперты призвали ООН установить «красные линии» для искусственного интеллекта ❞ —
❝ По их мнению, в ближайшей перспективе ИИ может значительно превзойти человеческие возможности ❞ —

— В таком случае «красные линии» для него не помеха ...

[Stas157]

Они предупреждают, что после появления сверхмощного искусственного интеллекта человечество может утратить над ним какой-либо контроль.

До этого далеко. И невозможно прогнозировать, когда это настанет. Сам ИИ об этом говорит. Возможно сложно будет ограничивать процесс самообучения и принятия решений у сильного ИИ, но ведь физический носитель ИИ контролировать можно. Его можно просто выключить из розетки.

[свой1970]

Цитата: Stas157

Его можно просто выключить из розетки.

Мы движемся к "Терминатору" бешенным галопом, и за попытки отключить его - он может отключить например системы жизнеобеспечения больных или обеспечение авиадеспетчеров - пока это фантастика, но 20 лет тому назад НД в 10 гб был вполне мощным и еще прорва места оставалась

[михаил3]

Все, абсолютно все, перенесут свои усилия ЗА "красные линии". Итак вся эта вакханалия выскочила за все границы. Однако, поскольку ИИ не интеллект, краши будут эпические.

[501Legion]

Да все уже читали про этот мыльный пузырь как растут IT гиганты и их акции. Всю эту конторы надо брать в жесткие регулирования. не национальными а над националами/международными мерами.

[Сержант]

Глядя на красные линии некоторых политиков,лучше подобрать другое выражение для этого призыва экспертов.

[Arzt]

Не надо бояться ИИ. Он точно не будет хуже "естественного интеллекта", судя по тому, что произошло с момента появления Homo sapiens.

[ГолыйМужик]

В условиях глобального противостояния все положат на все красные линии, и будут внедрять любые системы в любой области, где можно получить преимущество.
Конечно США может подумать, что неплохо бы запретими на уровне ООН контролировать других, сами они конечно выполнять это не будут. Но скорее всего и "другие", в лице Китая, Индии, России и прочих самостоятельных стран уже не купятся на односторонние запреты. К чему это всё приведет - увидим.

[isv000]

Эксперты призвали ООН установить «красные линии» для искусственного интеллекта

За красными линиями - это к нам!