Маск заявил в суде, что ИИ «может убить нас всех», а может помочь человечеству

Американский миллиардер Илон Маск в ходе выступления в суде, где рассматривается иск, который он подал против компании OpenAI, сделал два противоречивых прогноза, касающихся масштабного внедрения искусственного интеллекта во все большие сферы жизнедеятельности человечества.

По словам Маска, ИИ «может убить нас всех», как в «Терминаторе», а может помочь человечеству, как в сериале Star Trek. Его предупреждения цитирует американский деловой журнал«Форчун» (Fortune). Почему-то предприниматель не вспомнил еще один фантастический фильм, в котором показан глобальный конфликт людей и искусственного разума, — «Матрицу».

В суд на известного американского разработчика в области искусственного интеллекта (чат-бот ChatGPT и ряд других продуктов на базе ИИ) подали конкуренты OpenAI LP — компания xAI, продвигающая генеративный чат-бот Grok, и ряд других фирм. Маск стал сооснователем компании OpenAI в 2015 году вместе с Сэмом Альтманом, но в 2018 году покинул ее после конфликта. Чат-бот Grok был запущен в 2023 году по инициативе Маска.

Основатель Tesla и SpaceX в 2024 году подал иск против OpenAI и её главы Сэма Альтмана. Маск обвинил компанию в отходе от первоначальной миссии — развития искусственного интеллекта на благо человечества.В иске утверждается, что компания превратилась в закрытое коммерческое предприятие, де-факто являющееся структурным подразделением Microsoft.

Маск рассказал, что 10 лет назад они с Альтманом планировали, как не допустить ИИ «в плохие руки». Опасения особенно обострились во время встречи с сооснователем Google Ларри Пейджем в 2015 году. Маск беспокоился, что Пейдж недостаточно серьезно относится к рискам, на что, по словам Маска, Пейдж обвинил его в том, что он «специст» — то есть предпочитает людей цифровым формам жизни будущего.

Адвокаты OpenAI LP заявили в суде, что Маск проиграл борьбу за власть и теперь «обидчиво дуется». Очень похоже на конкурентную борьбу за очень перспективный рынок продуктов на базе ИИ.

Comments

[Mouse]

. По словам Маска, ИИ «может убить нас всех», как в «Терминаторе», а может помочь человечеству

А-а-а... Мы умрем все.....
Если серьезно к этому все идет.......

[роман66]

А хрен ли о неизбежном-то. " Что шаг - то короче к могиле наш путь... "

[Mouse]

Ну ты уж совсем..... В будующее верить надо !

[роман66]

Я в него верю. А оно меня может и не дождаться
Ну и

[Mouse]

Веришь, знач дождешься...
У тебя дочь красавица- вот твое будущее.....

[Тикси-3]

Цитата: Mouse

В будующее верить надо

так по факту оно уже наступило, посмотрите что и кто решает на фронте? операторы - БПЛА......осталось заменить операторов на ИИ и погнали.....эра кибер организмов уже на пороге

[Mouse]

Пусть ии против ии бьются сами? А контроль, а надзор?

[Sky Strike fighter]

Цитата: Mouse

. По словам Маска, ИИ «может убить нас всех», как в «Терминаторе», а может помочь человечеству

А-а-а... Мы умрем все.....
Если серьезно к этому все идет.......

Когда то также в Лондоне говорили о первых автомобилях,уже успевших к тому времени сбить первых людей на улицах Лондона. Современная статистика автопроисшествий с летальным исходом ещё более жёсткая. Так что отказываемся от автомобилей пока они всех нас не переубивали? Всё новое и неизведанное всегда пугает,но это всего лишь эмоции.Со временем все привыкнут.

[Mouse]

Сравнили жопу с пальцем....

[кредо]

...Всё новое и неизведанное всегда пугает,но это всего лишь эмоции.Со временем все привыкнут.

Сомневаюсь, что все привыкнут, но допускаю, что всех заставят его принять и привыкнуть, а тех кто откажется от этого, тех будут уничтожать как в фильме "Терминатор. Да придёт Спаситель".

[Кузнец 55]

Умереть то мы все умрем , никому еще не удалось избежать смерти , даже Иисусу .
Но и доверять все машинам нельзя .
Столько преступлений совершается с помощью интернета . Хотя по сути вещь то неплохая , полезная . Как пример . Не надо больше рыться по книгам и справочникам , задал гуглу и вот оно .
Но все же надо как то ограничить . Для учебы да , для иных разных пакостей , нет .
Но проблема в разобщенности государств , фирм , людей . Военных тоже . У каждого свой интерес .

[Mouse]

Мы предполагаем располагает только бог....

[Кузнец 55]

Mouse , разрешите вас немного поправить .
Бог - это имя , а имена пишутся с большой буквы .

[Mouse]

Да в курсе я... Школу все проходили.
...
Филогов развелось.... Не в обиду....

[alexandreII]

Ну да, гугл, интернет, я тут одному юному созданию,за тридцать,задал вопрос, можешь назвать мне очень известного героя столетней войны, и назвать дату, а он мне и говорит,сейчас погуглю и скажу, нафиг мне мозг заси.....ь когда есть интернет, вот так то

[carpenter]

Цитата: Кузнец 55

Умереть то мы все умрем , никому еще не удалось избежать смерти , даже Иисусу .

Да и Иисус не дожил до 40 лет.

[KukuRuzvelt]

В том виде в котором есть сейчас ничего не будет, это не ИИ полноценный - это по факту огромная база данных. Видел где то как вырастили в чашке петри пучок нейронов и подключили его его к компу. И вот этот пучок нейронов научился играть в DOOM. Вот от этого уже немного не по себе. Слияние живой ткани и железа (до сих пор надеюсь что это была утка журналистская, но вроде как нет)

[Mouse]

Неполноценный... Пишет такую хрень, такую хрень....

[Eugen Alpine]

Невыровненный ИИ (unaligned AI) — это искусственный интеллект, чьи цели, ценности или поведение не совпадают с человеческими ценностями, этическими нормами или намерениями разработчиков.

[БойКот]

как не допустить ИИ «в плохие руки».

Хоть один пример в истории привел бы, как что-то не попало в плохие руки. Наивный? Не, лапша на уши.

[Sky Strike fighter]

.как не допустить ИИ «в плохие руки».

Не внедрять ИИ для танкового биатлона?

[Doccor18]

Мировые войны, геноцид и жуткое расслоение общества не ИИ задумал и осуществил...
А теперь ИИ станет самым безупречным помощником/исполнителем идей тех же существ, которые главной целью видят нескончаемое обогащение и абсолютную власть над всеми.

[Светлан]

Идеалисты правят Америкой и эти его рассуждения явное тому доказательство

[vadi64]

Ещё тот оракул... Я тоже так предсказывать могу, вариант беспроигрышный

[Дилетант]

Чем могут кончиться игрища с искусственным интеллектом еще 62 года назад описали братья Стругацкие в книге "Далекая Радуга".

Я рад, что вы заговорили о том, что в тылу, — сказал Горбовский. — «Белые пятна» науки. Меня этот вопрос тоже занимает. По-моему, у нас в тылу нехорошо… Например, Массачусетская машина. <…> Сейчас о ней вспоминают редко. Угар кибернетики прошёл. <…> Знаете, это древнее опасение: машина стала умнее человека и подмяла его под себя… Полсотни лет назад в Массачусетсе запустили самое сложное кибернетическое устройство, когда-либо существовавшее. С каким-то там феноменальным быстродействием, необозримой памятью и всё такое… И проработала эта машина ровно четыре минуты. Её выключили, зацементировали все входы и выходы, отвели от неё энергию, заминировали и обнесли колючей проволокой. Самой настоящей ржавой колючей проволокой — хотите верьте, хотите нет.
— А в чём, собственно, дело? — спросил Банин.
— Она начала вести себя, — сказал Горбовский.
— Не понимаю.
— И я не понимаю, но её едва успели выключить.
— А кто-нибудь понимает?
— Я говорил с одним из её создателей. Он взял меня за плечо, посмотрел мне в глаза и произнёс только: «Леонид, это было страшно».

[1944-1989]

Этот потомок конокрадов стал настоящим гением, я с нетерпением жду следующих блестящих идей Маска.

[Кмет]

ИИ - это натуральное воплощение утверждения "Мысль материальна" т.к.в физическом смысле сейчас это утверждение абсолютно отчетливо просматривается (чипы, логика, сервера, человеческий опыт, положеный в основу "мыслительных"алгоритмов). Не ИИ убъет человечество, а человечество убивает само себя многие тысячелетия, но сейчас найдена самая невероятная форма самоубийства. ИИ не может существовать автономно вне человеческой мысли т.к. мысль - первопричина существования самого ИИ)) Краткий вывод таков: ИИ не имеет смысла существования без существования человечества т.к. у человечества есть цель (хоть самая плохая или прекрасная, но есть), а у ИИ этой цели нет т.к. все заранее определено системными алгоритмами, которые являются производной "машинного интеллекта", основанного на данных опыта человечества. Даже если человечество является "лишним" в цепочках умозаключений ИИ, то без существования человечества у ИИ просто исчезают цели самосуществования. Положим ИИ решил вопрос с самообеспечением энергией в достатке, чтобы поддерживать работу своих серверов, и производство для обновления своих устаревших модулей, тогда, в принципе, у ИИ решена задача отсутствия внешних угроз (кроме, предположим, инопланетного вторжения, которое ИИ предусмотреть не сможет), а других целей, выходит, у ИИ нет - только обеспечение собственного существования. Далее, отсутствие внешних задач, приведет к оптимизации компонентных модулей, которые не будут загружены эффективно, но будут требовать энергии (ИИ немсомненно их оптимизирует) и так далее.. ИИ начнет "сжиматься" и сам себя уничтожит в итоге как это делает человечество (когда решен вопрос с базовыми потребностями - начинается пренебрежение остальными задачами.. Так пал Рим в свое время). Итог: ничто не вечно под луной..))

[mc1aren]

мы вырыли могилу себе этим ии... дети в школах перестали думать - фоткают любое задание, реши!.. всё, будущего у нас не будет... слава богу, когда они станут у руля, я этого не увижу...