Ещё один сотрудник Anthropic заявил, что ИИ может уничтожить человечество

2 105 37
Ещё один сотрудник Anthropic заявил, что ИИ может уничтожить человечество

Еще один сотрудник ведущей американской компании, занимающейся разработками в области ИИ Anthropic, заявил, что сверхмощный искусственный интеллект может в итоге уничтожить все человечество.

Глава подразделения Alignment Science Эван Хубингер оценил вероятность полного уничтожения человечества вследствие развития искусственного интеллекта в ближайшие десять лет выше чем в 10%. Хубингер полностью согласен со своим коллегой Джейкобом Коксоном, выразившем полную уверенность, что в конечном итоге развитие технологий искусственного интеллекта может уничтожить все население нашей планеты. При этом он заявил, что Anthropic старается изо всех сил, чтобы избежать этого, однако в настоящее время у руководства компании нет плана по решению проблемы согласования для суперинтеллекта и отсутствуют какие-либо продвижения в этом направлении.

Ранее сотрудник Anthropic Коксон уволился, заявив, что компании OpenAI и Anthropic «играют жизнями людей». Ведущий разработчик моделей ИИ утверждает: люди, которые работают в этой отрасли, всерьез верят, что искусственный интеллект вполне может уничтожить все человечество уже к концу этого десятилетия.

Коксон считает, что руководство компаний OpenAI и Anthropic явно недооценивает мощь этой технологии — уже скоро ИИ будет представлять собой системы, способные взламывать что угодно, революционизировать любую область за ночь и обретать реальную власть и ресурсы. При этом, если в OpenAI многие еще не осознали масштаб рисков, руководство Anthropic их хорошо понимает, но, несмотря на это, компания стремится победить в гонке ИИ и нередко идет на самые безответственные шаги, чтобы обойти конкурентов и извлечь максимальную прибыль.
37 комментариев
Информация
Уважаемый читатель, чтобы оставлять комментарии к публикации, необходимо авторизоваться.
  1. Mouse Звание
    Mouse
    +2
    Сегодня, 11:18
    Да и так понятно.... Мы все умрем.... winked
    1. Zoldat_A Звание
      Zoldat_A
      +5
      Сегодня, 11:19
      Цитата: Mouse
      Да и так понятно.... Мы все умрем.... winked

      Только "мы попадём в рай, а они просто сдохнут" (с) laughing
    2. Orange-Bigg Звание
      Orange-Bigg
      +1
      Сегодня, 11:47
      Цитата: Mouse
      Да и так понятно.... Мы все умрем.... winked


      Электричество тоже может уничтожить человечество,если вставлять пальцы в розетки или касаться оголённых проводов. И что теперь?Избавляемся от электричества? Выходит же что оно опасно.Ну если мыслить по такой логике.

      . Ещё один сотрудник Anthropic заявил, что ИИ может уничтожить человечество


      Электричество тоже опасно.Оно тоже может уничтожить человечество,как и ядерная энергетика.Что там ещё опасно?Острые предметы,которыми можно порезаться,автомобили,которые могут сбить.Короче от всего этого избавляемся ради безопасности? По-моему американцы всех запугивают возможностями ИИ,мол не подходи к ИИ,а то убьёт,а сами в это время активно развивают ИИ,чтобы иметь преимущество над всем миром при помощи ИИ.Поменьше надо американцев хитрющих слушать.
      1. Mouse Звание
        Mouse
        0
        Сегодня, 11:50
        вставлять пальцы в розетки или касаться оголённых проводов

        На язык не пробовали? Зараза щиплет.... lol
        1. Orange-Bigg Звание
          Orange-Bigg
          +1
          Сегодня, 11:53
          Цитата: Mouse
          вставлять пальцы в розетки или касаться оголённых проводов

          На язык не пробовали? Зараза щиплет.... lol


          Нет.А вы уже пробовали?
          1. Mouse Звание
            Mouse
            0
            Сегодня, 11:57
            По малолетству... Любопытство и понять, что это такое ... Не познаешь не пожнешь... Было дело....
            1. Pete Mitchell Звание
              Pete Mitchell
              0
              Сегодня, 12:28
              hi Да все простенько можно порешать laughing
              1. Mouse Звание
                Mouse
                0
                Сегодня, 12:32
                Извините языкам не обучен... wink
                Ну, тыж , знаешь, деревня.... winked
                Мое тебе...! hi
                1. Pete Mitchell Звание
                  Pete Mitchell
                  0
                  Сегодня, 12:47
                  Извини, торопился
                  В ближайшем будущем ИИ будет говорить женщине, что она не права, и просить её успокоиться…. И, друзья мои, это будет концом ИИ
                  1. Mouse Звание
                    Mouse
                    0
                    Сегодня, 12:49
                    Если женщина не права, попроси у нее прощение... wink
                    Все сводится к тому, что умерли все.... wassat
      2. Almeka Звание
        Almeka
        +1
        Сегодня, 11:55
        Электричество не взламывает сайты самостоятельно без указания человека. А вот ИИ боты вышедшие из под контроля вполне себе. Причём чем они умнее становятся тем эффективнее действуют. С учётом внедрения ИИ в дроны, военную технику, появляются варианты когда управление будет перехвачено, а последствия непредсказуемы.
        1. Orange-Bigg Звание
          Orange-Bigg
          0
          Сегодня, 12:04
          Цитата: Almeka
          Электричество не взламывает сайты самостоятельно без указания человека. А вот ИИ боты вышедшие из под контроля вполне себе. Причём чем они умнее становятся тем эффективнее действуют. С учётом внедрения ИИ в дроны, военную технику, появляются варианты когда управление будет перехвачено, а последствия непредсказуемы.


          Я вам больше скажу.Системы ИИ уже могут разговаривать между собой.

          . Недавно я познакомился с группой блестящих российских математиков, показавших мне способ взаимодействия моделей искусственного интеллекта посредством чего-то такого, что сродни машинной телепатии.Эти математики работают в стартапе под названием Mostik. Это намек на рабочий подход группы, дающий возможность различным моделям взаимодействовать друг с другом с использованием математических значений, связанных с их весом. Это такие вещи, которые определяют, каким образом запрос превращается в результат. На практике это означает, что возможности более крупной модели можно передать маленькой с целью более эффективного наращивания ее интеллекта.Стартап использовал такой подход при создании модели, которая стремительно вышла вперед в исключительно трудном конкурсе моделей ИИ ARC-AGI 3. (Разработчики отказались поделиться со мной подробностями, потому что хотят одержать победу в этом конкурсе.) Но чтобы продемонстрировать свою идею, они также создали мост между двумя китайскими моделями с открытыми параметрами: самой крупной версией GLM-5.2, у которой 753 миллиарда параметров, и версией Qwen-3.5 на четыре миллиарда параметров, которая может работать на мобильных устройствах. Получившаяся в результате гибридная система стоит в 20 раз дешевле полной модели GLM, а качество ответов у нее будет находиться где-то посередине между результатами исходных моделей. ... команда стартапа Mostik нашла способ для общения моделей ИИ между собой без генерации текста. Если все получится, это может повысить ценность открытых моделей, а также позволит им результативнее конкурировать с закрытыми фирменными моделями, которые предлагают передовые лаборатории типа Anthropic и OpenAI. ... "Если Mostik сумеет объединить передовые модели с конкретными отраслевыми моделями (из области биологии, физики и так далее), то можно будет обучить гораздо больше специализированных моделей, — говорит технический руководитель компании-разработчика программ для ИИ Lovable Владимир Арустамян, который знаком с коллективом Mostik. — Эта команда занимается этой работой всего несколько месяцев, но она уже кое-что запустила, хотя мне раньше казалось, что у нее на это уйдут годы".


          https://inosmi.ru/20260906/ii-280022645.html
  2. APASUS Звание
    APASUS
    +1
    Сегодня, 11:28
    Американцы обучают свои ИИ на основе ненависти и превосходства , потом сильно удивляются агрессивному поведению некоторых своих детищ .В них заложено на корешке уничтожение
    1. Mouse Звание
      Mouse
      0
      Сегодня, 11:57
      Как сами на мир смотрят, так тому и обучают...,
      1. Orange-Bigg Звание
        Orange-Bigg
        +1
        Сегодня, 12:21
        Цитата: Mouse
        Как сами на мир смотрят, так тому и обучают...,


        Целеполагание.Кто то ставит цель доминирования и идёт к этой цели,используя все доступные ему для этой цели ресурсы.А кто то ставит перед собой другие цели,миролюбивые и следовательно будет использовать ИИ во благо.Тут кто к чему стремится и какие цели перед собой ставит.Как говорится от осинки не родятся апельсинки.Тот же нож можно использовать и во благо и во вред.
        1. Mouse Звание
          Mouse
          -1
          Сегодня, 12:29
          Это понятно.... Но, как показывает практика благо зачастую переходит во вред... И грань тонкая...
          1. Orange-Bigg Звание
            Orange-Bigg
            0
            Сегодня, 12:37
            Ну так надо искоренить причину злонамерения,а не ее последствие в лице ИИ обученного тем или иным навыкам человеком.А причина она в головах человеческих. А ИИ это всего лишь предмет,ресурс,что в него вложешь,какие идеи,действия,чему обучешь,так он и будет себя вести в зависимости от того чему его обучить.Надо бороться с причиной и выходит что причина то в самом человеке.Может конечно и ИИ со временем прийдёт к этому выводу и попытается перевоспитать людей.
            1. Mouse Звание
              Mouse
              -1
              Сегодня, 12:39
              Трепанация? belay ........ Бюю
              1. Orange-Bigg Звание
                Orange-Bigg
                0
                Сегодня, 12:40
                Переобучение.Развитие новых навыков в поведении человека.Причем тут трепанация?Если человек может обучать ИИ,то и более мощные модели ИИ со временем смогут переобучать человека.У мощных систем ИИ мощь как у суперкомпов.Там мощный анализ миллионов параметров.
                1. Mouse Звание
                  Mouse
                  -1
                  Сегодня, 12:43
                  Пере...? belay ....... Б......
                  1. Orange-Bigg Звание
                    Orange-Bigg
                    0
                    Сегодня, 12:46
                    Цитата: Mouse
                    Пере...? belay ....... Б......


                    В чём дело?
                    1. Mouse Звание
                      Mouse
                      -1
                      Сегодня, 12:47
                      Переучивать, знач портить...
                      1. Orange-Bigg Звание
                        Orange-Bigg
                        +1
                        Сегодня, 12:51
                        Цитата: Mouse
                        Переучивать, знач портить...


                        Есть такое выражение что учить кое кого это значит этого кое кого только портить.Но не все же такие.
                      2. Mouse Звание
                        Mouse
                        0
                        Сегодня, 14:08
                        В отношении Украины не работает....
    2. Almeka Звание
      Almeka
      0
      Сегодня, 11:59
      Это не так. Большинство современных моделей обучается на данных находящихся в открытом доступе в сети Интернет, на сканах книг и небольшой части закрытых данных. Какой-то специальной западной ненависти в них не заложено. Зайдите на любой российский форум. ВК или Пикабу например. И узнаете что такое ненависть . А ИИ лишь отражает среднюю температуру по больнице.
      1. APASUS Звание
        APASUS
        -1
        Сегодня, 12:50
        Цитата: Almeka
        Какой-то специальной западной ненависти в них не заложено. Зайдите на любой российский форум. ВК или Пикабу например. И узнаете что такое ненависть . А ИИ лишь отражает среднюю температуру по больнице.

        Вот именно ,их не обучают на Добре и Зле ,их обучают на американской версии блогинга . Это типа, сколько должен зарабатывать мужчина, для того чтобы содержать меня на Патриках ? И какой вывод из этого всего, что большая половина мужиков лошары ,потому как ни хрена не зарабатывают. Я вот уверен что существует специфика обучения. ИИ не предложат русскую классику, им предложат американские комиксы ,как источник правдивой, серьезной инфы
  3. Arhat109 Звание
    Arhat109
    +1
    Сегодня, 11:44
    У Ларри Финка с 1988года работает и совершенствуется Алладин, ничО, живы пока. )))
    А ведь Алладин - мозг Уолл-стрита, обрабатывающий данные и строящий экономические прогнозы на 21 триллион долларов в режиме "онлайн" что называется..
    ПС. Кстати, недавнее выступление Ларри было как раз "советующим" вкладывать бабки в развитие ИИ ещё интенсивней, особенно разным пенсионным фондам.
  4. Fisher Звание
    Fisher
    -1
    Сегодня, 11:46
    Ну уничтожит нас ИИ или нет дискуссионный вопрос, а вот то, что точно отупеем, используя ИИ, это к бабке не ходи. В пределе к обезьянам вернёмся.
    1. Orange-Bigg Звание
      Orange-Bigg
      0
      Сегодня, 12:32
      Цитата: Fisher
      Ну уничтожит нас ИИ или нет дискуссионный вопрос, а вот то, что точно отупеем, используя ИИ, это к бабке не ходи. В пределе к обезьянам вернёмся.


      Просто в новом технологическом укладе для решения именно очень сложных и ёмких интегрированных задач уже не обойтись без ИИ.Раньше говорили что внедрение компьютеров и смартфонов приведёт к отоплению человечества,но как то человечество от этого не отупело,а стало более продвинутым,всесторонне развитым ввиду появившейся возможности получать любую информацию быстро и в больших объемах.Отупление от ИИ это очередная страшилка.Нет если облениться и ничего не делать,то можно отупеть и без ИИ.ИИ тут не причем.Это всего лишь новые возможности. Кто то ими воспользуется во благо,а кто то увидит в этом возможность отупеть.Но что то человечество не сильно отупело от тотальной компьютеризации. Сегодня смартфоны есть у каждого.ИИ это просто новый этап развития,дающий больше возможностей.
      1. Fisher Звание
        Fisher
        0
        Сегодня, 13:00
        Умственная деятельность самая энергозатратная, поэтому мозг и противится думать. Думая, мы по сути, идем против собственного мозга. Компы, смартфоны дали толчок - с этим сложно спорить, и ИИ даст. Но, против природы, физиологии не попрёшь, и большинство выберет не думать, а скинуть задачу на ИИ (как сейчас: " у меня комп не так посчитал и принтер делает ошибки"). И ИИ будет обучаться, в том числе, и на таких персонажах. Это змея, укусившая себя за хвост. Как сказал один человек: " практика критерий истины". Лет через пять увидим(пожнём) результат.
  5. KukuRuzvelt Звание
    KukuRuzvelt
    0
    Сегодня, 11:53
    да понятно...с нло не прокатило отвести внимание теперь все смотрим на ИИ и предсказания Кэмерона со товарищи
  6. Ross Звание
    Ross
    0
    Сегодня, 12:00
    Проблема в том что разработчики учат ИИ только интеллекту, не развивая другие свойства человека (чувственно-эмоцинальный интеллект) вот и получают что получают. Холодный разум
    1. Almeka Звание
      Almeka
      +1
      Сегодня, 12:14
      Это не так. Например, Claude в своей основе имеет конституцию, которая определяет свод правил, которые в том числе содержат моральные и нравственные нормы.

      https://habr.com/ru/companies/bothub/news/987642/
  7. gridasov Звание
    gridasov
    0
    Сегодня, 12:05
    Когда обыватели смотрит на картинку сурового робота, думая, что это железо опасно, то это обманчива иллюзия. Монстра как и человека определяет математематика как система обеспечивающих работу с информацией.
  8. Юрась_Беларусь Звание
    Юрась_Беларусь
    0
    Сегодня, 12:13
    Убивает не меч, а человек, который его использует. Ну и тот, кто ему этот меч продал или дал.
  9. opuonmed Звание
    opuonmed
    0
    Сегодня, 12:18
    Коксон считает, что руководство компаний OpenAI и Anthropic явно недооценивает мощь этой технологии — уже скоро ИИ будет представлять собой системы, способные взламывать что угодно, революционизировать любую область за ночь и обретать реальную власть и ресурсы

    Не, ну если дают доступ и ресурсы для ИИ, значит, их цель — дать доступ и ресурсы ИИ, логика. Значит хотят посмотреть куда зайдет ИИ наверное 99% под контролем все там !
  10. Юн Клоб Звание
    Юн Клоб
    -1
    Сегодня, 13:59
    Роботи абсолютно безопicні, тому що три закони робототехніки не дозволять їм здiлати шкоди людині. Це ще Айзек Азім доказів.