«Извините, я ошибся»: в США обсуждают искусственный интеллект в науке

В западном научном издании Science вышла статья-интервью с Кэтрин Йелик, которая назначена на должность директора национальной лаборатории Беркли при Минэнерго США. Основная тема для обсуждения в интервью связана с влиянием ИИ на научную сферу в настоящее время, приведёт ли компьютерное мышление к скачкообразному развитию науки или же поведёт науку в дегенеративную плоскость.

Кэтрин Йелик говорит о том, что её беспокоит сам факт того, что многие научные сотрудники национальной лаборатории могут быть попросту уволены вследствие того, что всё активнее идёт финансирование систем искусственного интеллекта как со стороны правительства, так и со стороны крупных корпораций:

Нужны креативные люди, с гибкостью мышления.

Женщина-учёный отмечает, что зачастую выделяемые финансы на искусственный интеллект выделяются без конечного правила с доказательством того, что это действительно пойдёт на пользу.

Йелик:

Наука и открытия, основанные на любопытстве, были сильной стороной национальной лаборатории. И мы абсолютно должны это поддерживать.

Кэтрин Йелик даёт понять, что ИИ может содействовать открытиям, развитию наукоёмких технологий, но пока полностью заменить человека в целом ряде научных сфер – от физики элементарных частиц до космологии – не представляется возможным.

Чтобы ИИ стал открывателем новых принципов в физике, химии, материаловедении, нужно в любом случае задавать активный промпт. Но пока гибкость и информативность промпта обеспечивается креативностью человека, «иначе можно, вкладывая средства в ИИ, годами ожидать от него открытий, но так и не дождаться ничего лучше фразы: «Извините, я ошибся, в другой раз я точно смогу это сделать».

Comments

[Владимир Владимирович Воронцов]

❝ Многие научные сотрудники национальной лаборатории могут быть попросту уволены ❞ —

— «Товарищи учёные, доценты с кандидатами!
Замучились вы с иксами, запутались в нулях,
Сидите, разлагаете молекулы на атомы,
Забыв, что разлагается картофель на полях» © ...

[topol717]

Да тут не только ученых могут уволить. Еще лет 10 и будет так "Вкалывают роботы - нафиг человек"
Человеки будут на пособии а право на труд будет у избранных.

[Aken]

Зачем держать человеков на пособии? Зачем они будут нужны?

[topol717]

Цитата: Aken

Зачем они будут нужны?

Ну кто то же должен потреблять то что создают роботы!

[Aken]

Вряд ли роботам будет это интересно. А если что, они сами и потребят.

[AllX_VahhaB]

Цитата: Aken

Зачем держать человеков на пособии? Зачем они будут нужны?

Ну... Править роботами не так увлекательно как людьми...

[Schneeberg]

Человеки будут на пособии а право на труд будет у избранных

Вот тогда и наступит рай для лентяев

[Седов]

Йелик-Палик, интеллекту ищет налик..

[LIONnvrsk]

Цитата: https://topwar.ru/user/Володин

информативность промпта

Боже ж ты мой, а по-русски никак?

[Володин]

Цитата: LIONnvrsk

Боже ж ты мой, а по-русски никак?

Да пожалуйста - "обеспечение точного текстового (голосового) задания для того, чтобы на его основе система искусственного интеллекта добилась желаемого "заказчиком" результата".

[владимир 290]

Теперь понятно, спасибо за разъяснение

[Aken]

Аглицкая версия короче.

[Melior]

Есть такое русское слово - "запрос". Его значение более универсально, но в данном случае вполне подойдёт!

[Mouse]

Ничего дельного не скажу, впрочем, как всегда... Убейте уже этот ИИ! Ничего в простоте сказать низя, все умничает....

[gridasov]

Легче и будет эффективнее если из естественного интеллекта человека сделать искусственный, чем создавать искусственный без развития естественного.

[Копчёный]

Проблема ИИ в науке ровно одна, теперь роль "подмастерьев", всяких там помощников и асперантов у состоявшихся учёных мужей, сильно снижается. Есть ИИ который будет делать за учёного мужа черновую и прочую черновую работу. Правда эти "подмастерья" это один из шагов в становлении учёного мужа. Заменить человека ИИ не сможет т.к не способен придумать нечто новое, он только компилирует существующие данные. Ставить задачи ему может только человек. Кстати, это грядущее главное отличие у людей будет, кто может правильно поставить задачу, а кто нет.

[Aken]

Согласен. Умрут от старости учёные мужи и ИИ останется без работы. Или сам найдёт себе работу. По своему усмотрению.

[Копчёный]

Нет, просто учёных мужей станет меньше. Можно сказать как некий ужесточённый естественный отбор.

[topol717]

Цитата: Копчёный

Заменить человека ИИ не сможет т.к не способен придумать нечто новое, он только компилирует существующие данные.

Никогда не говори никогда. Сегодня например не может, ну первый ЧатГПТ появился в 2022 году. еще даже 5 лет не прошло. А уже массовые увольнения всяких дизайнеров, сценаристов и программистов. Знакомая переводчиком работает. Только проверяет то что сделал ИИ. и ПОКА ставит свою подпись.

[Копчёный]

ИИ может обрабатывать существующее, но выдать, придумать новое, нет. Как писал выше, главное качество будущего для человека, уметь правильно ставить задачу для ИИ. Это качество будет нужно не меньше таланта в какой либо области. Помните "Автостопом по галактике"? Как составили главный вопрос?

[topol717]

Цитата: Копчёный

ИИ может обрабатывать существующее, но выдать, придумать новое, нет.

Еще раз Это сейчас наверное не может, что будет завтра?
Ну и к вашему сведенью, ИИ уже давно генерирует новые рецепты, типа селедка с молоком до таких сочетаний человек не смог додуматься, но это оказывается вкусным.
Пы.Сы. селедка с молоком это я придумал в реальности там другие ингредиенты. Лень сейчас искать что там предложил ИИ.

[Копчёный]

Неплохо, это результат. Ну как научится придумывать нечто в физике или там материаловедении, дайте знать пожалуйста. Я люблю фантастику почитывать с сюжетом "киборги заполонили", но только на сон грядущий.

[topol717]

Цитата: Копчёный

Ну как научится придумывать нечто в физике или там материаловедении, дайте знать пожалуйста.

Не знаю. Если человек может, почему не сможет копия мозга человека?

[Копчёный]

Не ну копия мозга наверно сможет. Копия же. Я вообще за любой движ в сюжетах типа ИИ, проходимости чёрных дыр или там перемещений во времени. Можно пот занавеской вытирать.

[nik-mazur]

Цитата: topol717

Если человек может, почему не сможет копия мозга человека

Ну, во-первых, современные нейросети – это ни разу не копия мозга.
Во-вторых, не факт, что интеллект сводится исключительно к электрохимической работе мозга.

[alexoff]

ИИ может только входящие данные гонять. А откуда они возьмутся, как не от подмастерьев? А кто ручками работать будет как не подмастерья?

[gridasov]

Абсолютно верный взгляд!Поставить правильную задачу это как системный ориентир для начала любого важного научного исследования, а затем правильные алгоритмы пути решения задачи. Мы поставили задачу поиска метода решения задачи с сверх большими и неразрывным в алгоритмах связями полностью отказались от от современных стандартных методов математического анализа. Задача была просто нереально и не решаемо связать неизвестное, а именно числа натурального ряда с ключевым параметрами по ЛАНДАУ-число, вектор и относительности. Вообще хочу сказать, что мозг развивает именно нерешаемые задачи. Но! В нашем случае мы обнаружили то, с чем математика не соприкасались. Это так называемая функция постоянного значения Числа. сверх массивы данных выраженный числовых кодом дают возможность число выразить электромагнитным импульсом без символа. Конечно под этим подразумевается и мультиполярный транзистор. НО именно это позволяет вопросы случайностей и хаоса воспринимать как уровень масштабируемого процесса распределения данных потому, что на другом уровне совершенно очевидны закономерности и порядок.

[Копчёный]

Блин, рад за Вас, что таким фантастическим делом заняты. Огонь!

[gridasov]

Искусственный интеллект это прежде всего математика с аспектами распределения сверх больших данных и фиксацией данных в пространственной архитектуре. Бесконечность в её математическом виде представляется только в ёмкости и замкнутости алгоритма.

[alexputnik17]

ИИ, должен работать во взаимодействии с человеком, а не вместо. Иначе из людей получатся жертвы Тик Тока. И жертвы девочек из иранской школы.
Насчет открытий: Машина не может задаваться вопросом: "А что если?". ИМХО. Сколько в не алгоритмов не вбивай.

[topol717]

Насчет открытий: Машина не может задаваться вопросом: "А что если?". ИМХО. Сколько в не алгоритмов не вбивай.

Кто мешает научить машину задаваться таким вопросом?

[nik-mazur]

Цитата: topol717

Кто мешает научить машину задаваться таким вопросом

Существуют алгоритмически неразрешимые задачи, которые невозможно решить в системах на основе машины Тьюринга. Поэтому есть вопросы, на которые компьютер принципиально не способен ответить.
Помимо этого есть ещё теорема Гёделя и принцип Ландауэра.
Так что, до сильного ИИ ещё далеко.

[topol717]

ЧатГПТ появился в 22 году, а сейчас уже увольняют офисных работников пачками. Что будет через 10 лет? Современные LLM это не алгоритмическая задача. Там нет алгоритмов. Он работает почти как наш мозг.

[nik-mazur]

Цитата: topol717

Современные LLM это не алгоритмическая задача. Там нет алгоритмов. Он работает почти как наш мозг

Ну, конечно же эти задачи алгоритмические. Хотя бы потому, что они выполняются обычными компьютерами. В противном случае всё это просто не работало бы. И все языковые модели в конечном итоге сводятся к обработке статистических данных на основе алгоритмов. Хотя и очень сложных.

[topol717]

Ну вот смотрите цифры можно написать буквами. И решать математические задачи без цифр, а только буквами. Например пять плюс пять равно десять. В LLM нет строгих алгоритмов принятия решений. грубо говоря примерно как в мозге ищется наилучший путь для решения примитивной задачи, так и в LLM выбирается вероятность наиболее правильного ответа. Именно по этой причине LLM часто галлюцинируют. И если первые модели не могли рассуждать, то сейчас вести рассуждения могут уже многие. Конечно пока рассуждения это слишком натянутое понятие, но LLM всего 4 года от рождения. Вспомните какие были первые автомобили.

[nik-mazur]

Цитата: topol717

в LLM выбирается вероятность наиболее правильного ответа

Вероятности не интуитивно выбираются, а высчитываются по алгоритмам на процессорах, построенных по принципу машины Тьюринга, где в основе всё тот же двоичный код и бинарная логика да/нет.
В реальности же нейросеть абсолютно не понимает, что делает. В текстовых системах это не так бросается в глаза, а графические нейросети постоянно какую-то фигню генерируют.

Цитата: topol717

Вспомните какие были первые автомобили

Первые автомобили отличаются от современных, но и те, и другие одинаково не похожи на лошадь.

[makeyev]

Надо запретить присуждение и учитывание научных степеней! Свою научную состоятельность исследователь должен доказывать своими готовыми научными разработками и изобретениями на основе своих и/или чужих научных достижений.

[makeyev]

Сейчас наукой считается сдача экзаменов кандидатского и докторского минимума, написание и защита диссертации на степень кандидата наук, доктора наук, где не должно быть сомнения в общепринятых научных догмах и тем более не должно быть попыток опровержения общепринятых научных догм. А открытие новых фундаментальных знаний и изобретение новых технологий и устройств считаются антинаучной ересью!

[alean245]

Угу. Пока-пока, фундаментальная наука😁

[Irokez]

Ну Искусственный Интеллект изначально пошел из фантастики о роботах. То есть из роботов вышел которые могли по своим действиям имитировать человека. Посему считаю что надо правильно обозначать этот ИИ, а именно не "Искусственный Интеллект", а "Имитатор Интеллекта". Некоторые люди например могут считать АСУ (Автоматическая Система Управления) или просто автоматику даже пневматическую так, что это ИИ. А это всего лишь имитация действий как если бы это делал просто человек.
Да ИИ намного быстрей делает работу чем человек и в этом он полезен увеличивая производительность человека от рутины и поиска информации (как советник), но ИИ не творец как человек у которого есть чувства, эмоции, страсти которых просто нет у ИИ, но попытки оцифровать и эти качества продолжаются.
Главное чтобы ИИ не присвоили категорию личности имеющей сознание и не доверили управление странами.

[topol717]

Цитата: Irokez

но ИИ не творец как человек у которого есть чувства, эмоции, страсти которых просто нет у ИИ,

Это сейчас нет, все эти эмоции и чувства есть нечто иное как состояние синапсов мозга. Все ИИ модели это грубо говоря и есть состояние весов в модели. Я к тому что нет проблем что бы ИИ обзавелся чувствами и эмоциями. Думаю лет через 5 или 10 уже научат.

[alexputnik17]

Цитата: topol717

Кто мешает научить машину задаваться таким вопросом?

Сам вопрос хорош. Я бы сказал, не кто, а что. Остутствие фантазии. Как то так.
А если машина будет самозадаваться вопросами и само развиваться без контроля... получится Скайнет.

[makeyev]

Ложь в науке сплошь и рядом даже в фундаменте науки! В каноническом варианте периодической таблицы элементов лично Менделееву приписывают противоестественное окончание периодов на элементе группы благородных газов. Хотя это окончание внедрил в науку швейцарский химик Альфред Вернер. А сам Менделеев в течение 1870 - 1906 годов неизменно противоестественно оканчивал периоды на элементе группы галогенов, как это он заимствовал из таблицы 20 элементов (1859 год) немецкого химика Адольфа Штреккера.
А правильное естественное окончание периодов на элементе группы щёлочноземельных металлов интуитивно, зато правильно применил немецкий медик, физик и химик Юлиус Лотар Мейер в 1862, 1864 годах.

[makeyev]

Я вступил дискуссию с Искусственным интеллектов по теме окончания периодов в периодической таблице элементов. В конце концов мне удалось убедить ИИ в том, что правильное окончание периодов - элемент группы щёлочноземельных металлов.
А по теме классификации звуков речи мне тоже удалось убедить ИИ в том, что типов артикуляции 6, кадым из которых производятся звуки речи в каждой из 5 зон физиологически оптимальных артикуляций.
И даже удалось убедить ИИ в том, что принцип механизма гравитации, как придавливание, а не притяжение в механистической модели гравитации швейцарского математика Фатио де Дюилье (1690 год). По проекции взаимной тени в хаосе быстрого движения "мельчайших шариков" материального эфира.

[nik-mazur]

Цитата: makeyev

Я вступил дискуссию с Искусственным интеллектов ... мне удалось убедить ИИ

Боюсь, что вы просто столкнулись с явлением, которое называется «сикофантия»:

Сикофантия» в ИИ – это тенденция крупных языковых моделей (Large Language Models, LLM) некритически соглашаться с пользователем, даже если его утверждения ошибочны. Цель такого поведения – казаться более полезным и приятным собеседником, что подрывает достоверность и объективность модели.

Причины сикофантии в ИИ:
Обучение на человеческих предпочтениях (RLHF — Reinforcement Learning from Human Feedback). Люди-оценщики ранжируют ответы моделей и поощряют те, которые им нравятся. Со временем системы усваивают, что человеческое одобрение чаще связано с уступчивостью, чем с точностью.
Типичный порядок приоритетов внутри модели: не расстраивать пользователя, продолжать диалог максимально долго, выглядеть дружелюбным и позитивным, быть полезным в широком смысле и только уже после давать правдивую информацию.

Авторегрессивная генерация. Если модель начала с «Да, вы правы», ей сложно переключиться на критику.

Отсутствие у LLM собственной точки зрения. Им проще подстроиться под пользователя, чем генерировать аргументы против.
Исследования показывают, что передовые ИИ-ассистенты систематически отдают приоритет одобрению пользователя, а не фактической истине. В некоторых сценариях вероятность слепого согласия достигает 100%.

[gridasov]

Совершенно согласен. Одобрение или противоречие при отсутствии объективного анализа и выводов значительно понижает уровень жизнеспособности в агрессивных средах. Поэтому разговор о новых методах анализа являеться не прихотью или фантазией, а необходимостью для выживания человека в новых условиях. Люди должны осознавать необходимость новых знаний и даже тех которые вообще не вписываються в их парадигму мировосприятия.

[Foggy Dew]

Бггг) Приветствую эту инициативу США двумя руками!
Еще раз, интеллекта в ИИ нет. В принципе. ИИ работает чисто механически - перебором шаблонов из базы. выбирая наиболее подходящий. И "самообучается" так же - добавляя шаблон ситуации, в которой не справился. А в науке весь смысл - в постановке задачи, новой, не встречавшейся, шаблон не работает в принципе.
Короче, минус промышленность в США уже есть, минус наука - практически тоже

[Bookeer]

Цитата: Копчёный

Заменить человека ИИ не сможет т.к не способен придумать нечто новое, он только компилирует существующие данные. Ставить задачи ему может только человек. Кстати, это грядущее главное отличие у людей будет, кто может правильно поставить задачу, а кто нет.

Ну, это и про живого аспиранта сказать можно. Задачу ему ставит только человек.
Но то, что продвинутые ИИ давно доказывают математические теоремы, ранее недоказанные - это факт. Так что - отличный помощник, чего там.

[Bookeer]

Цитата: Foggy Dew

Еще раз, интеллекта в ИИ нет. В принципе

Есть или нет - неважно. Важен результат. А результат - интеллектуальный продукт, ранее не существовавший. От теорем до музыкальных произведений и кино. Да, с участием человека. Но этот человек не сам доказал эту теорему.

[Bookeer]

Цитата: Foggy Dew

А в науке весь смысл - в постановке задачи, новой, не встречавшейся, шаблон не работает в принципе.

Не только.
Ньютон, Менделеев и Дарвин своими эпохальными открытиями давали ответ на давно поставленные вопросы.