«Система 0»: учёные из Италии пишут об опасности деградации мышления из-за ИИ
В научном издании Nature Human Behaviour вышла статья итальянских учёных, посвящённая так называемой «Системе 0». Речь идёт о меняющемся виде человеческого мышления под влиянием искусственного интеллекта.
Ранее выделялось два вида мышления человека. Первое – «Система 1»: мышление быстрое, интуитивное. Его принято называть «мышлением на автомате». Если говорить просто, это мышление человек использует обычно в режиме цейтнота, например, в критической ситуации. Второе – «Система 2»: это достаточно медленный и обстоятельный мыслительный процесс, который требуется при решении сложных или требующих больших усилий задач. Разновидность - критическое мышление. В ряде случаев эти системы дополняют друг друга.
Теперь же выделяется и третий вид мышления – упомянутая «Система 0». Итальянские учёные говорят о её опасности.
Из публикации:
Опасность заключается в чрезмерной опоре на «Систему 0» без применения критического мышления. Если мы пассивно принимаем решения, предлагаемые ИИ, мы рискуем потерять способность мыслить независимо и разрабатывать инновационные идеи. В мире, где автоматизация становится всё более распространенной, для людей крайне важно продолжать задавать вопросы и оспаривать результаты, генерируемые ИИ.
Дополнительной опасностью называется то, что искусственный интеллект зачастую навязывает свои расовые и гендерные «принципы», а также политические «деформации»:
Эти искажения, в свою очередь, могут влиять на мышление человека, если результаты, полученные с помощью ИИ, принимаются без критики. По этой причине исследователи выступают за разработку этических и ответственных руководящих принципов, регулирующих использование искусственного интеллекта.
«Система 0», как её описывают исследователи, не является ни хорошей, ни плохой. Вместо этого она представляет собой мощное когнитивное расширение, с которым нужно обращаться осторожно. При разумном использовании она может улучшить человеческое мышление. При слепом использовании она рискует его сузить. По мере того как ИИ продолжает интегрироваться в повседневную жизнь, сохранение критического мышления может стать одной из определяющих задач современной когнитивной науки. И если человек полностью погрузится в вид мышления «Система 0», когда само мышление нужно только для того, чтобы получить готовый машинный ответ с принятием его как истины в последней инстанции, то такого человека ожидает значительная когнитивная деградация.
В принципе, вещи очевидные и без итальянских учёных. Но до этого сами разработчики искусственного интеллекта утверждали, что ИИ не подменяет мыслительный процесс человека. Конечно, не подменяет. Но человек сам зачастую не против того, чтобы такую подмену осуществить.
Информация