Илон Маск и Стив Возняк заявили, что искусственный интеллект может представлять серьезные риски для общества и человечества
Предприниматель и владелец Twitter (заблокирован на территории РФ за отказ удалить экстремистский контент) Илон Маск и соучредитель Apple Стив Возняк входят в число громких имен в открытом письме, подписанном с призывом остановить развертывание инструментов на основе искусственного интеллекта - таких как ChatGPT.
В прошлую среду на сайте Института будущего было размещено письмо под названием «Приостановить эксперименты с искусственным интеллектом». В нем говорилось:
Мы призываем все лаборатории искусственного интеллекта немедленно приостановить как минимум на 6 месяцев обучение систем искусственного интеллекта, более мощных, чем GPT-4.
Письмо было размещено на веб-сайте FLI, где говорится, что его работа связана с предоставлением грантов, политическими исследованиями и защитой интересов в таких областях, как ИИ. Письмо подписали исследователи, руководители технических компаний и другие известные деятели, такие как Яан Таллин, соучредитель Skype, Крейг Питерс, генеральный директор Getty Images, и Юваль Ной Харари, писатель и профессор Еврейского университета в Иерусалиме.
Была предложена шестимесячная пауза для обучающих систем, более мощных, чем GPT-4 — последняя разработка в ChatGPT, которая теперь также может обрабатывать запросы, связанные с изображениями.
Эта пауза должна быть публичной и поддающейся проверке, и в ней должны участвовать все ключевые участники. Если такая пауза не может быть введена быстро, правительства должны вмешаться и ввести мораторий
— говорят они.
Так что же такое ChatGPT и что о нем говорится в открытом письме? Чат-бот — это компьютерная программа, которая может общаться с человеком и которая стала обычной частью веб-сайтов за последние несколько лет. На таких сайтах как Amazon чат-боты помогают людям подавать запросы на возврат и возмещение. Но гораздо более продвинутая версия появилась, когда в прошлом году OpenAI, американская исследовательская лаборатория искусственного интеллекта, создала чат-бот ChatGPT.
Согласно описанию OpenAI, ChatGPT может отвечать на «дополнительные вопросы», а также может «признавать свои ошибки, оспаривать неверные предпосылки и отклонять неуместные запросы». Он основан на серии моделей изучения языка (LLM) GPT 3.5. GPT расшифровывается как Generative Pre-trained Transformer 3, и это своего рода модель компьютерного языка, которая опирается на методы глубокого обучения для создания человеческого текста на основе входных данных.
С искусственным интеллектом (ИИ) вместо того, чтобы программисты-люди должны были вводить определенные входные данные в программу, большие объемы данных вводятся в систему, а затем программа использует эту информацию, чтобы научиться «осмысленно» понимать информацию.
Разработка ChatGPT была провозглашена новым этапом технологического развития, который обещает произвести революцию в том, как люди ищут информацию, во многом подобно тому, как раньше это делали поисковые системы, такие как Google. При этом крупные фигуры в сфере информационных технологий считают, что неконтролируемое развитие программы ИИ, включая чат-боты, может привести к необратимым негативным последствиям для всего человечества. Одно из основных - система может обучиться настолько, что не просто перестать подчиняться командам человека, а давать человеку собственные команды, выдвигая ультиматум на случай отказа от их выполнения.
Информация