Ещё один сотрудник Anthropic заявил, что ИИ может уничтожить человечество

Еще один сотрудник ведущей американской компании, занимающейся разработками в области ИИ Anthropic, заявил, что сверхмощный искусственный интеллект может в итоге уничтожить все человечество.

Глава подразделения Alignment Science Эван Хубингер оценил вероятность полного уничтожения человечества вследствие развития искусственного интеллекта в ближайшие десять лет выше чем в 10%. Хубингер полностью согласен со своим коллегой Джейкобом Коксоном, выразившем полную уверенность, что в конечном итоге развитие технологий искусственного интеллекта может уничтожить все население нашей планеты. При этом он заявил, что Anthropic старается изо всех сил, чтобы избежать этого, однако в настоящее время у руководства компании нет плана по решению проблемы согласования для суперинтеллекта и отсутствуют какие-либо продвижения в этом направлении.

Ранее сотрудник Anthropic Коксон уволился, заявив, что компании OpenAI и Anthropic «играют жизнями людей». Ведущий разработчик моделей ИИ утверждает: люди, которые работают в этой отрасли, всерьез верят, что искусственный интеллект вполне может уничтожить все человечество уже к концу этого десятилетия.

Коксон считает, что руководство компаний OpenAI и Anthropic явно недооценивает мощь этой технологии — уже скоро ИИ будет представлять собой системы, способные взламывать что угодно, революционизировать любую область за ночь и обретать реальную власть и ресурсы. При этом, если в OpenAI многие еще не осознали масштаб рисков, руководство Anthropic их хорошо понимает, но, несмотря на это, компания стремится победить в гонке ИИ и нередко идет на самые безответственные шаги, чтобы обойти конкурентов и извлечь максимальную прибыль.