Что будет, когда ИИ сможет все, — сценарии от философа из Оксфорда
В романе австралийского писателя-фантаста Грега Игана «Город перестановок» (Permutation City) персонаж по имени Пир, достигший бессмертия в виртуальной реальности, которую он полностью контролирует, понимает, что ему очень скучно жить. Поэтому он меняет себя таким образом, чтобы увлекаться новыми вещами. В одну минуту Пир совершает открытия в области высшей математики; а уже через мгновение он пишет оперу. «Однажды он даже заинтересовался Элизиумом [загробной жизнью]. Никогда больше. Теперь он предпочитал размышлять о ножках стола». У непостоянства Пира есть более глубокий смысл. Когда новые технологии разрешат все проблемы, стоящие перед человечеством, что же люди будут делать?
Это один из вопросов, который философ из Оксфордского университета Ник Бостром рассматривает в своей новой книге. В своем предыдущем произведении он писал, что человечество с вероятностью один к шести может быть уничтожено в ближайшие 100 лет, возможно, из-за развития опасных для него видов искусственного интеллекта (ИИ). В недавней книге Deep Utopia (с англ. — «Глубокая утопия») Бостром рассматривает совершенно иной сценарий. Что произойдет с человечеством, если ИИ будет успешно развиваться?