РБК Pro —  
информационный сервис для предпринимателей и управленцев. Первый месяц — бесплатно

Ник Бостром — РБК Pro: «Сверхразум машин изменит мир за считаные годы»

Менеджмент Статьи РБК
Оксфордский философ рассказал, когда и за что роботы получат права, как ИИ может уничтожить человечество, сам того не желая, и почему сейчас самое время думать о выживании нашего вида
Ник Бостром
Ник Бостром (Фото: fhi.ox.ac.uk )

Кто такой Ник Бостром

Профессор Оксфордского университета, основатель и директор Института будущего, занимающегося влиянием технологий на общество. В 2014 году опубликовал книгу «Сверхразум: пути, опасности, стратегии», ставшую бестселлером New York Times. Книгу рекомендовали к прочтению Илон Маск и Билл Гейтс. Основная тема бестселлера — риски, связанные с появлением искусственного интеллекта, который через некоторое время превзойдет человека по своим мыслительным способностям. Книга открывается яркой метафорой о воробьях, пригласивших сову помочь им построить гнездо и нянчить их малышей, — по мнению философа, так люди, убежденные, что ИИ решит все их проблемы, могут подвергнуть себя серьезной опасности. Ник Бостром известен и своими работами, посвященными «экзистенциальным рискам» — катастрофам, способным стереть человечество с лица планеты. В 2019 году по приглашению Дмитрия Медведева, в то время премьер-министра РФ, Бостром выступил на пленарной сессии форума «Открытые инновации».

«Сверхразум машин станет телескопом в будущее»

— Способности человеческого мозга крайне ограниченны по сравнению с потенциальными возможностями ИИ. Даже если у нас много хороших ученых, наша наука все равно развивается очень медленно. Правильно ли я понимаю, что машинный сверхразум полностью изменит процесс получения знаний?

— Мы уже используем ИИ как научный инструмент, хотя пока очень слабо — можно вспомнить, например, AlphaFold (программа, предсказывающая структуру белка; разработана британским стартапом DeepMind, который принадлежит Google. — РБК). Много пользы в различных областях науки принесло компьютерное распознавание изображений. И все-таки ИИ пока недостает целого набора человеческих качеств, которые нужны ученому. Если бы ИИ всем этим обладал, мы все давно остались бы безработными — зачем тратиться на человека, если любую работу может делать программа? Но пройдет еще некоторое время, прежде чем искусственный интеллект превзойдет нас во всем, что мы делаем, — то есть достигнет стадии сверхразума.