Гаспар Кениг — РБК Pro: «Нейросети лишат нас свободы воли»
О действительно серьезных проблемах, связанных с искусственным интеллектом, почти не упоминают: алгоритмы научились незаметно управлять нашим поведением в интересах разработавших их компаний. Манипулировать нами так, чтобы мы купили определенный товар или поддержали конкретного политика, стало как никогда легко. Это дает IT-компаниям огромную власть, которую они могут использовать для создания «демократической деспотии» — режима, с которым невозможно бороться, поскольку никто не понимает, как именно им управляют и в каких целях.
Другую важную проблему обозначили нейрофизиологи. Искусственный интеллект уже изменил наш мозг: у тех, кто часто пользуется интернетом и GPS-навигаторами, атрофируются центры, ответственные за принятие решений. Это делает нас безвольными и готовыми следовать указаниям извне. Чем еще опасны нейросети, поделился в интервью РБК Pro автор книги «Конец индивидуума», который во время работы над ней собрал мнения десятков ученых и специалистов американских, китайских и европейских разработчиков этой технологии.
— После увольнения Сэма Альтмана из OpenAI многие американские СМИ предположили, что причиной стало то, что он добился прогресса в Q-Star, проекте, который может стать прорывом в создании «сверхразума» — искусственного интеллекта, по возможностям обгоняющего человека в любой области. Инвесторы испугались, что компания создаст потенциально опасный ИИ?
— Разговоры о сверхразуме — это детский уровень рассуждений об ИИ, у них нет никакой научной основы. Когда общаешься со специалистами в области компьютерных наук, большинство из них напоминает, что само понятие «сверхразум» было придумано не программистами, а оксфордским философом Ником Бостромом. Искусственный интеллект, который настолько мощен, что непременно постарается поработить людей, — это красивая, но очень нелогичная концепция.