Могут ли нейросети уничтожить человечество. Отвечают суперпрогнозисты
Этот материал входит в раздел «Технологии», в котором мы каждую неделю разбираем актуальные технологические тренды и публикуем прогнозы и рекомендации бизнесменов, IT-евангелистов и футурологов. Вы также найдете экспертные материалы о том, как стать продуктивнее, вывести бизнес на новый уровень и улучшить качество жизни с помощью технологий.
В 1945 году, накануне испытания первой атомной бомбы в пустыне Нью-Мексико, Энрико Ферми, один из физиков, участвовавших в ее создании, предложил своим коллегам заключить пари. Сможет ли тепловая волна от взрыва вызвать в атмосфере ядерный пожар? Если да, то уничтожит ли огненный смерч только Нью-Мексико? Или весь мир будет разрушен? (Испытание оказалось не таким рискованным, как предполагал Ферми: Ганс Бете, другой ученый, рассчитал, что такой исход почти наверняка невозможен.)
В наши дни опасения по поводу «экзистенциальных рисков» — тех, которые представляют угрозу для всего человечества, — возникают не только у ученых. Ядерная война, атомная зима, пандемия (как природная, например, из-за COVID-19, так и созданная искусcтвенно), удары астероидов и многое другое — все это может уничтожить население планеты полностью или частично. Но теперь к уже перечисленным рискам прибавилась новая угроза — искусственный интеллект (ИИ).
В мае группа экспертов в области развития нейросетей подписала открытое письмо, состоящее из одного предложения, в котором говорится следующее: «Снижение риска вымирания в результате использования искусственного интеллекта должно стать первоочередным делом наряду с другими опасностями общечеловеческого масштаба, такими как пандемии и ядерная война».