Материал раздела Технологии

«Могут уничтожить человеческую цивилизацию» — Юваль Харари о нейросетях

Искусственный интеллект научился устанавливать близкие отношения с миллионами людей. В своей колонке для The Economist автор бестселлера «Sapiens: Краткая история человечества» Юваль Харари объясняет, чем это грозит и как радикально нейросети изменят мир
Фото: Midjorney
Фото: Midjorney

Этот материал входит в раздел «Технологии», в котором мы каждую неделю разбираем актуальные технологические тренды и публикуем прогнозы и рекомендации бизнесменов, IT-евангелистов и футурологов. Вы также найдете экспертные материалы о том, как стать продуктивнее, вывести бизнес на новый уровень и улучшить качество жизни с помощью технологий. 

Юваль Ноа Харари — историк, философ и автор книг Sapiens, Homo Deus и детского сериала «Нас не остановить». Он преподает на историческом факультете Еврейского университета в Иерусалиме и является соучредителем Sapienship, компании, которая занимается исследованием влияния современных проблем (войн, технологических сбоев, и экологического кризиса) на общество.

Страх перед искусственным интеллектом (ИИ) преследует человечество с самого начала компьютерной эры. До сих пор такие опасения были сосредоточены на машинах, которые могли убить, поработить или попросту заменить людей на работе. Но за последние пару лет у нейросетей появились новые возможности, угрожающие выживанию человеческой цивилизации с неожиданной стороны. Теперь ИИ может работать с различными языками и даже генерировать слова, звуки и изображения. Получается, что искусственный интеллект взломал операционную систему нашей цивилизации.

Язык — это то, из чего состоит почти вся наша культура. Права человека, например, не содержатся в нашем ДНК. Это культурные артефакты, которые люди создали, рассказывая истории и сочиняя законы. Боги — это не реальные существа. Это культурные артефакты, которые люди создали, придумывая мифы и записывая священные тексты

Деньги тоже являются культурным артефактом. Банкноты — это просто разноцветные кусочки бумаги, а в настоящее время более 90% денег — это всего лишь оцифрованная информация в компьютерах. Ценность деньгам придают истории, которые нам рассказывают банкиры, министры финансов и криптовалютные гуру. Гендиректор обанкротившейся криптобиржи FTX Сэм Бэнкман-Фрид, Элизабет Холмс, основавшая компанию Theranos и позже обвиненная в мошенничестве, и создатель крупнейшей в истории финансовой пирамиды Берни Мэдофф не особо продвинулись в создании реальной ценности денег, но все они были чрезвычайно талантливыми рассказчиками.

Что произойдет, когда нечеловеческий (искусственный) интеллект станет лучше нас рассказывать истории, сочинять мелодии, рисовать образы, писать законы и священные тексты?