«Поешь стекло»: почему компании начали массово закрывать нейросети

Искусственный интеллект стал одной из самых перспективных сфер для инвесторов: в 2022 году в стартапы, которые занимаются нейросетями и сложными алгоритмами, было вложено $2,7 млрд. После выхода чат-бота ChatGPT и начала тестирования его аналога Bard от Google основатель компании Meta (признана в России экстремистской и запрещена) Марк Цукерберг анонсировал выпуск новой большой языковой модели LLaMA, предлагающей ученым и инженерам помощь в исследовании приложений для ИИ. Однако находятся скептики, призывающие не торопиться инвестировать в технологию, которая остается довольно сырой. Например, «отец интернета» Винт Серф, работающий в Google на должности «главного интернет-евангелиста», рекомендовал не спешить вкладываться в языковые модели ИИ только потому, что это горячая тема. Серф рассказал, что нейросети часто «страдают галлюцинациями» — дают убедительно сформулированные ответы, которые на поверку оказываются совершенно бредовыми.

Буквально через несколько дней после его выступления Microsoft ограничила тестовый доступ к функции чат-бота в поисковике Bing: пользователи жаловались на странные ответы ИИ, а технологический колумнист The New York Times Кевин Руз опубликовал запись беседы с программой, в которой она назвалась женским именем, призналась журналисту в любви и убеждала Руза, что он и его супруга давно не любят друг друга. Чуть ранее Meta закрыла доступ к своей нейросети Galactica, которая уверяла пользователей в пользе приема внутрь битого стекла и рассказывала о создании специальных программ для поиска геев в соцсетях. Впрочем, есть еще более мрачные примеры, как разработанные известными корпорациями модели искусственного интеллекта испортили жизнь людям и компаниям — принесли многомиллионные убытки, лишили сотрудников работы или чуть не убили пациентов ошибочными назначениями.