Почему ChatGPT и другие ИИ-модели попали в ловушку развития
У современного генеративного искусственного интеллекта и больших языковых моделей (LLM) есть ограничения. Например, даже у продвинутой ИИ-модели могут возникнуть сложности с решением простейших арифметических задач, с которыми легко справляются школьники средних классов.
Порой ИИ выдает довольно странные ответы, например AI Overviews от Google рекомендовал использовать клей при приготовлении пиццы, чтобы сыр лучше держался.
Такие казусы происходит потому, что ИИ-моделям не хватает качественных обучающих данных. Из-за этого их развитие замедляется — наступает плато.
Такой цикл развития переживает любая инновация на протяжении всей истории. Сначала появляется идея, которая постепенно приобретает видимые очертания благодаря накоплению знаний и опыта. Затем следует взрыв инноваций, но со временем все стабилизируется.
Эта закономерность называется S-образной кривой. Вот несколько примеров: