Основатель Groq, выходец из Google Джонатан Росс, настолько смел, что заявил, что их новое изобретение, созданное специально для LLM, к концу 2024 года «станет инфраструктурой, которая будет использовать большинство стартапов», так как оно работает быстрее всего, что есть на рынке.
В феврале, перед тем как шумиха вокруг Groq поднялась в медиа и соцсетях, компания запустила на своем сайте демоверсию чат-бота, работающего на своем новом чипе LPU. В презентации говорилось, что скорость работы в разы выше, чем у ChatGPT от OpenAI и Gemini от Google. Мэтт Шумер, генеральный директор HyperWrite, назвал технологию, которая бьет рекорды скорости, «дикой». После его публикации в X (экс-«Твиттер»), по словам Росса, за сутки более 3 тыс. человек обратились к Groq, предоставив доступ к API.
Специальный чип для ИИ
Последние полтора года на рынке чипов лидирует американская компания Nvidia (занимает 80%), которой на фоне развития ИИ удалось резко взлететь. Сегодня практически каждая крупная технологическая компания, включая Amazon, Google, Meta, Microsoft и Oracle, пользуется чипами Nvidia. Дефицит на рынке, а также отсутствие дешевых и быстрых конкурентных решений позволяет монополисту процветать — за последний год акции компании выросли в цене на 238%.
