Groq

Groq简介

GroqChat是由美国AI芯片公司Grop推出的AI聊天机器人平台，可以实时地回答任何提示，支持Gemma、Llama、Mixtral等多种大语言模型，用户可以选择不同的语言模型，设置系统提示和自定义指令，快速地生成文本。

借助于自研的AI芯片，GroqChat 在速度上显著超越了我们熟悉的ChatGPT 3.5， 它的速度优势来自其独特的LPU（语言处理单位）推理引擎，专为提高计算速度和处理密度设计，这让它在处理大型语言模型时表现非常出色，每秒能够输出近 500 个 token。相比之下，ChatGPT-3.5 每秒生成速度仅为 40 个 token。