Groq 碾压了 Nvidia 还是超越了 OpenAI?
近日,Groq 火爆出圈,groq平台上采用 Mixtral 8x7B-32k 模型可以实现每秒生成 500 个 tokens,GPT-4 (基于 GPU)一般情况下是每秒40 tokens,groq 更是比 GPT-3.5 快 18 倍,...
近日,Groq 火爆出圈,groq平台上采用 Mixtral 8x7B-32k 模型可以实现每秒生成 500 个 tokens,GPT-4 (基于 GPU)一般情况下是每秒40 tokens,groq 更是比 GPT-3.5 快 18 倍,...