Groq

凭借自研 LPU 架构，提供全球最快的 Llama 3 等模型的推理速度，几乎实现毫秒级响应。