Groq

Groq LPU（语言处理单元）以开发人员所需的速度和成本提供AI Inference。它为大型语言模型和其他AI模型提供高速、低成本的Inference，从而实现大规模的实时应用。