[控场AI]
产品

Fire Attention

Fireworks AI自研的推理引擎,通过自写CUDA内核、投机解码、分离式推理和量化等手段,针对客户负载做端到端优化以降低延迟和成本。

来源文章