[
控场AI
]
知识动态
实体
播客
深度
开发者
关于
Get CLI
EN
产品
Fire Attention
Fireworks AI自研的推理引擎,通过自写CUDA内核、投机解码、分离式推理和量化等手段,针对客户负载做端到端优化以降低延迟和成本。
来源文章
Fireworks AI:开源模型如何靠训练部署飞轮比肩闭源
11月17日