OpenAI 兼容接口
指第三方模型服务商模仿 OpenAI 的 /v1/chat/completions 等端点格式提供服务的做法,使现有 OpenAI 客户端与 SDK 可直接接入。
核心事实
时间轴 (近 90 天)
使用 llama.cpp 的 llama-server 而非 Ollama 部署,上下文长度设为 128k token,2 个并行槽位,对外暴露 OpenAI 兼容接口。
OpenAI 兼容接口不代表能力完全一致;云端模型支持的函数调用、结构化输出、长上下文等特性,在本地小模型上可能缺失或表现不稳定。
OpenAI 兼容接口通常只覆盖核心字段,各家对 tools、response_format、流式事件等扩展能力的实现并不完全一致,遇到不支持的特性时可能返回参数错误或静默忽略。
OpenAI 兼容接口标准的流行是社区为缓解供应商锁定问题而形成的事实规范
zai provider 依赖 @ai-sdk/openai-compatible,说明它很可能构建在 OpenAI 兼容接口之上
全部知识事实 (5)
zai provider 依赖 @ai-sdk/openai-compatible,说明它很可能构建在 OpenAI 兼容接口之上
85%待验证OpenAI 兼容接口标准的流行是社区为缓解供应商锁定问题而形成的事实规范
70%待验证使用 llama.cpp 的 llama-server 而非 Ollama 部署,上下文长度设为 128k token,2 个并行槽位,对外暴露 OpenAI 兼容接口。
50%待验证OpenAI 兼容接口不代表能力完全一致;云端模型支持的函数调用、结构化输出、长上下文等特性,在本地小模型上可能缺失或表现不稳定。
50%待验证OpenAI 兼容接口通常只覆盖核心字段,各家对 tools、response_format、流式事件等扩展能力的实现并不完全一致,遇到不支持的特性时可能返回参数错误或静默忽略。
50%