Converse API
Amazon Bedrock 的原生统一 API 接口,支持多轮对话、工具调用和流式响应
时间轴 (近 90 天)
Converse API 是 Amazon Bedrock 提供的统一对话接口,屏蔽不同厂商模型的底层请求体格式差异,支持多轮对话、工具调用与系统提示;InvokeModel 是更底层的通用推理接口,请求体需按各模型专有 schema 构造。
使用 Converse API 的应用在切换模型时,成本主要集中在 modelId 与少数能力开关;使用 InvokeModel 的应用若直接拼装 Anthropic 原生请求体,则需要核对新版本对字段的要求。
Bedrock 提供两种调用 OpenAI 模型的接口:Converse API(原生接口,支持多轮对话、工具调用和流式响应)和 OpenAI 兼容 API(减少从 OpenAI 平台迁移的代码改动)。
Converse API 支持系统提示、温度 temperature、最大 token 数 maxTokens 等推理参数配置
Converse API 采用「角色-内容」消息模型,将每条消息标记为 user、assistant 或 system 三种角色,通过有序数组描述完整对话历史
在 Converse API 推出之前,开发者需要使用较底层的 InvokeModel API 来调用 Bedrock 上的模型,需自行构造每个模型供应商特定格式的请求 body
Converse API 在 2024 年中期推出,提供统一的跨模型对话调用接口,统一了请求和响应结构,并内置对工具调用和多模态输入的标准化支持
流式对话通过 ConverseStream 能力允许模型逐块(chunk)返回内容,显著缩短首字延迟(TTFT)
Converse API 提供了一套统一的、跨模型的对话调用接口,开发者可以用相同的消息结构和参数配置发起对话请求
AWS IAM 采用「默认拒绝」的零信任原则,可精确控制到某个角色只能调用特定模型的 Converse API 的粒度
还有 1 条时间轴事件
全部知识事实 (11)
Converse API 是 Amazon Bedrock 提供的统一对话接口,屏蔽不同厂商模型的底层请求体格式差异,支持多轮对话、工具调用与系统提示;InvokeModel 是更底层的通用推理接口,请求体需按各模型专有 schema 构造。
50%待验证使用 Converse API 的应用在切换模型时,成本主要集中在 modelId 与少数能力开关;使用 InvokeModel 的应用若直接拼装 Anthropic 原生请求体,则需要核对新版本对字段的要求。
50%待验证Bedrock 提供两种调用 OpenAI 模型的接口:Converse API(原生接口,支持多轮对话、工具调用和流式响应)和 OpenAI 兼容 API(减少从 OpenAI 平台迁移的代码改动)。
50%待验证Converse API 支持系统提示、温度 temperature、最大 token 数 maxTokens 等推理参数配置
50%待验证Converse API 采用「角色-内容」消息模型,将每条消息标记为 user、assistant 或 system 三种角色,通过有序数组描述完整对话历史
50%待验证在 Converse API 推出之前,开发者需要使用较底层的 InvokeModel API 来调用 Bedrock 上的模型,需自行构造每个模型供应商特定格式的请求 body
50%待验证Converse API 在 2024 年中期推出,提供统一的跨模型对话调用接口,统一了请求和响应结构,并内置对工具调用和多模态输入的标准化支持
50%待验证流式对话通过 ConverseStream 能力允许模型逐块(chunk)返回内容,显著缩短首字延迟(TTFT)
50%待验证Converse API 提供了一套统一的、跨模型的对话调用接口,开发者可以用相同的消息结构和参数配置发起对话请求
50%待验证AWS IAM 采用「默认拒绝」的零信任原则,可精确控制到某个角色只能调用特定模型的 Converse API 的粒度
50%待验证Converse API 支持系统提示、温度(temperature)、最大 token 数(maxTokens)等推理参数配置
50%