Kimi K3 接入 Vercel AI SDK：一个 npm 包两行代码

Kimi K3 是 Moonshot 推出的开放权重模型，拥有 100 万 token 的上下文窗口，但它并不在 Vercel AI SDK 的官方模型目录里。一个名为 wallaby-ai-provider 的第三方包填补了这个空缺——安装它，你就能在 AI SDK 运行的任何地方调用 Kimi K3。

Kimi K3 接入 Vercel AI SDK 教程

为什么需要这个 Provider

Vercel AI SDK 是目前在 TypeScript 中交付 AI 功能最便捷的路径，而 Kimi K3 的 1M-token 上下文对编码 Agent 等场景颇具吸引力。两者之间缺少的是一个可用的 provider——这就是 wallaby-ai-provider 的定位。用作者的话说，它"把 Kimi K3 放到了 AI SDK 能运行的任何地方"。

需要说明的是，该包由 Wallaby Token 开发，作者在原文中明确披露：Wallaby Token 销售 Kimi K3 的 API 访问权，而包所指向的端点正是他们自己的服务。这不是一个社区中立的开源项目，而是一个带有商业目的的集成方案。

Vercel AI SDK 是 Vercel 推出的开源 TypeScript 工具库，核心价值在于用统一接口屏蔽不同模型供应商 API 的差异，让 generateText、streamText 这类函数可以跨模型复用。它通过「provider」抽象层与模型通信：官方维护 OpenAI、Anthropic、Google 等 provider，同时开放接口允许第三方实现自己的 provider。本文中的 wallaby('kimi-k3') 就是第三方 provider 返回的模型句柄，语义上等价于 openai('gpt-4o')。

开放权重模型（open-weight）指模型参数可公开下载，与「开源」并不完全等同——训练数据、训练代码和许可证条款可能并不开放。Kimi K3 采用这一发布形态，意味着任何人都可以自行部署权重，但官方托管的 API 服务与第三方转售渠道是两回事。

安装与最小可运行示例

准备条件很简单：一个 Wallaby Token 账户和 API Key、Node.js 18 或更高版本、两个 npm 包。新账户会获得 0.50 美元的试用额度，按作者的说法足够跑大约 20 次验证调用。

安装只需一条命令：

npm install wallaby-ai-provider ai

设置环境变量后，两行代码就能发起请求：

import { generateText } from 'ai';
import { wallaby } from 'wallaby-ai-provider';

const { text } = await generateText({ model: wallaby('kimi-k3'), prompt: 'Hello, world' });

原文强调这次调用是真实执行的：92 个输入 token、117 个输出 token、一次往返。每次调用都会返回 usage 对象，便于在代码里自行计量。

token 是模型处理文本的最小计量单位，不等同于字或词。英文里一个 token 大致对应 4 个字符，中文通常一个字占 1.5 到 2 个 token。因此「100 万 token 上下文窗口」并不意味着能塞进 100 万个汉字，实际容量会因语言和内容类型而异。

usage 对象通常包含 promptTokens（输入）、completionTokens（输出）和 totalTokens 三类字段。输入与输出的计价单价往往不同——本文示例中输出单价约为输入的 5 倍，所以输出 token 才是成本的主要来源。在 streamText 场景下，usage 是 Promise，需要 await 才能拿到最终统计值。

流式输出与真实账单

切换为 streamText 后，原文做了一个更具体的演示——询问"100 万 token 上下文对编码 Agent 意味着什么"，并在最后一行打印出按列表价计算的费用。

import { streamText } from 'ai';
import { wallaby } from 'wallaby-ai-provider';

const result = streamText({
  model: wallaby('kimi-k3'),
  prompt: 'In three sentences: what does a 1M-token context window buy a coding agent?',
});

for await (const delta of result.textStream) process.stdout.write(delta);

const usage = await result.usage;

这次运行消耗 103 个输入 token、1859 个输出 token，费用 0.0254 美元。原文给出了算式：(103 × $2.70 + 1859 × $13.50) ÷ 1,000,000。与笼统的"起价"不同，这是具体到单次调用的账单数字。

streamText 返回的是一个异步迭代器 textStream，可以边生成边输出，显著降低首字延迟（TTFT），对聊天界面尤其重要。与 generateText 一次性返回完整文本不同，流式调用需要等待全部生成结束才能获得准确的 usage 数据。

缓存输入（cached input）是供应商针对重复前缀给出的折扣档位。当多轮对话共享同一段系统提示词或长文档时，这部分内容会被缓存下来，第二次起按远低于标准输入的价格计费。本文表格中缓存输入价约为标准输入价的十分之一，对长上下文反复调用的编码 Agent 场景能显著降低成本。

在 Next.js 中集成

同一个 provider 也能用在服务端。把下面这段放进 app/api/chat/route.ts：

export async function POST(req: Request) {
  const { messages } = await req.json();
  const result = streamText({ model: wallaby('kimi-k3'), messages });
  return result.toUIMessageStreamResponse();
}

与终端脚本的一个区别在于密钥管理：在 .env.local 中以 WALLABY_API_KEY=sk-... 的形式存放，而不是在 shell 里 export。Next.js 会在服务端将其加载进 process.env，密钥只存在于这个路由处理器中，不会发送到浏览器。

Route Handler 是 Next.js App Router 中定义服务端接口的方式，app/api/chat/route.ts 里导出的 POST 函数对应 POST /api/chat。这类文件默认只在服务端执行，因此 process.env.WALLABY_API_KEY 不会被打包进客户端 bundle。

toUIMessageStreamResponse 是 AI SDK 提供的辅助方法，它会把模型输出转成前端 useChat hook 能直接消费的流式响应格式，省去手动拼接 SSE 的麻烦。.env.local 是 Next.js 约定的本地环境变量文件，默认被 .gitignore 排除，不会提交到仓库；只有以 NEXT_PUBLIC_ 开头的变量才会暴露给浏览器，其余仅在服务端可读。

两个常见报错的排查思路

首次调用就返回 401：说明进程读不到 WALLABY_API_KEY。在终端脚本中，通常意味着 export 命令没执行，或在另一个窗口执行了。在 Next.js 中，则可能是密钥没写进 .env.local，或者密钥添加前开发服务器就已启动——修改环境变量文件后需要重启 next dev。

提示 "model not found"：模型 ID 必须严格是 kimi-k3。不是 moonshotai/kimi-k3，不是 kimi-k3-turbo，也不是显示名称。provider 会把字符串原样传给端点，而端点只接受这个规范 ID。

定价对比

原文给出的每百万 token 价格如下（截至原文所述时间点）：

	Wallaby	官方列表价
输入	$2.70	$3.00
缓存输入	$0.27	$0.30
输出	$13.50	$15.00

Wallaby 的三档价格均低于官方列表价约 10%。0.50 美元的试用额度按这个费率计算，确实可以覆盖整篇指南的验证调用约 20 次。

这个方案的适用边界

把 Kimi K3 作为 AI SDK 的一等 provider 来用，收益是明确的：一个 npm 包、两行代码、支持流式，账单按 token 逐项可见。它适合已经在用 TypeScript 和 AI SDK、又想尝试 Kimi K3 长上下文的开发团队。

需要权衡的点同样清楚。这是单一来源的商业集成：模型访问经由 Wallaby Token 的中转端点，而非 Moonshot 官方渠道。价格、可用性与模型版本都以该服务为准，官方更新不会自动同步。如果你的项目对供应链来源敏感，或者已有 Moonshot 官方 API 访问权，那么自建一个轻量 provider 同样是可行路径——毕竟这个包的本质，也只是一层薄封装。