产品runntime
ruNNtime
专门围绕WebGPU计算能力设计的浏览器端推理库,使用TypeScript原生编写,无需WASM或Native插件,支持多种视觉类模型在浏览器GPU上本地运行
时间轴 (近 90 天)
10月7日
开发者把 EmbeddingGemma 2 的文本塔和视觉塔移植到 ruNNtime,并做了一个小型照片画廊 demo
待验证50%
10月7日
ruNNtime 是一个用 TypeScript 编写、基于 WebGPU 的推理库,专门围绕 WebGPU 计算能力设计
待验证50%
10月7日
ruNNtime 项目地址为 github.com/software-mansion/runntime
待验证50%
10月7日
该 demo 的整个检索过程完全在用户本地的 GPU 上完成,不经过任何服务器
待验证50%