[控场AI]
· 7 分钟阅读· 3,645 字

DeepSeek开源推理框架领衔,本周五大科技亮点

DeepSeek开源推理框架领衔,本周五大科技亮点

DeepSeek开源推理框架、DuckDB 2.0转服务端、Rust版TS编译器提速,基础设施为AI重塑。

本周技术进展围绕“基础设施为AI与实时分析重塑”展开。DeepSeek开源生产级推理框架DeepInfo,集成Flash MLA、DeepEP等自研算子,支持英伟达SM100与华为昇腾950,并公开模型服务成本收益分析。DuckDB 2.0长期支持版内置Quark协议与Connect语句,从嵌入式分析库转向客户端-服务器架构,开始与ClickHouse正面重叠。TSRS将TypeScript编译器移植到Rust,类型检查最多快8倍、内存少约7成,重点在于可在wasm沙箱中运行,契合Agent在线开发。此外,Mac APK让安卓应用以兼容层方式运行在Apple芯片Mac上,DesignCraft开源排版软件与Ariel安卓电视桌面分别挑战Adobe垄断和国产电视广告痛点。

本周科技圈动态密集,从DeepSeek开源生产级推理框架,到DuckDB迈入服务端时代,再到Rust版TypeScript编译器亮相,每一项都指向同一个趋势:基础设施正在为AI与实时分析重塑。以下是本周值得关注的五个技术进展。

DeepSeek开源生产推理框架:大模型服务成本透明化

据B站UP主Koala的科技周报,DeepSeek广告本周开源了自家线上服务使用的推理框架DeepInfo,当前支持V4.1 Flash模型。该框架集成了Flash MLA、DeepJam、DeepEP等自研算子库,支持注意力数据并行、MVE专家并行和负载均衡草稿Token加速解码,并提供批次无关推理和确定性采样。硬件层面同时支持英伟达SM100和华为昇腾950,以Apache 2.0协议开源。

这是本周热度最高的新闻之一。此前DeepSeek开源的算子较为零散,这次给出了能串联起来的完整推理引擎,且第一天就支持国产NPU。官方也明确说明,KVCash系统、绿田葱和解码分离多副本、负载均衡等高级特性未包含在内。但更值得关注的是,官方随后给出了模型服务的经济成本与收益分析,让外界对模型定价有了更直观的参照。

Flash MLA、DeepEP 与 MoE 并行

Flash MLA 是针对多头潜在注意力(MLA)优化的计算核,MLA 通过低秩压缩 KV 缓存显著降低长上下文推理的显存占用,Flash MLA 则在此基础上做算子级融合与分块调度。DeepEP 是面向专家并行(Expert Parallelism)的通信库,解决 MoE 模型在多个 GPU/NPU 间分发 token 到对应专家时的 all-to-all 通信开销,通常配合分组 GEMM 使用。MoE 推理的难点在于专家负载不均:热门专家成为瓶颈,冷门专家闲置,因此需要负载均衡策略与“草稿 token”式的动态调度来提升利用率。批次无关推理(batch-invariant inference)指计算结果不随批大小变化,这对确定性采样和可复现评测很关键。

DuckDB 2.0:嵌入式分析库走向服务端

DuckDB发布2.0长期支持版,支持周期至少到2027年10月。最大变化是它现在能当服务端用了:内置Quark协议加上新的Connect语句,既能连接远程DuckDB,也能直连Postgres SQL和MySQL,并将查询下推过去执行。此外还带来Pocket和CSV的异步读取、真正可用的Variant半结构化类型以及触发器。

DuckDB开始和ClickHouse这类服务型分析数据库正面重叠

Koala认为,DuckDB 1.0讲的是稳定,2.0讲的是功能,从单机分析库走向客户端-服务器架构,开始和ClickHouse这类服务型分析数据库正面重叠。还有一个细节实现:命令行能识别自己是被Agent调用,自动改成精简输出,测试中让模型少读了近六成内容。

Quark 协议与 Variant 类型

Quark 是 DuckDB 2.0 引入的客户端-服务器通信协议,作用类似 Postgres 的 wire protocol:客户端通过它连接远程 DuckDB 实例并执行查询,使 DuckDB 从“进程内嵌库”扩展为可被多客户端共享的服务端。新的 Connect 语句则把外部数据库挂载为目录,查询时尽量下推谓词与聚合,减少数据搬运。Variant 是半结构化类型,用于存放 schema 不固定的 JSON 类数据,此前多以 JSON 扩展处理,Variant 提供真正的类型化存储与更高效的路径查询。这两项能力叠加,使 DuckDB 在轻量级分析服务场景中具备了与 ClickHouse 等正面竞争的基础。

Rust版TypeScript编译器:性能与Agent场景的双重考量

CloneFlare和VoidZero的工程师推出TSRS,把TypeScript编译器移植到Rust,放在OXC工具链下孵化。在相同类型检查线程数下,比TypeScript 7.0最多快8倍,内存少约7成,部分优化已经回馈上游。团队强调不分叉语言设计,决策仍由TypeScript官方说了算。

是AI让大规模移植成本骤降

官方刚用Go重写完,为什么还要Rust?关键在于WebAssembly:Go编译成wasm要带上垃圾回收,体积和性能都有折损;而Rust版能在浏览器或Workers沙箱里跑完整工具链,正好契合Agent在线开发的场景。这波编译器移植潮背后,是AI让大规模移植成本骤降,但长期跟进上游行为、保持移植性才是真正的考验。

WebAssembly 与 Agent 沙箱

WebAssembly(wasm)是一种可移植的二进制指令格式,能在浏览器、边缘 Workers 和沙箱中以接近原生的速度执行。Go 编译到 wasm 时需要附带运行时与垃圾回收器,产物体积大、启动慢,且难以精细控制内存;Rust 没有强制 GC,可产出更小、更可控的 wasm 模块,适合在受限沙箱里运行完整工具链。对 Agent 而言,这意味着类型检查、格式化、重构等开发工具可以安全地在浏览器或服务端沙箱中即时执行,无需用户本地安装 Node 环境。OXC 是一个用 Rust 编写的 JavaScript/TypeScript 工具链项目,TSRS 在其下孵化正是为了复用已有的解析器与基础设施。

Mac运行安卓应用与开源桌面排版工具

Mac APK能让安卓应用直接跑在Apple芯片的Mac上,不是模拟器也不是虚拟机,底层没有Linux内核,而是在macOS之上直接实现安卓应用环境。应用以普通macOS进程运行,用Mac的GPU绘制,出现在Dock里。目前处于Alpha阶段,作者测试了71个应用,其中58个完全可用。Koala认为思路类似Linux上的Wine,用重新实现系统接口代替模拟整台机器,性能更好但兼容性要逐个应用去追。苹果芯片本质是ARM架构,让这条路比在X86上容易得多。项目用AGPL协议开源,同时提供商业授权。

同时提供商业授权

DesignCraft是ArtCraft推出的开源桌面排版软件,用纯Rust写成,对标InDesign。主页串接文本框、段落样式、文字绕排这些专业功能都有,排版采用TeX同款Conduce Plus断行算法,支持CMYK专色、出血和PDF/A印刷输出,全平台提供安装包,还有可自托管的网页版。最特别的是每个菜单和面板都能通过MCP服务器让Agent操作。Koala认为专业排版长期被Adobe垄断,开源的Scribus体验一直不够现代,DesignCraft免费无订阅无遥测,有原生面向Agent的思路很新,不过它还在开发中。

和印刷厂工作流的磨合

排版软件最难的是与InDesign文件的兼容和印刷厂工作流的磨合,能否被专业设计师接受还要观察。

兼容层与 MCP

Mac APK 采用的思路类似 Wine:不虚拟化整台机器,而是在宿主系统上重新实现目标平台的系统接口(这里是 Android 的 Binder、图形与媒体框架),让应用以原生进程运行并直接使用宿主 GPU。这种做法省去内核与指令翻译开销,性能接近原生,但每个 API 都需要逐一实现,兼容性只能按应用逐个打磨。ARM 架构一致性是 Apple 芯片上可行的重要前提。MCP(Model Context Protocol)是让 AI Agent 以统一接口调用外部工具与数据的协议;DesignCraft 把菜单和面板暴露为 MCP 服务,意味着 Agent 可以脚本化地操作排版流程,这是传统桌面软件少见的架构选择。

开源安卓电视桌面:绕开广告与推荐流

Ariel是一个参照Apple TV设计的开源安卓电视桌面,专门给小米、TCL等国产电视用,没有广告和推荐流。它能找出被系统藏起来的应用,支持文件夹、隐藏和卸载安装,只需要打开电视的ADB调试,不用root,随时可以还原。Koala认为开机广告和满屏推荐是国产电视的老痛点,Ariel用替换桌面的方式绕过去,比刷机门槛低很多。局限在于它依赖ADB授权和系统权限,厂商系统升级随时可能把它挤掉,还得重新刷一次。

综合来看,本周的更新共同描绘出一条主线:AI不仅催生了新的推理基础设施,也降低了跨语言移植和系统重实现的成本,而开源工具正在从边缘实验走向生产环境。

#DeepSeek推理框架#DuckDB 2.0#Rust TypeScript编译器#Mac运行安卓应用#开源排版软件#安卓电视桌面
分享:

相关推荐