#系统优化
共 8 篇相关文章
·4 分钟
内存延迟才是AI性能的真正瓶颈
一篇在Hacker News引发热议的文章指出，AI系统性能的真正瓶颈可能不是算力而是内存延迟。本文分析内存墙在AI工作负载中的表现，以及这一判断对工程实践的启示。
阅读全文 →
·6 分钟
田渊栋谈ML for Systems：从游戏搜索到系统优化
田渊栋在NeurIPS 2021 MLFS研讨会分享ML for Systems：借鉴游戏搜索中强化学习提供启发式的成功经验，介绍网络规划与代码反编译两项系统优化工作，采用迭代精炼与两阶段求解思路，并探讨状态空间、评估速度等挑战。
阅读全文 →
·5 分钟
iKnowMyMac：用证据找出Mac变慢的真正原因
iKnowMyMac 是一款原生 Mac 应用，针对 Mac 变慢、磁盘占满、电池耗电快三大问题，给出诊断证据与对应修复动作，并支持集中更新应用，一次性买断无订阅。
阅读全文 →
·5 分钟
FluidPD：原地弹性调度破解LLM推理的P/D资源失衡难题
arXiv新论文FluidPD提出面向Prefill-Decode分离LLM服务的SLO感知原地弹性方案，通过FluidToken和FluidRole两大机制应对资源失衡，在Azure生产负载上SLO达成率最高提升94.6个百分点。
阅读全文 →
·3 分钟
内存价格上涨，微软为何让Windows 11更省内存
微软解释称，受内存成本上升影响，Windows 11 将朝更低内存占用方向优化。本文分析内存价格波动如何影响操作系统设计，以及对用户与行业的潜在影响。
阅读全文 →
·5 分钟
Cloudflare用数学再省100TB内存：概率数据结构的工程实践
Cloudflare 通过概率数据结构等数学方法再节省 100TB 内存，本文解析其背后的 Bloom Filter、HyperLogLog 等技术原理、工程权衡与对大规模系统优化的启示。
阅读全文 →
