Ray
用于解决将ML工作负载大规模部署在Kubernetes集群上复杂性的分布式计算框架，常用于MLOps和ML平台工程
核心事实
时间轴 (近 90 天)
落地时需注意：镜像版本与 Ray 版本需匹配；节点间网络带宽是常被低估的瓶颈；多节点场景下可观测性应在部署阶段就纳入考量。
RLlib 由 Ray 框架提供，侧重分布式大规模训练，适合需要并行仿真的场景
Ray Serve构建在分布式计算框架Ray之上，适合需要灵活编排多个模型和业务逻辑的复杂服务场景
Ray 提供了一个全局控制平面（GCS）和分布式对象存储（Plasma），使跨节点数据共享和任务编排开销极低
Ray 支持对 PyTorch 张量的原生支持，无需序列化转换
Ray Serve 是面向生产的模型服务能力，把训练成果转化为推理服务
与 Spark、Dask 等面向数据批处理的框架不同，Ray 的设计目标是通用分布式计算，擅长处理需要动态调度、状态维护和低延迟通信的 AI 工作负载
Ray Tune 是 Ray 提供的超参调优框架
Ray 由加州大学伯克利分校 RISELab 孵化，于2017年开源
Ray 的核心抽象是将 Python 函数和类分别包装为任务（Task）与 Actor，通过分布式调度器统一协调执行
还有 2 条时间轴事件
全部知识事实 (13)
Ray作为分布式计算框架横跨多个层次，包括Ray Tune（超参搜索）、Ray Train（分布式训练）和Ray Serve（在线推理）
65%待验证落地时需注意：镜像版本与 Ray 版本需匹配；节点间网络带宽是常被低估的瓶颈；多节点场景下可观测性应在部署阶段就纳入考量。
50%待验证RLlib 由 Ray 框架提供，侧重分布式大规模训练，适合需要并行仿真的场景
50%待验证Ray Serve构建在分布式计算框架Ray之上，适合需要灵活编排多个模型和业务逻辑的复杂服务场景
50%待验证Ray 的核心抽象是将 Python 函数和类分别包装为任务（Task）与 Actor，通过分布式调度器统一协调执行
50%待验证Ray 提供了一个全局控制平面（GCS）和分布式对象存储（Plasma），使跨节点数据共享和任务编排开销极低
50%待验证Ray 支持对 PyTorch 张量的原生支持，无需序列化转换
50%待验证Ray Tune 是 Ray 提供的超参调优框架
50%待验证Ray Serve 是面向生产的模型服务能力，把训练成果转化为推理服务
50%待验证与 Spark、Dask 等面向数据批处理的框架不同，Ray 的设计目标是通用分布式计算，擅长处理需要动态调度、状态维护和低延迟通信的 AI 工作负载
50%待验证Ray 由加州大学伯克利分校 RISELab 孵化，于2017年开源
50%待验证vLLM在单机场景下使用ZeroMQ（zmq）作为RPC框架，在分布式场景下借助Ray框架来管理多节点的Worker
50%待验证伯克利主导的开源项目包括Caffe深度学习框架、Ray分布式计算框架以及大语言模型项目Vicuna和LMSYS Chatbot Arena
50%