#RunPod
共 2 篇相关文章
·10 分钟
自托管开源模型的真实验证记录：Colab、RunPod 与 API 路线
一位开发者记录用 Colab 和 RunPod 自托管 Qwen、GLM 等开源模型的三阶段实验：两次连通性测试成功、一次权重下载中途放弃，最终转向 API 路线。文章详述操作故障、隐性运维成本，以及 API 与自托管的五个决策问题。
阅读全文 →
·5 分钟
RunPod上HF_HOME默认指向临时存储：缓存丢失的根因与一行修复
在RunPod上运行HuggingFace模型时，HF_HOME默认指向临时的容器卷，导致缓存在Pod重启后丢失、反复下载浪费算力。本文解析根本原因，并给出一行环境变量修复方案及自动化预检方法。
阅读全文 →