#权重共享

共 25 篇相关文章

Unsloth v0.1.48-beta版本发布，新增NVFP4/FP8量化导出、OpenAI兼容API热切换、MoE训练提速3-5倍、GRPO提速1.3倍，全面覆盖大模型微调、量化与本地部署全链路。

本地AI（Local AI）正面临政策监管收紧、硬件封锁与商业挤压三重威胁。本文深度解析为何在自己的设备上自由运行开源大模型，是每个人都应守护的数字权利——涉及隐私保护、抗审查自由与长期可用性。

Manticore Search团队通过重构ONNX推理路径，将文本嵌入计算速度提升14倍。本文深度解析批处理、会话复用、零拷贝内存优化与线程调优四大核心手段，为向量检索系统建设提供实践参考。

DiffusionBlocks将神经网络拆分为独立块逐块训练，将训练内存需求从与网络深度线性相关降低为仅与单块大小相关。该方法在ViT、DiT、自回归Transformer等五种架构上验证有效，性能媲美端到端训练。

零基础学AI总是越学越迷茫？本文拆解碎片化学习的根本问题，提供从Python基础到深度学习的完整学习路径，涵盖算力环境、答疑机制、项目实战等关键环节，帮你用3-6个月系统入门人工智能。