人物
mdnazib963
MIT背景的独立开发者/研究者,专注于大模型推理优化,以cache-fit为核心思路训练出1.9MB微型语言模型
时间轴 (近 90 天)
10月12日
作者 mdnazib963 从零训练了一个 1.9 MB 的模型,在 Ryzen 5 3400G 的单核上达到 3405 tok/s 的推理速度。
待验证50%
MIT背景的独立开发者/研究者,专注于大模型推理优化,以cache-fit为核心思路训练出1.9MB微型语言模型
作者 mdnazib963 从零训练了一个 1.9 MB 的模型,在 Ryzen 5 3400G 的单核上达到 3405 tok/s 的推理速度。