[控场AI]
产品

SLM-CREATOR

一个从零构建的小语言模型训练器,支持手写完整训练流水线,采用 Python 和 Rust 混合开发,参数量上限 1 亿。

时间轴 (近 90 天)

11月14日

SLM-CREATOR 采用 Python 和 Rust 混合开发,参数量上限设定在 1 亿。

待验证50%
11月14日

开发者选择手写整条训练流水线,目的是真正理解 Transformer 的内部运作机制。

待验证50%
11月14日

开发者手头只有一台纯 CPU 机器,因此所有 GPU 相关代码路径都只在模拟的 CLI 输出上验证过。

待验证50%
11月14日

脚本会设置 CUDA_DEVICE_ORDER=PCI_BUS_ID,然后把厂商工具报告的设备名与 torch.cuda.get_device_name() 的返回值做匹配,以对齐设备索引。

待验证50%
11月14日

性能测试先跑约 12 秒预热让 GPU 进入热稳定状态,然后对 4096×4096 的矩阵乘法计时。

待验证50%
11月14日

开发者希望有 NVIDIA 或 AMD 显卡的用户运行硬件检测脚本,并将输出或报错贴到 Issue #1 或帖子评论区。

待验证50%

全部知识事实 (6)

来源文章