产品Tinker
Thinking Machines Tinker
Thinking Machines推出的模型微调平台/SDK,提供低层原语控制梯度,支持LoRA微调
时间轴 (近 90 天)
10月20日
SlothOps 使用 Thinking Machines 的 Tinker SDK 对 meta-llama/Llama-3-8B-Instruct 进行 LoRA 微调,rank 为 16,alpha 为 32,作用于 q/v/k/o 四个投影层。
待验证50%
10月20日
SlothOps 开源的核心动机之一是数据边界:企业杂务数据(邮件、日历讨论、代码 diff、内部备忘)属于知识产权,使用开源权重模型和 Backboard 记忆层可避免内容被送进闭源模型做训练。
待验证50%