Tinker API

Tinker API 是 Thinking Machines Lab 发布的首款产品，专为语言模型微调而设计。简化语言模型的微调流程，让研究人员和开发者能专注于算法和数据，无需担心复杂的分布式训练基础设施。提供底层操作原语，如forward_backward和sample，让开发者能构建自定义微调或强化学习算法，支持从小到大的各类开放权重模型，切换模型仅需修改代码中的一个字符串。Tinker 集成 LoRA 技术，允许多个训练任务共享计算资源池，优化成本效益。发布了开源库 Tinker Cookbook，包含多种后训练方法实现。Tinker 作为托管服务，运行在 Thinking Machines 内部集群上，为用户包办任务调度、资源分配和故障恢复等繁琐事务，让开发者专注于算法和数据。目前处于免费私测阶段，未来将推出基于使用量的定价模型。