Thinking Machines首个模子Inkling开放权重:9750亿总参数 主打微调
7月16日新闻,,,,米拉·穆拉蒂(Mira Murati)开办的Thinking Machines Lab宣布首个基础模子Inkling。。。。模子共9750亿参数,,,,单次推理激活410亿参数,,,,最长支持100万token上下文;;;;;;完整权重已在Hugging Face提供下载,,,,接纳Apache 2.0允许。。。。
Inkling可吸收文本、图片和音频,,,,输出文本,,,,并已接入Thinking Machines的Tinker微调平台。。。。公司明确称Inkling不是目今最强模子。。。。
45万亿token,,,,单次激活410亿参数
Thinking Machines称,,,,Inkling使用45万亿token预训练,,,,数据笼罩文本、图片、音频和视频,,,,训练所有在英伟达GB300 NVL72系统上完成。。。。模子接纳混淆专家架构,,,,9750亿参数中激活410亿,,,,以降低单次推理的盘算量。。。。
公司宣布的SWE-bench Verified效果为77.6%,,,,低于Kimi K2.6的80.2%、GLM 5.2的80.0% 和DeepSeek V4 Pro的80.6%。。。。在Design Arena的智能体网页开发盲测中,,,,Inkling得分1253,,,,靠近GPT-5.6 Sol的1256,,,,与Claude Opus 4.6相同。。。。后一个榜单只笼罩网页开发使命。。。。
Inkling的初始监视微调使用了包括Kimi K2.5在内的开放权重模子天生的合成数据。。。。官方称这一阶段只占少量算力,,,,主要算力用于合成和人工情形中的大规模强化学习。。。。
Thinking Machines还预览了Inkling-Small。。。。小模子单次可激活120亿参数,,,,部分推理和智能体效果靠近Inkling;;;;;;公司体现完整权重仍在测试,,,,将在测试完成后宣布。。。。
官方此次开放的是模子权重。。。。训练数据原文和所有源代码未随之果真;;;;;;用户可下载权重,,,,也可通过Tinker或第三方推理服务使用模子。。。。
Inkling接入Tinker微调平台
Inkling上线当天即可在Tinker中微调。。。。Thinking Machines还增添了开发者Playground,,,,并展示了一次自微调:Inkling编写训练使命,,,,在约27分钟内把自己微调成回覆中不使用字母e的模子。。。。该历程是公司演示,,,,官方没有宣布其他使命的乐成率。。。。
据彭博报道,,,,Thinking Machines禁绝备直接通过Inkling变现,,,,目今收入来自模子微调工具Tinker;;;;;;对冲基金桥水基金(Bridgewater Associates)是其客户之一。。。。Inkling提供可下载的基础模子,,,,Tinker提供后续训练和定制服务。。。。
穆拉蒂2025年2月开办Thinking Machines。。。。公司同年完成20亿美元种子轮融资,,,,估值120亿美元,,,,但其时尚未宣布自研模子。。。。彭博还报道,,,,数名员工厥后加入Meta和OpenAI。。。。(易句)
(本文由AI翻译,,,,网易编辑认真校对)
文章点评
未盘问到任何数据!
揭晓谈论
◎接待加入讨论,,,,请在这里揭晓您的看法、交流您的看法。。。。