Thinking Machines发布首个开放权重模型Inkling:9750亿参数、百万上下文与原生多模态

Thinking Machines Lab发布了首个开放权重模型Inkling。这是一款从零开始训练的混合专家模型,总参数规模达到9750亿,每次处理Token时激活约410亿参数,最高支持100万Token上下文,并具备文本、图像和音频的原生多模态推理能力。

根据Thinking Machines披露,Inkling使用NVIDIA GB300 NVL72系统训练,预训练数据规模达到45万亿Token,涵盖文本、图像、音频和视频。模型完整权重现已通过Hugging Face公开,并采用Apache 2.0许可证。



9750亿参数,但每次只激活410亿

Inkling采用稀疏混合专家架构,即Mixture-of-Experts(MoE)。模型拥有9750亿总参数,但处理每个Token时只会调用其中约410亿参数,以降低如此大规模模型在推理阶段的计算成本。

其架构包含256个路由专家和两个共享专家。每个Token会被分配给六个路由专家,同时经过两个共享专家处理。模型还混合使用局部与全局注意力层,以兼顾计算效率和长上下文能力。

Thinking Machines将Inkling定位为一款通用基础模型,覆盖推理、编程、工具调用、对话、视觉理解和音频理解等任务。公司同时强调,Inkling并不是目前综合能力最强的开放或闭源模型,其主要价值在于完整权重、多模态能力、可控推理以及针对具体业务进行微调的灵活性。

百万Token上下文与原生多模态能力

Inkling最高支持100万Token上下文,能够处理大型代码库、长篇文档以及包含大量历史信息的复杂任务。

不过,在Thinking Machines自有的Tinker服务中,当前提供的上下文选项为6.4万和25.6万Token。因此,模型架构支持的最高上下文长度与现阶段托管服务能够直接选择的长度并不完全相同。

在多模态方面,官方模型卡显示,Inkling可以接收文本、图像和音频输入,并生成文本输出。图像和音频组件同样从零开始训练,没有依赖单独预训练的外部编码器。

官方介绍提到,Inkling的45万亿Token预训练数据包含视频内容,但目前公开的输入说明没有将视频列为可直接输入的模态。因此,更准确的说法是:Inkling的训练数据覆盖视频,已经确认的原生输入与推理能力则包括文本、图像和音频。

推理深度可以由使用者控制

Inkling的另一项重点功能是可控推理深度。开发者可以根据任务难度调整模型投入的思考量,在响应速度、运行成本和输出质量之间进行取舍。

Thinking Machines称,该能力通过系统指令、Token成本控制以及大规模强化学习共同训练形成。Inkling后训练阶段进行了超过3000万次强化学习Rollout,覆盖数学、代码与工具调用、图像、音频、对话和安全等任务。

这类设计适合任务难度差异较大的应用。例如,简单信息提取可以使用较低推理强度,而复杂编程、数学证明或多步骤工具调用任务则可以允许模型投入更多计算资源。

官方承认综合能力并非最强

Thinking Machines公布的测试结果显示,Inkling在AIME 2026上获得97.1%,在SWE-bench Verified上获得77.6%,在Terminal Bench 2.1上获得63.8%。视觉和音频项目中,模型在MMMU Pro和VoiceBench上分别取得73.3%和91.4%。

这些数字均来自官方模型卡或官方测试环境,不同模型可能使用不同推理预算、工具配置和测试框架,因此不宜仅凭单项分数直接判断综合能力。

Thinking Machines也主动表示,Inkling并不是当前最强的开放权重模型或闭源模型。官方更强调它作为可定制基础模型的价值,而不是将其包装成所有指标上的领先产品。

完整权重已经开放下载

Inkling完整权重已经上传至Hugging Face,包括原始检查点以及面向NVIDIA Blackwell平台高效推理的NVFP4版本。模型采用Apache 2.0许可证,可通过SGLang、vLLM、TokenSpeed、Unsloth和Hugging Face Transformers等框架进行本地部署。

开发者也可以通过Thinking Machines的Tinker平台对模型进行微调,或通过Together AI、Fireworks、Modal、Databricks和Baseten等第三方平台使用相关推理服务。

Thinking Machines还预告了Inkling-Small。该版本拥有2760亿总参数和120亿活跃参数,在多项测试中接近完整版Inkling,但其完整权重仍需等待测试工作完成后才会发布。

Inkling的推出表明,开放权重模型正在从单纯追求参数规模,转向长上下文、原生多模态、可控计算和定制能力的综合竞争。对开发者而言,它的实际价值最终仍取决于部署成本、推理速度、微调效果以及在具体业务场景中的稳定性。

来源:

-=||=-收藏赞 (0)
版权声明:本文采用知识共享 署名4.0国际许可协议 [BY-NC-SA] 进行授权
文章名称:《Thinking Machines发布首个开放权重模型Inkling:9750亿参数、百万上下文与原生多模态》
文章链接:https://topstip.com/p584263/
转载说明:请注明来自“TopsTip”并加入转载内容页的超链接。
本站资源仅供个人学习交流,请于下载后24小时内删除,不允许用于商业用途,否则法律问题自行承担。