Inkling 2 Small
Inkling 2 Small 是一款拥有 5940 亿总参数量与 170 亿激活参数的混合专家（MoE）语言模型，并支持长达 256K token 的扩展上下文窗口。
- 预计月访问量
- 37.6万 数据月份:
- 收录于 AIToolly
Inkling 2 Small 是什么？产品概览
产品用途与官方定位
Inkling 2 Small 是由 Thinking Machines 开发的前沿级基础大模型。该模型基于混合专家（Mixture-of-Experts）架构构建，拥有 5940 亿总参数量和 170 亿运行激活参数，并提供高达 256K token 的超长最大上下文窗口。
Inkling 2 Small 托管于 Tinker 平台，目前提供模型训练、采样生成以及处于测试阶段的无服务器（Serverless）推理服务。开发者可通过 Tinker 提供的 API 和客户端 SDK 将其无缝集成至自定义业务工作流中。
Inkling 2 Small 可以用来做什么？
有官方来源支持的使用场景
自定义后训练与微调
企业与机构可以通过 Tinker 训练 API，利用监督微调或强化学习技术，在特定领域数据集上定制和适配 Inkling 2 Small 模型。
长上下文无服务器文本推理
开发者可以通过无服务器推理端点部署 Inkling 2 Small，利用输入缓存功能高效处理长达 256K token 的长文档与复杂文本。
模型架构与平台集成
Inkling 2 Small 采用稀疏混合专家（MoE）架构，模型总参数量为 5940 亿，并在每个 token 的计算中通过路由机制仅激活 170 亿参数。这种设计在赋予模型强大表征能力的同时，有效控制了实际推理和训练过程中的算力消耗。
该模型与 Thinking Machines 的 Tinker 平台深度集成，能够在托管的 GPU 集群上协同执行梯度累积、前向与反向传播、优化器更新以及定期的检查点（checkpoint）生命周期管理。
- 采用混合专家架构，总参数量达 5940 亿，激活参数量为 170 亿。
- 支持长达 256K token 的扩展上下文长度能力。
- 处于测试阶段的无服务器推理功能，并支持输入缓存。
- 兼容 Tinker 的托管训练循环、定期检查点保存以及权重导出 API 端点。
选择 Inkling 2 Small 前需要测试什么
用自己的素材和工作流完成验证
- 评估并确认 256K token 的上下文窗口容量是否能够满足组织实际的长文档业务处理规模。
- 测试并验证 170 亿激活参数的计算负载配置是否符合业务系统对于端到端响应延迟的严格要求。
- 检查当前处于测试阶段的无服务器推理特性与服务等级协议（SLA）是否符合企业的生产部署标准。
Inkling 2 Small 来源与核对时间
核对了哪些信息以及核对时间
- 最后核对
- 分类
- 文本
Inkling 2 Small 常见问题
基于已核对产品资料的回答
Inkling 2 Small 的模型架构是什么？
Inkling 2 Small 采用混合专家（Mixture-of-Experts）架构，其总参数量达到 5940 亿，而在每次计算执行过程中仅调用 170 亿个激活参数。
Inkling 2 Small 支持多长的上下文窗口？
Inkling 2 Small 支持最高达 256K token 的扩展上下文窗口，能够同时适用于大规模模型训练与深度文本推理等工作负载需求。
Inkling 2 Small 是否可以通过无服务器推理进行调用？
是的，Inkling 2 Small 支持通过 Tinker 的无服务器（Serverless）推理方案进行调用，该功能目前正处于测试阶段并提供输入缓存支持。
用户是否可以下载保存的模型检查点？
是的，Tinker 平台提供了专用的 API 导出端点，允许用户随时下载自身在训练过程中保存的任意模型检查点与权重数据。
Tinker 平台通过哪些安全机制来保护工作负载？
工作负载通过客户自管 Cloud KMS 加密、VPC PrivateLink 私网连接、自定义 OIDC 认证、多层级角色权限控制以及详尽的组织审计日志得到多重保护。
