Inkling 2 Smallは、総パラメータ数5,940億、アクティブパラメータ数170億を備え、最大256Kトークンのコンテキストウィンドウに対応するMixture-of-Experts言語モデルです。
製品の機能と公式な位置づけ
Inkling 2 Smallは、Thinking Machinesによって開発されたフロンティアスケールの基底モデルです。Mixture-of-Expertsアーキテクチャをベースに構築されており、5,940億の総パラメータと170億のアクティブパラメータを組み合わせることで、最大256Kトークンの拡張コンテキストウィンドウを提供します。
Tinkerプラットフォーム上でホストされているInkling 2 Smallは、トレーニング、サンプリング、およびベータ版のサーバーレス推論で利用可能です。また、TinkerのAPIおよびクライアントSDKを介して、カスタムワークフローに統合することができます。
公式情報で確認できる活用例
組織はTinkerトレーニングAPIを介して、教師ありファインチューニングや強化学習を用いて、専門領域のデータセットにInkling 2 Smallを適応させることができます。
開発者はサーバーレス推論エンドポイント経由でInkling 2 Smallをデプロイし、入力キャッシングを活用しながら最大256Kトークンの長文ドキュメントを処理できます。
Inkling 2 Smallは、総パラメータ数5,940億で構成されるスパースなMixture-of-Expertsアーキテクチャを採用しており、トークンごとにアクティブとなるパラメータを170億に抑えるよう計算をルーティングします。この設計により、推論時およびトレーニング時のアクティブな計算リソース要件を抑制しながら、広範な表現力を実現しています。
本モデルはThinking MachinesのTinkerプラットフォームに直接統合されており、マネージドGPUクラスター全体で勾配蓄積、フォワード・バックワードパス、オプティマイザーステップ、定期的なチェックポイント管理を調整・制御します。
自分の素材とワークフローで確認したい項目
確認した情報源とその日時
情報源を確認した製品情報に基づく回答
Inkling 2 Smallは、総パラメータ数5,940億、トークン実行時のアクティブパラメータ数170億で構成されるMixture-of-Expertsモデルです。
Inkling 2 Smallは、トレーニングおよび推論ワークロードにおいて最大256Kトークンのコンテキストウィンドウをサポートしています。
はい、Inkling 2 SmallはTinkerのサーバーレス推論サービスを通じて利用可能ですが、現在はベータ版機能として提供されています。
はい、Tinkerはユーザーが保存した任意のチェックポイントをダウンロードできるAPIエンドポイントを提供しています。
ワークロードは、カスタマー管理のCloud KMS暗号化、VPC PrivateLink、カスタムOIDC発行者、ロールベースのアクセス制御、および組織監査ログによって保護されています。
