Inkling 2 Small es un modelo de lenguaje de mezcla de expertos de 594B parámetros con 17B parámetros activos y una ventana de contexto de 256K.
Qué hace el producto y cómo se presenta oficialmente
Inkling 2 Small es un modelo fundacional de escala de frontera desarrollado por Thinking Machines. Construido sobre una arquitectura de mezcla de expertos, el modelo combina 594 mil millones de parámetros totales con 17 mil millones de parámetros activos, ofreciendo una ventana de contexto máxima extendida de 256K tokens.
Alojado en la plataforma Tinker, Inkling 2 Small está disponible para entrenamiento, muestreo e inferencia sin servidor en fase beta. Se puede integrar en flujos de trabajo personalizados a través de la API y el SDK de cliente de Tinker.
Casos de uso respaldados por fuentes oficiales
Las organizaciones pueden adaptar Inkling 2 Small a conjuntos de datos de dominios especializados mediante ajuste fino supervisado o aprendizaje por refuerzo a través de la API de entrenamiento de Tinker.
Los desarrolladores pueden desplegar Inkling 2 Small a través de terminales de inferencia sin servidor para procesar documentos extensos de hasta 256K tokens con entradas en caché.
Inkling 2 Small implementa una arquitectura dispersa de mezcla de expertos compuesta por 594B de parámetros totales, enrutando el cómputo de modo que solo 17B de parámetros permanecen activos por token. Este diseño proporciona una amplia capacidad representacional a la vez que contiene los requisitos computacionales de entrenamiento e inferencia activa.
El modelo se integra directamente en la plataforma Tinker de Thinking Machines, la cual coordina la acumulación de gradientes, las pasadas hacia adelante y hacia atrás, los pasos del optimizador y la gestión periódica de puntos de control en clústeres de GPU gestionados.
Comprobaciones con tus propios materiales y flujo de trabajo
Qué fuentes se revisaron y cuándo
Respuestas basadas en el registro de producto con fuentes verificadas
Inkling 2 Small es un modelo de mezcla de expertos con 594 mil millones de parámetros totales y 17 mil millones de parámetros activos.
Inkling 2 Small admite una ventana de contexto máxima de hasta 256K tokens para cargas de trabajo.
Sí, Inkling 2 Small es compatible con la oferta de inferencia sin servidor de Tinker, la cual se encuentra actualmente en fase beta.
Sí, Tinker proporciona un punto de conexión de API que permite a los usuarios descargar cualquier punto de control que hayan guardado.
Las cargas de trabajo están protegidas mediante cifrado Cloud KMS gestionado por el cliente, VPC PrivateLink, emisores OIDC personalizados, controles de acceso basados en roles y registros de auditoría de la organización.
