Kimi K3

Kimi K3: Новая эра открытого интеллекта frontier-уровня

Сегодня мы представляем Kimi K3 — нашу самую мощную и способную модель на текущий момент. Kimi K3 представляет собой модель с 2,8 триллионами параметров, построенную на базе инновационных архитектурных решений Kimi Delta Attention и Attention Residuals. Обладая нативными возможностями компьютерного зрения и огромным контекстным окном в 1 миллион токенов, Kimi K3 является первой в мире открытой моделью 3T-класса. Она спроектирована для решения сложнейших задач frontier-уровня, включая длительные сессии программирования, глубокую работу со знаниями и сложное логическое обоснование.

Что такое Kimi K3?

Kimi K3 — это первая открытая модель, достигшая масштаба в 2,8 триллиона параметров. Это важный шаг в развитии линейки Kimi, модели которой на протяжении девяти из последних двенадцати месяцев задавали верхнюю границу размеров открытых нейросетей.

В основе Kimi K3 лежат технологии Kimi Delta Attention (KDA) и Attention Residuals (AttnRes). Эти архитектурные обновления значительно улучшают поток информации по всей длине последовательности и глубине модели. Благодаря масштабированию разреженности Mixture of Experts (MoE), модель эффективно активирует 16 из 896 экспертов при использовании фреймворка Stable LatentMoE. В сочетании с улучшенными методами обучения, эти изменения обеспечивают примерно 2,5-кратное улучшение эффективности масштабирования по сравнению с предыдущей версией Kimi K2.

Ключевые особенности Kimi K3

Kimi K3 обладает набором уникальных характеристик, которые выделяют её на фоне конкурентов:

• Масштаб 2.8T: Первая в мире открытая модель такого объема.
• Контекстное окно 1M токенов: Позволяет обрабатывать колоссальные объемы данных в одной сессии.
• Kimi Delta Attention (KDA): Обеспечивает эффективную работу с длинными последовательностями.
• Native Vision: Нативная поддержка обработки визуальной информации.
• Stable LatentMoE: Оптимизированная работа с 896 экспертами, из которых активно работают 16.
• Высокая производительность: Демонстрирует результаты frontier-уровня, опережая такие модели, как Claude Opus 4.8, GPT 5.5 и GPT 5.6 Sol в ряде тестов.

Архитектура и инфраструктура

Для обеспечения стабильного обучения на уровне 2,8 трлн параметров, в Kimi K3 реализованы такие технологии, как Quantile Balancing (исключающий эвристические обновления экспертов) и Per-Head Muon (оптимизирующий головы внимания независимо). Модель использует квантование MXFP4 для весов и MXFP8 для активаций, что обеспечивает широкую совместимость с оборудованием.

Сценарии использования Kimi K3

Программирование и разработка

Kimi K3 демонстрирует исключительные результаты в долгосрочном кодинге. Она способна работать с минимальным контролем человека, ориентироваться в массивных репозиториях и управлять терминальными инструментами.

• Оптимизация ядер GPU: В тестах на оптимизацию ядер для NVIDIA H200 и сторонних GPGPU, Kimi K3 показала результаты, сопоставимые с Claude Fable 5.
• Создание компиляторов: С помощью Kimi K3 была разработана MiniTriton — компактный компилятор с собственным уровнем IR и пайплайном генерации кода PTX, который по производительности не уступает Triton.
• Разработка чипов: В качестве доказательства концепции, Kimi K3 автономно спроектировала чип для обслуживания наномодели за 48 часов, используя библиотеку Nangate 45nm.

Интеллектуальная работа со знаниями

Kimi K3 позволяет автоматизировать сложные исследовательские процессы:

• Астрофизика: Модель за два часа воспроизвела универсальные отношения I–Love–Q, проанализировав более 20 работ, внедрив численный пайплай и сгенерировав 3000+ строк кода на Python.
• Финансовый консалтинг: Создание интерактивных отчетов об индустрии AI ASIC за 42 года, включая анализ 11 000 страниц документов.
• Анализ гравитационных волн: Анализ 391 события GWTC-5 с использованием 20 субагентов.

Дизайн и создание видео

Благодаря нативной мультимодальной архитектуре, Kimi K3 отлично справляется с видеомонтажом и анимацией:

• Создание обучающих видео в стиле 3Blue1Brown.
• Монтаж сложных тизеров из десятков исходных клипов с точной синхронизацией по битам и аудиообработкой.

Как использовать Kimi K3

Вы можете начать работу с Kimi K3 уже сегодня через различные интерфейсы:

1. Приложение Kimi: Обновите приложение на iOS, Android или HarmonyOS до последней версии.
2. Kimi Work: Используйте десктопную версию 3.1.0 или выше для Windows и Mac (Apple silicon).
3. Kimi Code: В терминале выберите модель с помощью команды /model kimi-k3.
4. Kimi API: Доступно на платформе Kimi API под идентификатором kimi-k3.
   • Цена: $0.30 за 1 млн токенов (cache-hit input) / $3.00 (cache-miss input) / $15.00 (output).
5. Kimi Enterprise: Для организаций доступно управление участниками и повышенная конфиденциальность данных.

Важное примечание: Полные веса модели будут открыты к 27 июля 2026 года.

FAQ (Часто задаваемые вопросы)

В: Каков размер контекстного окна Kimi K3? О: Модель поддерживает контекстное окно объемом до 1 миллиона токенов.

В: Доступны ли веса модели для скачивания? О: Релиз полных весов модели запланирован на 27 июля 2026 года.

В: На каких архитектурных решениях построена Kimi K3? О: Модель базируется на Kimi Delta Attention (KDA), Attention Residuals (AttnRes) и фреймворке Stable LatentMoE.

В: Какова стоимость использования через API? О: Стоимость варьируется от $0.30 до $15.00 за миллион токенов в зависимости от типа входных данных (кэшированные или нет) и вывода.

В: Есть ли ограничения у модели? О: Kimi K3 может проявлять избыточную инициативность в задачах с неопределенным намерением пользователя. Также она чувствительна к истории «размышлений» (thinking history) — рекомендуется использовать совместимые интерфейсы, такие как Kimi Code.