BaseRT favicon

BaseRT

オープンサイト

BaseRT: Apple Siliconに最適化された世界最速のAIランタイム

導入:

BaseRTは、Apple Silicon上で圧倒的な推論速度を実現する次世代ランタイムです。Llama 3.2、Gemma 4、Qwen 3シリーズなどの主要なオープンソースモデルに対応し、MLXやllama.cppを大幅に上回るパフォーマンスを誇ります。特にPrefill処理では最大6.4倍の高速化を達成。ローカル環境でのコーディングエージェント構築にも最適で、プライバシーを維持したまま最高峰のAI体験を提供します。

追加日:

2026-07-20

月間訪問者数:

--K

コードとIT
BaseRT - AI Tool Screenshot and Interface Preview

BaseRT 製品情報

BaseRT - Apple Siliconで最高速を誇る次世代AIランタイム

Apple Siliconの真の力を引き出す準備はできていますか？BaseRTは、Apple Mシリーズチップ向けに特別に設計・最適化された、世界最速のAI推論ランタイムです。開発者がオンデバイスAIの可能性を最大限に活用できるよう、既存のソリューションを圧倒するパフォーマンスを提供します。

BaseRTとは？

BaseRTは、メルボルンとベルリンを拠点とするチームによって開発された、Apple Silicon専用の高性能ランタイムです。オープンソースモデルをローカル環境で実行する際、従来のフレームワークであるMLXやllama.cppでは到達できなかった驚異的な処理速度を実現します。

BaseRTは、単なる推論エンジンではなく、プライバシー、効率性、そしてスピードを重視するエンジニアのために構築されています。GitHubでのコード公開や詳細なテクニカルレポート、BaseRTドキュメント、さらにはDiscordコミュニティを通じて、常に進化を続けています。

BaseRTの主な特徴

1. 圧倒的なベンチマーク性能

BaseRTは、Apple Silicon上での推論において、他の主要なランタイムを凌駕しています。Apple M5 Proを使用したベンチマーク結果では、以下の驚異的な数値を記録しています。

  • Prefill（プリフィル）: llama.cppに対して最大6.4倍、MLXに対して最大3.9倍の高速化を実現。
  • Decode（デコード）: 最大1.33倍の高速化を実現。

具体的なパフォーマンス数値 (Tokens / Sec)

Apple M5 Proにおけるベンチマーク例

  • Qwen3 0.6B (Q4) / Decode:
    • BaseRT: 531
    • MLX: 398 (+33%)
    • llama.cpp: 386 (+37%)
  • Gemma 4 E2B (Q8) / Prefill:
    • BaseRT: 16,264
    • MLX: 12,355 (+32%)
    • llama.cpp: 2,547 (+539%)

2. 多様なモデルサポート

BaseRTは、最新かつ人気のある多くのオープンソースモデルをサポートしています。以下のモデルをBaseRT上で高速に実行可能です。

  • Qwenシリーズ: Qwen3, Qwen3.5, Qwen3.6
  • Llamaシリーズ: Llama 3.1, Llama 3.2
  • Gemmaシリーズ: Gemma 3, Gemma 4
  • その他: Mistral, Phi-3, Nomic BERT

3. 完全なローカル実行とプライバシー

BaseRTを使用すれば、すべてのデータ処理を自分のマシン内（オンデバイス）で完結させることができます。APIキーは不要で、外部サーバーにデータが送信される心配もありません。

BaseRTの使用方法

BaseRTの導入は非常にシンプルです。以下のワンラインコマンドを実行するだけで、インストールが完了します。

$ curl -LsSf https://basecompute.co/install.sh | sh

モデルのサービング方法

インストール後、BaseRTを使用してモデルを簡単にサービングできます。

# BaseRTでモデルを起動
basert serve basecompute/gemma-4-E4B-it

ユースケース：ローカルコーディングエージェント

BaseRTの圧倒的なスピードは、ローカルで動作するコーディングエージェントの実行に最適です。レイテンシを最小限に抑え、快適な開発環境を構築できます。

実装手順：

  1. モデルのサービング: BaseRTを起動して、目的のモデルを準備します。
  2. プラグインのインストール: 以下のコマンドでコーディングエージェント用プラグインをインストールします。 
    pi install git:github.com/basecompute/pi-basert
  3. エージェントの実行: すべての設定が整ったら、piコマンドで実行します。これにより、APIを介さず、すべてローカルリソースのみで動作する高速なコーディング支援が受けられます。

FAQ（よくある質問）

Q: BaseRTはどのデバイスで最適に動作しますか？

A: BaseRTはApple Silicon（M1, M2, M3, M4, M5シリーズ以降のチップ）を搭載したMacデバイスに特化して最適化されています。ベンチマークではApple M5 Proで特に優れた結果を出しています。

Q: MLXやllama.cppと比べて何が違いますか？

A: BaseRTはApple Siliconのハードウェア特性をさらに深く活用しており、特にPrefill（入力処理）とDecode（生成処理）の両方において、既存のランタイムよりも高いトークン/秒のスループットを実現しています。

Q: サポートが必要な場合はどこへ行けばよいですか？

A: Discordコミュニティが非常に活発です。オンデバイスAIを構築するエンジニアやオープンソースモデルの活用に取り組むメンバーと交流したり、質問したりすることが可能です。現在、37名のメンバーが参加しています。

Q: 利用可能なモデルはどこで確認できますか？

A: 公式ドキュメントおよびGitHubのリポジトリにて、サポートされているモデルの最新リストを確認できます。Qwen、Llama、Gemmaなどの主要モデルは幅広くカバーされています。

BaseRTは、AIの未来をローカル環境へ、そしてあなたのMacへと引き寄せます。