Auriko

Auriko - AI推論コストを極限まで削減する究極のトレーディングデスク

AI（人工知能）の導入が進む現代において、企業が直面する最大の課題の一つが**AI推論（AI Inference）**のコストとパフォーマンスの管理です。Aurikoは、この課題を解決するために設計された「AI推論のためのトレーディングデスク」です。キャッシュを考慮した高度なLLMルーティングを活用することで、推論コストの削減と信頼性の向上を同時に実現します。

What's Auriko?

Aurikoは、プロトタイプからプロダクション環境まで、AIアプリケーションの展開に必要なすべてを備えた包括的なインファレンス・プラットフォームです。複数のLLM（大規模言語モデル）プロバイダーを一元管理し、各リクエストに対して最適なプロバイダーを動的に選択する**Unified API（統一API）**を提供します。

Aurikoの核となるのは、単なる価格比較を超えた**ディープ・コスト・オプティマイゼーション（深いコスト最適化）**です。各プロバイダーの価格設定やプロンプトキャッシュの仕組みをモデル化し、ワークロードに基づいて最も安価なプロバイダーへリクエストをルーティングします。

サポートされているモデルプロバイダー

Aurikoは、業界をリードする多数のプロバイダーをサポートしています：

• OpenAI
• Anthropic
• Google AI Studio
• xAI
• Fireworks AI
• Together AI
• DeepSeek
• DeepInfra
• MiniMax
• Moonshot AI
• Z.AI
• SiliconFlow

---

Aurikoの主な特徴 (Features)

1. 統一API (Unified API)

Aurikoを使用することで、開発者は一つのAPIを通じてあらゆるモデルやプロバイダーにアクセスできます。OpenAI互換のドロップインとして機能するため、既存のコード資産を活かしつつ、各プロバイダー独自の機能を維持することが可能です。

2. 予測シグナルによるリアルタイム最適化

プロバイダーのパフォーマンス、稼働状況、キャッシュの振る舞い、およびユーザーの使用パターンに関するリアルタイムのシグナルを収集します。この定量的なデータエンジンにより、コスト最適化されたルーティングやパフォーマンスチューニングが可能になります。

3. 高度なルーティング戦略 (Routing Strategies)

標準のデフォルト設定だけでなく、独自のルーティング戦略を定義できます。以下の要素をターゲットに最適化が可能です：

• TTFT (Time To First Token): 最初のトークンが生成されるまでの時間を最小化。
• スループット (P95 TPS): 一定以上のTPS（Tokens Per Second）を確保。
• コスト制約: 100万トークンあたりの入力コスト上限を設定。
• データポリシー: ZDR（Zero Data Retention）プロバイダーのみを選択。

4. グローバル展開と自動フェイルオーバー

Aurikoは世界中に分散されたエッジネットワークを通じてルーティングを行い、低レイテンシを実現します。また、自動フェイルオーバー機能により、特定のプロバイダーに障害が発生しても予備のプロバイダーへ即座に切り替え、継続的なアップタイムを保証します。

5. キー・オーケストレーションと予算管理

自分のAPIキー（BYOK）またはプラットフォーム提供のキー、あるいはその両方を組み合わせて利用できます。また、ワークスペースやAPIキー単位で支出制限やアラートを設定できる強力な予算管理（Budget Controls）機能を備えており、Dev、Staging、Production環境ごとのコストを詳細に把握できます。

---

活用シーン (Use Case)

Aurikoは、AIをコアとするビジネスのあらゆるステージで活用いただけます。

• マルチモデル・アプリケーションの開発: 複数のLLMを使い分けるアプリにおいて、単一のインターフェースで管理を簡素化したい場合。
• 推論コストの削減: 大規模なトラフィックが発生するプロダクション環境で、キャッシュ効率を最大化し、1トークンあたりの単価を抑えたい場合。
• 信頼性の確保: ミッションクリティカルなサービスで、プロバイダーのダウンタイムによるサービス停止を防ぎたい場合。
• エンタープライズレベルの管理: 開発チーム全体でのAPIキー利用状況や予算を一元管理したい場合。

---

利用方法 (How to Use)

Aurikoは、数行のコードを変更するだけで既存のプロジェクトに統合できます。PythonやTypeScriptなどの主要な言語に対応しています。

Python (OpenAI SDK互換) での統合例

import os
from openai import OpenAI

# AurikoのAPIキーとエンドポイントを設定
client = OpenAI(
    api_key=os.environ["AURIKO_API_KEY"],
    base_url="https://api.auriko.ai/v1",
)

# リクエストの作成とルーティング戦略の指定
response = client.chat.completions.create(
    model="deepseek-v4-pro",
    messages=[{"role": "user", "content": "Hello!"}],
    extra_body={"gateway": {"routing": {
        "optimize": "cost-focus",
        "max_ttft_ms": 800,
        "ttft_percentile": "p50",
        "data_policy": "zdr",
    }}}
)

Aurikoは、LangChain、Vercel AI SDK、LlamaIndex、CrewAIなど、主要なAIエコシステムともシームレスに連携します。

---

FAQ (よくある質問)

Q: Aurikoを導入するために、既存のプロバイダーとの契約を解除する必要がありますか？ A: いいえ。AurikoはBYOK（Bring Your Own Key）をサポートしており、すでにお持ちのOpenAIやAnthropicのキーをそのままAurikoのオーケストレーションエンジンで使用できます。

Q: レイテンシへの影響はありますか？ A: Aurikoはグローバルに分散されたエッジネットワークを採用しており、レイテンシの最適化を最優先事項としています。むしろ、より高速なプロバイダーへ動的にルーティングすることで、全体のパフォーマンスが向上する場合があります。

Q: どのようなルーティング戦略が設定できますか？ A: コスト優先、レイテンシ優先、スループット優先など、ビジネス要件に合わせて自由に設定できます。また、特定のプロバイダーを強制したり、データ保持ポリシーに基づいた制限をかけたりすることも可能です。

Q: 小規模なプロジェクトでも利用できますか？ A: はい。Aurikoはプロトタイプから大規模なプロダクションまで対応しており、プロジェクトの成長に合わせてスケールできる予算管理機能も提供しています。

Aurikoで、より速く、より安く、そしてより信頼性の高いAIプロジェクトを今すぐ始めましょう。