🚀 Launch Special: Save 30% on Macka Pro Lifetime with coupon LAUNCH30 — Own Pro forever! Claim Offer →
AI & Local LLM

AI Gateway 2.0&Apple Metal Ollama

自動フェイルオーバー・仮想キー・ローカルGPU推論を備えたOpenAI/Anthropic互換ルーター。

> 概要: 自動フェイルオーバー・仮想キー・ローカルGPU推論を備えたOpenAI/Anthropic互換ルーター。

OpenAI & Anthropic SDK Compatible

Point any SDK, Claude Code, Cursor, or LangChain app to https://gateway.macka.test (http://127.0.0.1:11435):

  • GET /v1/models
  • POST /v1/chat/completions (OpenAI)
  • POST /v1/messages (Anthropic / Claude Code)
  • POST /v1/embeddings (Ollama bge-m3 / all-minilm)

Automatic Multi-Channel Failover

If your primary Cloud API channel times out or hits rate limits, AI Gateway 2.0 automatically fails over to your next enabled channel (such as local Apple Metal Ollama) with zero downtime.