AI & Local LLM
AI Gateway 2.0&Apple Metal Ollama
自動フェイルオーバー・仮想キー・ローカルGPU推論を備えたOpenAI/Anthropic互換ルーター。
> 概要: 自動フェイルオーバー・仮想キー・ローカルGPU推論を備えたOpenAI/Anthropic互換ルーター。
OpenAI & Anthropic SDK Compatible
Point any SDK, Claude Code, Cursor, or LangChain app to https://gateway.macka.test (http://127.0.0.1:11435):
GET /v1/modelsPOST /v1/chat/completions(OpenAI)POST /v1/messages(Anthropic / Claude Code)POST /v1/embeddings(Ollamabge-m3/all-minilm)
Automatic Multi-Channel Failover
If your primary Cloud API channel times out or hits rate limits, AI Gateway 2.0 automatically fails over to your next enabled channel (such as local Apple Metal Ollama) with zero downtime.