Apple Silicon上でCloud↔Ollama自動フェイルオーバーを実現するAI Gateway 2.0
OpenAI・Anthropic・Geminiを単一のローカルHTTPSエンドポイントに統合し、ローカルGPUへ自動切替。
> 概要: OpenAI・Anthropic・Geminiを単一のローカルHTTPSエンドポイントに統合し、ローカルGPUへ自動切替。
Building AI-powered apps locally means juggling API keys across OpenAI, Anthropic, Gemini, and local Ollama — and watching your dev workflow halt whenever a cloud provider hits rate limits.
One Local Endpoint: https://gateway.macka.test
Macka.ai AI Gateway 2.0 exposes OpenAI (/v1/chat/completions, /v1/embeddings) and Anthropic (/v1/messages) endpoints locally. Issue virtual project keys (sk-macka-...), track token costs per project, and rely on automatic failover to Apple Metal Ollama whenever upstream cloud channels are unreachable.