AI & Local LLM
AI Gateway 2.0 & Ollama Apple Metal
Routeur API OpenAI & Anthropic unifié avec basculement automatique, clés virtuelles et GPU local.
> Résumé: Routeur API OpenAI & Anthropic unifié avec basculement automatique, clés virtuelles et GPU local.
OpenAI & Anthropic SDK Compatible
Point any SDK, Claude Code, Cursor, or LangChain app to https://gateway.macka.test (http://127.0.0.1:11435):
GET /v1/modelsPOST /v1/chat/completions(OpenAI)POST /v1/messages(Anthropic / Claude Code)POST /v1/embeddings(Ollamabge-m3/all-minilm)
Automatic Multi-Channel Failover
If your primary Cloud API channel times out or hits rate limits, AI Gateway 2.0 automatically fails over to your next enabled channel (such as local Apple Metal Ollama) with zero downtime.