AI & Local LLM
AI Gateway 2.0 & Apple Metal Ollama
Einheitlicher OpenAI- & Anthropic-Router mit automatischem Failover, virtuellen Schlüsseln und lokaler GPU.
> Zusammenfassung: Einheitlicher OpenAI- & Anthropic-Router mit automatischem Failover, virtuellen Schlüsseln und lokaler GPU.
OpenAI & Anthropic SDK Compatible
Point any SDK, Claude Code, Cursor, or LangChain app to https://gateway.macka.test (http://127.0.0.1:11435):
GET /v1/modelsPOST /v1/chat/completions(OpenAI)POST /v1/messages(Anthropic / Claude Code)POST /v1/embeddings(Ollamabge-m3/all-minilm)
Automatic Multi-Channel Failover
If your primary Cloud API channel times out or hits rate limits, AI Gateway 2.0 automatically fails over to your next enabled channel (such as local Apple Metal Ollama) with zero downtime.