The EU AI Act arrives August 2. Can you prove where your AI data goes?
Model Router

Ein Endpunkt für jedes Modell.

EU-souveräne und externe Modelle liegen hinter Ihrer einzigen Akumi-base_url. Der Router wählt pro Anfrage das richtige Modell, hält regulierte Daten in der EU und führt Fallback durch, wenn ein Anbieter ausfällt. Souveränität ist im Code durchgesetzt, nicht einer Checkbox überlassen.

ein Client · eine base_url · das Modell ist nur ein String

Anfrage Empfangen
Chat Completion

POST /v1/chat/completions

Zugeordnet
Routing-Richtlinie

Erlaubte Modelle für die Datenklasse ermitteln

Bestanden
Egress Guard

Regulierte Daten in der EU halten

Geroutet
mistral/mistral-small-2603

EU-ansässig · bedient

Übersprungen
openai/gpt-5.4

extern · hier nicht erlaubt

Ein Modell reicht nie aus. Fünf Anbieter sind ein Haftungsrisiko.

Sie brauchen mehr als ein Modell: für Leistung, für Kosten, für die Morgen, an denen ein Anbieter ausfällt. Doch jeder weitere Anbieter bedeutet ein weiteres SDK, einen weiteren Key, einen weiteren Ausfall, der zu Ihrem Ausfall wird, und einen weiteren Pfad, über den regulierte Daten ohne bewusste Entscheidung ein US-Modell erreichen könnten. Die meisten Teams flicken das mit eigenem Routing-Code zusammen und erben eine Compliance-Lücke, die sie nicht sehen können.

Routing, das Ihre Daten respektiert.

Legen Sie die Regeln einmal fest. Der Router wendet sie bei jeder Anfrage an, sodass die Richtlinie an einem Ort lebt statt über Services verstreut.

  • Richtlinienbasiertes Routing pro Datenklasse Entscheiden Sie, welche Modelle für welche Art von Daten erlaubt sind. Fixieren Sie besonders sensible Daten auf EU-only-Modelle; lassen Sie weniger kritischen Traffic ein externes Modell erreichen, wo es seinen Platz verdient.
  • Fail-Closed Egress Guard Eine Anfrage erreicht niemals ein externes oder Nicht-EU-Modell, sofern Sie es nicht erlaubt haben, mit durch den Firewall pseudonymisierten Daten oder einem gespeicherten Acknowledgement. Standardmäßig gesperrt, kein Best-Effort.
  • Automatisches Fallback Wenn ein erlaubtes Modell einen Fehler zurückgibt oder ein Timeout auftritt, wechselt der Router zum nächsten in Ihrer Reihenfolge. Ein einzelner Anbieterausfall hört auf, Ihr Problem zu sein.
routing-policy.yaml api.akumi.cloud
crown-jewel Nur EU
→ mistral/mistral-small-2603
internal Nur EU
→ mistral/*
general firewalled
→ mistral/*, openai/gpt-5.4

Unter Ihrer Kontrolle, von oben bis unten.

Eigene Keys mitbringen

Verwenden Sie Ihre eigenen Anbieter-Zugangsdaten, abgerechnet und auditiert an einer Stelle, mit Ihren Verträgen und Preisen unberührt. Kein Lock-in: der Client bleibt OpenAI-kompatibel.

Auditierte Routing-Entscheidungen

Jede Route wird aufgezeichnet: welches Modell lief, in welcher Region, über welchen Anbieter, und warum es erlaubt war. Beantworten Sie "Wo ist die Anfrage hingegangen?" mit dem Log, nicht einer Vermutung.

Standardmäßig transparent

Jede Antwort enthält das Modell und die Region, die sie bedient haben. Fallback und Richtlinien geschehen nie hinter Ihrem Rücken.

Kein gewöhnliches LLM-Gateway.

Generische Router optimieren für Kosten und Latenz. Der Model Router optimiert zuerst für die Antwort, die Ihr DPO braucht.

Routen Sie jedes Modell über einen Endpunkt.

Erstellen Sie einen Key, legen Sie Ihre Richtlinie fest und lassen Sie den Router jede Anfrage in der Spur halten.