Inference API

Wijs je OpenAI-client naar de EU.

De Akumi Inference API is OpenAI-compatibel en draait op EU-infrastructuur. Verwissel één base_url en je bestaande code werkt op EU-resident modellen: chat, tools, streaming en gestructureerde uitvoer, gemeterd per gebruik en geaudit vanaf het eerste token.

Gratis starten Lees de API-documentatie

POST https://api.akumi.cloud/v1/chat/completions

quickstart.py

              from openai import OpenAI
               
              client = OpenAI(
                  # de enige regel die verandert
                  base_url="https://api.akumi.cloud/v1",
                  api_key=os.environ["AKUMI_API_KEY"],
              )
               
              client.chat.completions.create(
                  model="mistral/mistral-small-2603",
                  messages=[
                      {"role": "user", "content": "Summarize this contract."},
                  ],
                  stream=True,
              )
            

Verander één regel. Behoud je hele stack.

Geen nieuwe SDK, geen herschrijving, geen migratieproject. Behoud de OpenAI-client waarmee je al bouwt, wijs hem naar Akumi en voeg je sleutel toe. Chat, function calling, streaming en JSON-modus werken precies zoals vandaag, nu op EU-resident modellen met één gemeterde factuur.

.env

- OPENAI_BASE_URL=https://api.openai.com/v1

+ OPENAI_BASE_URL=https://api.akumi.cloud/v1

Je stack werkt ongewijzigd.

De endpoints, request bodies en responses komen overeen met de OpenAI API, zodat de libraries, frameworks en tools die je al gebruikt gewoon blijven werken.

Chat Completions

POST /v1/chat/completions met het volledige berichtenoppervlak en de parameterset die je al verstuurt.

Streaming

Token-voor-token server-sent events, dezelfde respons die je krijgt met stream=true.

Tools en function calling

Definieer tools, laat het model ze aanroepen en stuur bij met tool_choice. Tool-inhoud wordt ook gereguleerd.

Gestructureerde uitvoer

response_format met een JSON-schema voor betrouwbare, getypeerde antwoorden waar je code op kan vertrouwen.

Embeddings

POST /v1/embeddings op EU-hosted modellen voor zoeken, clustering en retrieval.

Native /v1/process

Een native endpoint voor wanneer je de volledige Akumi pipeline-respons wilt, inclusief residency en modules.

Standaard soeverein, gereguleerd bij elke request.

EU-resident inferentie

Requests worden verwerkt op EU-infrastructuur. Inferentie en opslag blijven in de EU, zonder blootstelling aan de US CLOUD Act.

Egress guard

Routering naar een niet-EU-model is geblokkeerd tenzij je het expliciet toestaat, met persoonsgegevens gepseudoniimiseerd voordat ze de EU verlaten.

Geaudit vanaf het eerste token

Elke request is gemeterd en vastgelegd in een audit trail op metadataniveau, met het model, de regio en de modules. Geef compliance het logboek.

Veel modellen, één endpoint.

De Model Router plaatst elk model achter dezelfde base_url. Kies een EU-soeverein model, of sta een extern model toe onder beleid. Stel routeringsregels en automatische fallback in, en breng je eigen providersleutels mee.

Beleidsgestuurde routering Bepaal per dataklasse welke modellen zijn toegestaan, met kroonjuweeldata vastgehouden op EU-only modellen.
Automatische fallback Een storing bij een provider schakelt over naar het volgende toegestane model, zodat een request zelden gewoon mislukt.
Breng je eigen sleutels mee Gebruik je eigen providerreferenties wanneer je wilt, gefactureerd en geaudit via één plek.

GET /v1/models api.akumi.cloud

mistral/mistral-small-2603 EU-resident

mistral/mistral-large-2512 EU-resident

akumi/embed-eu EU-resident

openai/gpt-5.4 extern · gereguleerd

anthropic/claude-sonnet extern · gereguleerd

Betaal voor tokens, niet voor seats.

Basis-inferentie wordt gemeterd per token en request. Elke governance-module die je inschakelt wordt apart gemeterd, zodat de factuur leesbaar is als het werk dat het platform daadwerkelijk heeft verricht. Geen seats, geen minimums, geen verrassende tiers.

Per token en request

Basis-inferentie wordt gemeterd op werkelijk gebruik en afgeschreven van prepaid credits.

Per module

PII firewall, RAG, memory, guard en cache worden elk apart gemeterd wanneer gebruikt.

Één transparante factuur

Één creditledger met per-regeldetail, exporteerbaar voor finance en compliance.

Begin met één `base_url`.

Maak een sleutel aan, wijs je client naar Akumi en ship vandaag nog op EU-soevereine modellen.