Tek base URL. Tüm iç AI uygulamaları korunur.
OpenAI ve Anthropic istemcilerinizi Nymgate'e yönlendirin. Prompt'lar, akan cevaplar ve tool call'lar ağınızın içinde token'lanır ve geri yüklenir.
# before: https://api.openai.com/v1 client = OpenAI( base_url="https://nymgate.corp.internal/v1", api_key="pg_live_…", # gateway key ) client.responses.create(model="gpt-5", input=prompt)
Ağda
Uygulamanız değer gönderir. Sağlayıcıya token gider.
Uygulamanızın gönderdiği
POST /v1/responses
{
"model": "gpt-5",
"input": "Ahmet Yılmaz (ahmet.yilmaz@example.com) adlı müşterinin 4111 1111 1111 1111 numaralı kartla ilgili şikâyetini özetle."
}api.openai.com'un aldığı
{
"model": "gpt-5",
"instructions": "Values enclosed in ⟦…⟧ are opaque placeholders. Preserve them exactly…",
"input": "⟦PERSON:7F31:0001⟧ (⟦EMAIL:7F31:0002⟧) adlı müşterinin ⟦CARD:7F31:0003⟧ numaralı kartla ilgili şikâyetini özetle."
}Streaming
Parçalara bölünen token'lar da eksiksiz geri döner.
api.openai.com'dan
data: {"type":"response.output_text.delta","delta":"Sayın ⟦PERS"}data: {"type":"response.output_text.delta","delta":"ON:7F31:0001⟧, ⟦CARD:7F"}data: {"type":"response.output_text.delta","delta":"31:0003⟧ numaralı kartınız bloke."}Gateway'de bekleyen
⟦PERS⟦CARD:7Fbekleyen yokUygulamanıza
data: {"type":"response.output_text.delta","delta":"Sayın "}data: {"type":"response.output_text.delta","delta":"Ahmet Yılmaz, "}data: {"type":"response.output_text.delta","delta":"4111 1111 1111 1111 numaralı kartınız bloke."}Referans
Değiştirmeden kullanılan endpoint'ler.
| Yol | Sağlayıcı API | Not |
|---|---|---|
| POST /v1/responses | OpenAI Responses | Streaming, tool call'lar, saklanan konuşmalar |
| POST /v1/chat/completions | OpenAI Chat Completions | Streaming, tool call'lar |
| POST /v1/messages | Anthropic Messages | Streaming, tool use |
| Authorization / X-Api-Key | Gateway anahtarı | Uygulama başına pg_live_… sanal anahtar |
| X-Privacy-Conversation-Id | İsteğe bağlı header | Konuşmalar arasında katı ayrım |
Operasyon
İçeriksiz log. Bildiğiniz yapılandırma.
İstek başına bir denetim satırı
{"ts":"2026-10-23T09:14:02Z","app":"complaints-bot",
"surface":"api","provider":"openai","model":"gpt-5",
"entities":{"PERSON":1,"EMAIL":1,"CARD":1},
"detector":"2026.10.1","policy":"a91f3c",
"latency_ms":118,"result":"transformed"}Ortam değişkenleri ve Secret'lardan
PG_TENANT=acme-bank PG_REDIS_ADDR=redis.nymgate.svc:6379 PG_MASTER_KEY=<from Secret> PG_OPENAI_API_KEY=<from Secret> PG_ANTHROPIC_API_KEY=<from Secret> PG_CA_BUNDLE=/etc/ssl/corp-ca.pem PG_MAX_MESSAGE_CHARS=32000
Bugün neleri kapsıyor
Destekleniyor
- OpenAI Responses ve Chat Completions
- Anthropic Messages
- Streaming ve tool call'lar
- Metin ve yapılandırılmış içerik
Henüz değil
- Embeddings (reddedilir, ham gönderilmez)
- Ses ve realtime
- Görsel üretimi ve dosya API'leri
- Batch ve sağlayıcıda çalışan araçlar