Cota boa no NIM. Roteador no OpenRouter.

Veredito

Use NIM para volume de prototipagem. Use OpenRouter para produção e dado sensível.

A “cota muito boa” do NIM hoje é isso: taxa, não crédito. A NVIDIA retirou o sistema de 1.000 / 5.000 créditos. O trial do Developer Program não tem prazo. O que limita é 40 requests por minuto (cap publicado, não ajustável) e 10.000 requests por dia. Para um agent interno com poucas dezenas de usuários, isso é generoso em tokens e apertado em concorrência.

NVIDIA NIM

O que a cota realmente é

Catálogo: build.nvidia.com/models. API: https://integrate.api.nvidia.com/v1. Chave no Developer Program, verificação por SMS. Sem cartão. Compatível com o SDK OpenAI.

curl -s https://integrate.api.nvidia.com/v1/chat/completions \
  -H "Authorization: Bearer $NVIDIA_NIM_API_KEY" \
  -H "Content-Type: application/json" \
  -d '{
    "model": "z-ai/glm-5.3-flash",
    "messages": [{"role":"user","content":"liste 3 tools para um agent de CRM"}],
    "tools": []
  }'

Modelos NIM · free endpoint

O que botar no agent, no hosted grátis

Lista verificada em 1–2 out 2026 (awesome-free-ai-coding + catálogo NVIDIA). IDs para model no chat completions.

Também no free list: google/gemma-4-31b-it, google/diffusiongemma-26b-a4b-it. Gemma 4 31B é denso, bom raciocínio; DiffusionGemma é outra classe (geração paralela).

OpenRouter

Mesma interface, providers de verdade

OpenRouter não hospeda peso. Roteia. Preço do provider com ~5,5% no crédito. Tool-calling chega padronizado no formato OpenAI. Trocar modelo é trocar a string.

Em requests com tools, o Auto Exacto já está ligado: a cada ~5 min reordena providers por throughput, taxa de tool call válida e bench. Não precisa do sufixo :exacto nesses casos. :nitro prioriza throughput; :floor prioriza preço (e libera flex tier).

Modelos para agent — uso real, 7 dias (out 2026)

Ranking de tool-calling no OpenRouter por tokens. Adoção, não qualidade pura. Preços de catálogo no dia da pesquisa; o router pode achar mais barato.

Providers

Quem de fato serve o peso

No OpenRouter o “modelo” é um apelido. O provider é o GPU. Tool call quebra mais por parser/quantização do host do que pelo card do laboratório. Pin conscientemente.

{
  "model": "deepseek/deepseek-v4.1-flash",
  "models": ["deepseek/deepseek-v4.1-flash", "z-ai/glm-5.3-flash", "openai/gpt-6-luna"],
  "messages": [],
  "tools": [],
  "provider": {
    "data_collection": "deny",
    "zdr": true,
    "require_parameters": true,
    "allow_fallbacks": true,
    "ignore": ["stealth"]
  }
}

openrouter/auto escolhe modelo pago pela tarefa. openrouter/free é o router só-grátis — quase sempre treina no prompt. Para interno, não use free + deny ao mesmo tempo: o 404 “no endpoints matching data policy” é exatamente isso.

Stack

Como plugar isso num agent interno amanhã

1. Dois clientes OpenAI-compatible

   NIM em integrate.api.nvidia.com/v1 com NVIDIA_NIM_API_KEY. OpenRouter em openrouter.ai/api/v1. Mesmo schema de tools. Um wrapper com retry 429 → cai no outro.

2. Papéis, não um modelo só

   Router / classificador: Nemotron Lightning ou GPT-OSS 20B no NIM, Groq no OpenRouter.
   Worker: GLM 5.3 Flash ou DeepSeek V4.1 Flash (NIM até 429, depois OpenRouter).
   Planner: GLM 5.3, Kimi K3 ou Nemotron Ultra.
   Escalation: Claude Opus 5.5 ou GPT-6 Sol, só no OpenRouter, com ZDR.

3. Respeita o RPM

   Fila local (token bucket 35/min no NIM, folga de 5). Junta tools. Cacheia system + RAG. Agents longos no OpenRouter; NIM para fan-out barato e eval.

4. Eval no teu harness

   Roda 30 tarefas reais (CRM, código interno, WhatsApp, PDF) nos quatro workers. Mede tool JSON válido, passos até terminar, custo. O ranking do OpenRouter é tráfego global, não o teu domínio.

NIM_BASE=https://integrate.api.nvidia.com/v1
NIM_WORKER=z-ai/glm-5.3-flash
NIM_PLANNER=moonshotai/kimi-k3
NIM_FAST=nvidia/nemotron-3.5-lightning-30b-a3b

OR_BASE=https://openrouter.ai/api/v1
OR_WORKER=deepseek/deepseek-v4.1-flash
OR_PLANNER=z-ai/glm-5.3
OR_ESCALATE=anthropic/claude-opus-5.5
OR_FAST=openai/gpt-oss-120b

Privacidade

Onde o dado interno não pode ir

Fontes

O que foi lido

• build.nvidia.com/models — catálogo e free endpoints
• Nemotron 3 Ultra card — agentic, TauBench, tool parser
• Fórum NVIDIA — créditos aposentados, trial sem prazo, RPM por modelo
• awesome-free-ai-coding NIM — 40 RPM, 10k RPD, IDs probe 2026-10-01
• OpenRouter tool-calling collection — ranking 7 dias, out 2026
• Provider routing docs — Exacto, ZDR, sort, nitro/floor
• Auto Exacto — tool requests on by default
• OpenRouter benchmarks — τ²-Bench Airline 2 out 2026