Jalapeño: números fortes de inferência ainda não são um business case de produção

O sinal e os factos que mudam a decisão

A OpenAI publicou em 25 de agosto os primeiros resultados do seu chip de inferência Jalapeño. Segundo a empresa, nos testes InferenceX com GPT-OSS 120B, DeepSeek R1 e Kimi K2.5, o sistema entregou 1,5 a 1,9 vezes mais trabalho de IA por watt no pico e latência fim a fim 1,7 a 3,6 vezes menor do que os sistemas de comparação.

A OpenAI normalizou o teste pelo power rating publicado: Jalapeño é classificado a 700 W e, segundo a medição da empresa, permaneceu em ou abaixo de 550 W nos workloads testados. Os números divulgados cobrem três modelos públicos e condições InferenceX específicas; vantagens internas em modelos de fronteira são afirmações adicionais do fornecedor, não resultados públicos reproduzidos.

A empresa planeia começar a implantar Jalapeño na sua própria infraestrutura até ao fim de 2026 e diz que continua a qualificação de produção; o anúncio não constitui oferta geral nem SLA. Comparar apenas TDP do pacote, tokens por segundo ou uma fronteira de benchmark pode excluir memória, rede, host, refrigeração, retries e qualidade; um ganho no chip pode desaparecer no serviço ou não estar disponível comercialmente ao comprador.

Decisão, limites e condição de bloqueio

Registe os resultados como evidência de fornecedor, não como ranking universal. Qualquer decisão de capacidade ou compra precisa de reproduzir o workload real, qualidade de resposta, concorrência, comprimento de contexto, disponibilidade, energia total do sistema, software, suporte e custo por tarefa concluída.

Comparar apenas TDP do pacote, tokens por segundo ou uma fronteira de benchmark pode excluir memória, rede, host, refrigeração, retries e qualidade; um ganho no chip pode desaparecer no serviço ou não estar disponível comercialmente ao comprador.

Execução e prova de conclusão

A execução deve começar por congelar um corpus real com qualidade mínima, distribuição de prompts, contextos, outputs, concorrência, cache e taxa de sucesso. Depois, medir energia e custo do sistema completo por tarefa útil, incluindo fila, retries, rede, memória, host e operação. O fecho exige comparar alternativas na mesma experiência de utilizador e publicar intervalos, condições, falhas e capacidade disponível.

O business case só fecha quando custo, energia, latência p95/p99, throughput, qualidade e disponibilidade são medidos no workload da organização e continuam favoráveis depois de suporte, migração e risco de concentração.

• congelar um corpus real com qualidade mínima, distribuição de prompts, contextos, outputs, concorrência, cache e taxa de sucesso.
• medir energia e custo do sistema completo por tarefa útil, incluindo fila, retries, rede, memória, host e operação.
• comparar alternativas na mesma experiência de utilizador e publicar intervalos, condições, falhas e capacidade disponível.
• O business case só fecha quando custo, energia, latência p95/p99, throughput, qualidade e disponibilidade são medidos no workload da organização e continuam favoráveis depois de suporte, migração e risco de concentração.