Quanto tempo leva um trabalho LLM em massa — e quanto custa — com trabalhadores paralelos.
O tempo de execução de um trabalho em massa é o total de tokens ÷ a taxa de transferência combinada, de modo que mais trabalhadores terminam mais rápido – até que o limite de TPM/RPM do provedor atinja o limite. Esta ferramenta mostra tempo e custo juntos. Verifique o teto do calculadora de limite de taxa e o desconto no calculadora de economia de API em lote.
Trocas
Ferramentas e hospedagem
Calculadora gratuita de processamento em lote - contagem de itens, tokens cada, velocidade e simultaneidade com o tempo de parede e custo total de um trabalho LLM em massa.
Total de tokens = itens × tokens por item. Divida pela taxa de transferência combinada (velocidade por trabalhador × número de trabalhadores paralelos) para obter os segundos do relógio de parede. Dez trabalhadores a 60 tok/s entregam 600 tok/s, portanto, um trabalho de 8 milhões de tokens leva cerca de 3,7 horas – antes que os limites de taxa o limitem.
Se o trabalho não for urgente, sim. Os endpoints em lote (OpenAI, Anthropic, Gemini) executam trabalhos de forma assíncrona em uma janela de 24 horas por aproximadamente metade do preço por token. Você troca a latência imediata por um grande desconto – ideal para preenchimentos de incorporações, avaliações e enriquecimento offline.