Respuesta rápida (actualizado el 27-10-2026)
La respuesta no es "local o nube", sino qué parte de tu carga va en cada lado. Los precios publicados por Anthropic para Claude Sonnet 5.5 son US$2 por millón de tokens de entrada y US$10 por millón de tokens de salida, y para Claude Haiku 5.5 son US$0,10 por millón de tokens de entrada (hasta 100.000 tokens) y US$0,50 por millón de tokens de salida (fuente primaria: Anthropic, Pricing — Claude Platform Docs, consultado el 27-10-2026). Con esos precios a la vista, la decisión se vuelve aritmética: workloads estables y sensibles suelen justificar infraestructura propia; picos, experimentos y cargas variables se pagan mejor por API.
Por qué esta pregunta aparece ahora
En nuestra propia analítica, la landing /inference recibió 131 visitas entre el 28-09-2026 y el 27-10-2026, contra 14 en el período anterior, y el artículo Modelos locales vs APIs: cálculo real de coste, privacidad y hardware propio acumuló 30 visitas en 90 días (fuente primaria: analítica de personnn.com, datos de la oficina). No es un tema de nicho: son las preguntas que nos hacen los equipos que ya están pagando APIs y quieren entender su cuenta.
El punto de fricción real no es tecnológico, es de decisión. Hay tres preguntas que siempre aparecen:
- ¿Qué nos cuesta hoy realmente cada workload?
- ¿Qué pasa con los datos que no pueden salir de la organización?
- ¿Qué pasa si el volumen se multiplica por diez?
El costo: compara por token, no por factura
Los proveedores de modelos publican precios por millón de tokens, así que el primer paso es lineal y verificable. Con los precios publicados por Anthropic (fuente primaria: Pricing — Claude Platform Docs, 27-10-2026):
- Claude Sonnet 5.5: US$2 / MTok de entrada y US$10 / MTok de salida.
- Claude Haiku 5.5: US$0,10 / MTok de entrada (hasta 100.000 tokens) y US$0,50 / MTok de salida; sobre 100.000 tokens de entrada el precio sube a US$2,50 / MTok.
- Claude Opus 5.5: US$4 / MTok de entrada y US$20 / MTok de salida.
Ahora el cálculo, que es aritmética nuestra sobre esos precios publicados (no es un precio de Personnn):
- 10 millones de tokens de entrada con Claude Sonnet 5.5: 10 × US$2 = US$20.
- 10 millones de tokens de salida con Claude Sonnet 5.5: 10 × US$10 = US$100.
- Ese mismo volumen de salida con Claude Haiku 5.5: 10 × US$0,50 = US$5.
La variable que decide es el mix entre entrada y salida, porque la salida cuesta varias veces más que la entrada en la misma familia de modelos. Si tu aplicación genera respuestas largas (resúmenes, agentes, código, documentos), el costo se dispara; si la mayor parte del tráfico es clasificación o extracción, el modelo de entrada más barata cambia el orden completo.
El segundo factor es el volumen estable o intermitente. Un precio por token no cambia si el volumen es irregular; una máquina dedicada sí cambia. Si el consumo sube y baja, el hardware propio queda ocioso, y ahí la API gana. Si el consumo es parejo y alto, la eficiencia de una máquina ya comprada y amortizada empieza a pesar.
Dato que todavía no tenemos: el costo eléctrico y de amortización de un servidor con GPU en Chile, comparado con la misma carga en API, depende del precio de la energía, del modelo de tarjeta y de las horas de uso. Lo dejamos marcado como estimación no verificada hasta contar con una medición propia con boleta. Cualquier número que aparezca sobre infraestructura local antes de esa medición debe tratarse como hipótesis, no como cifra.
La privacidad: el criterio que no se negocia en algunos sectores
Finanzas, salud y comercio con datos personales tienen restricciones que no se resuelven con un acuerdo comercial estándar. Cuando el dato no puede salir de la organización, la opción de inferencia local deja de ser una alternativa y pasa a ser la única compatible con la norma.
Los criterios que usamos para decidir:
- Residencia del dato: ¿el texto del usuario puede procesarse en infraestructura de terceros?
- Retención y entrenamiento: ¿el proveedor usa las entradas para entrenar? Revisa los términos vigentes del proveedor antes de comprometerte.
- Auditoría: ¿puedes registrar qué modelo respondió, con qué versión y qué datos procesó?
- Regulación sectorial: ¿el tratamiento exige infraestructura bajo tu control?
La respuesta rápida a "esto es nube o local" es: para datos que no pueden salir, es local o no es opción. Para todo lo demás, la decisión es de costo y de operación.
Latencia: importa menos de lo que parece
La latencia entre tu servidor y la API se mide en decenas de milisegundos extra por sobre el tiempo de inferencia del modelo. Ese sobrecosto no suele decidir un producto. Lo que sí decide es el tiempo de respuesta percibido en flujos conversacionales, y ese depende del modelo que eliges y de dónde se ejecuta.
Regla práctica: si tu usuario espera más de un segundo por la respuesta completa, estás midiendo el modelo, no el transporte. La infraestructura local tiene sentido cuando además quieres que el sistema siga operando sin dependencia de un tercero, no solo por milisegundos.
Un modelo de decisión en tres preguntas
Antes de mover una carga a infraestructura propia, responde:
- ¿El workload tiene volumen estable y alto? Si es intermitente, sigue en API y paga solo lo que consumes.
- ¿Los datos pueden salir de la organización? Si no, local no es opcional.
- ¿Qué porcentaje de la carga es entrada vs salida, y qué modelo usas? Ese mix, con los precios publicados, define tu gasto mensual real.
Combinando las tres respuestas obtienes el patrón típico:
| Perfil de workload | Recomendación |
|---|---|
| Datos sensibles + volumen estable | Inferencia local |
| Datos sensibles + volumen intermitente | Local para lo sensible, API para el resto |
| Sin sensibilidad de datos + volumen variable | API |
| Sin sensibilidad + volumen alto y parejo | Evaluar local con números propios |
Qué ofrece Personnn en esta decisión
/inference es la línea de Personnn para ejecutar y servir modelos en infraestructura controlada, con una interfaz única para desplegar, medir y escalar. El complemento natural es /email, porque ahí es donde aparecen los casos donde el dato no puede salir de la organización.
La propuesta no es "deja la nube" ni "nunca uses APIs", sino una capa de ejecución que te deja decidir workload por workload, con los números de cada lado a la vista.
Lleva tus números a una conversación concreta
Si ya tienes tus volúmenes de tokens y tu mezcla entrada/salida, podemos hacer el cálculo contigo y decirte con honestidad si conviene mover esa carga o dejarla en API.
Regístrate en /registro y trae tus números: tokens mensuales de entrada y salida, modelo que usas hoy y la ubicación de los datos. Con eso respondemos en una sesión técnica si la infraestructura propia se justifica en tu caso, o si la respuesta honesta es que todavía no.
Fuentes primarias citadas en este artículo: Anthropic, Pricing — Claude Platform Docs (https://platform.claude.com/docs/en/about-claude/pricing, consultado el 27-10-2026). Datos de tráfico de la oficina: analítica de personnn.com, corte 27-10-2026. Las cifras de infraestructura local no verificadas están marcadas como tales y no deben citarse como fuente.