Cada «hola» cuesta: la economía de los tokens
La IA no cobra por pregunta: cobra por tokens —pedazos de texto, aproximadamente tres cuartos de palabra— que entran (tu prompt, los documentos pegados) y salen (la respuesta). Una petición RAG con cinco fragmentos pegados puede costar cien veces más en entrada que un chat simple; una función que el usuario pulsa sin saber que hay una llamada detrás puede multiplicar tu factura sin multiplicar tu valor. El builder que no sabe estimar no dirige: reza.
La hoja de cálculo mental
- Costo por llamada
tokens de entrada + salida × precio. El material pegado del prompt es el sospechoso habitual.
- Frecuencia
llamadas por usuario al día/mes: una función con botón es barata; una que corre sola en cada evento, no.
- Latencia
1-10 segundos por respuesta: ¿encaja en el flujo o el usuario se va? Streaming ayuda, no borra.
- Riesgo
clave expuesta, datos sensibles que viajan, respuesta que sale de la app sin filtro.
Los cuatro candados técnicos (innegociables)
| Candado | Qué hace | Sin él… |
|---|---|---|
| La clave vive del lado del servidor | la app llama a TU backend; el backend llama a la IA con la clave guardada en variable de entorno | cualquiera ve tu clave en el navegador y la gasta (o quema) a tu cargo |
| Límite de tokens de salida | tope duro en la petición: la respuesta no puede pasar de N palabras | un modelo enganchado en un bucle puede escribir hasta que tu tarjeta diga basta |
| Caché de respuestas repetidas | la misma pregunta frecuente se responde del caché, no de la IA | pagas por lo que ya contestaste diez veces hoy |
| Presupuesto con alarma | techo mensual de gasto con aviso temprano al 50 y 80 % | la factura del mes que viene es tu primera noticia del descontrol |
El prompt del presupuesto antes del código
Números, no adjetivos: la decisión de seguir es después de la cuenta
Antes de construir la funcion de resumen de tickets con IA, hazme la hoja de costos:\n\n1. ESTIMACION: tokens aproximados de entrada y salida por llamada con mi diseno actual\n (pego el hilo completo). Precio por llamada y por 1.000 usuarios al mes.\n2. OPTIMIZACION: proponme 3 variantes mas baratas (recortar hilo, resumen parcial,\n cachear por plantilla) con su costo y su perdida de calidad.\n3. CANDADOS: confirma en el diseno los 4 innegociables: clave solo en servidor con\n variable de entorno, limite de tokens de salida, caché de repetidas, y techo\n mensual con alarma al 50 y 80 %.\n4. LATENCIA: tiempo esperado de respuesta; si pasa de 3 segundos, propón como\n mostrar avance al usuario (streaming o indicador).\n\nDame numeros, no adjetivos. Si la cuenta sale cara para el valor que entrega,\ndilo en una linea y yo decido si sigue.Para reforzar
Prueba
Tu app tiene un botón «resumir este ticket» que llama a la IA. ¿Qué diseño es el correcto?
Una función con IA es cara solo si la respuesta es larga; la entrada del prompt casi no pesa en el costo.
Detecta el «IA» que no debía ser IA
Cuatro decisiones de funciones en proyectos de alumnos. Señala la que NO merece IA:
Marca la línea o las líneas con error y pulsa Comprobar.
Toma la función con IA que estés considerando (o la del OA anterior) y hazle la hoja de costos del prompt: números por llamada, por mes, con las tres variantes de ahorro y los cuatro candados marcados uno a uno. Termina con la decisión honesta en una línea: sigue, se recorta, o aquí no va IA.
Saber qué construir incluye saber qué NO construir: la cuenta es la que manda.
Tu texto se guarda sólo en este dispositivo.
Comentarios
Inicia sesión para comentar.
Todavía no hay comentarios. Sé la primera persona en opinar.