Desarrollo de Software con IA

El precio de la IA: tokens, latencia y a qué le dices que no

Estimar costo por uso, controlar secretos y decidir cuándo NO poner IA.

Cada «hola» cuesta: la economía de los tokens

La IA no cobra por pregunta: cobra por tokens —pedazos de texto, aproximadamente tres cuartos de palabra— que entran (tu prompt, los documentos pegados) y salen (la respuesta). Una petición RAG con cinco fragmentos pegados puede costar cien veces más en entrada que un chat simple; una función que el usuario pulsa sin saber que hay una llamada detrás puede multiplicar tu factura sin multiplicar tu valor. El builder que no sabe estimar no dirige: reza.

[La hoja de cálculo mental]

Esta actividad interactiva ('Explicacion visual') requiere el motor completo de Lumbre. El contenido estatico se muestra arriba; para la experiencia interactiva, visita la version online de este objeto.

Los cuatro candados técnicos (innegociables)

El orden es el de siempre en este curso: la técnica la monta la IA en dos prompts; lo que es tuyo es EXIGIRLOS. Ningún candado de esta tabla es opcional «por ahora».
CandadoQué haceSin él…
La clave vive del lado del servidorla app llama a TU backend; el backend llama a la IA con la clave guardada en variable de entornocualquiera ve tu clave en el navegador y la gasta (o quema) a tu cargo
Límite de tokens de salidatope duro en la petición: la respuesta no puede pasar de N palabrasun modelo enganchado en un bucle puede escribir hasta que tu tarjeta diga basta
Caché de respuestas repetidasla misma pregunta frecuente se responde del caché, no de la IApagas por lo que ya contestaste diez veces hoy
Presupuesto con alarmatecho mensual de gasto con aviso temprano al 50 y 80 %la factura del mes que viene es tu primera noticia del descontrol

El prompt del presupuesto antes del código

Números, no adjetivos: la decisión de seguir es después de la cuenta
Antes de construir la funcion de resumen de tickets con IA, hazme la hoja de costos:\n\n1. ESTIMACION: tokens aproximados de entrada y salida por llamada con mi diseno actual\n   (pego el hilo completo). Precio por llamada y por 1.000 usuarios al mes.\n2. OPTIMIZACION: proponme 3 variantes mas baratas (recortar hilo, resumen parcial,\n   cachear por plantilla) con su costo y su perdida de calidad.\n3. CANDADOS: confirma en el diseno los 4 innegociables: clave solo en servidor con\n   variable de entorno, limite de tokens de salida, caché de repetidas, y techo\n   mensual con alarma al 50 y 80 %.\n4. LATENCIA: tiempo esperado de respuesta; si pasa de 3 segundos, propón como\n   mostrar avance al usuario (streaming o indicador).\n\nDame numeros, no adjetivos. Si la cuenta sale cara para el valor que entrega,\ndilo en una linea y yo decido si sigue.

Para reforzar

Webhooks, errores HTTP y costos de uso
Los límites de uso y el costo de API desde la vista del servicio que consumes.

Tokens, autenticación y claves: protege tus accesos
El candado número uno en detalle: variables de entorno y qué autoriza cada clave.

Prueba

Tu app tiene un botón «resumir este ticket» que llama a la IA. ¿Qué diseño es el correcto?

Una función con IA es cara solo si la respuesta es larga; la entrada del prompt casi no pesa en el costo.

Detecta el «IA» que no debía ser IA

Cuatro decisiones de funciones en proyectos de alumnos. Señala la que NO merece IA:

  1. Clasificar correos entrantes en 4 categorías con revisión humana de un clic.
  2. Sumar los items del carrito y aplicar el impuesto al momento de pagar.
  3. Resumir hilos largos de comentarios para el reporte semanal.
  4. Extraer fecha y monto de facturas PDF permitiendo «no encontrado».

Identifica la linea con error.

Toma la función con IA que estés considerando (o la del OA anterior) y hazle la hoja de costos del prompt: números por llamada, por mes, con las tres variantes de ahorro y los cuatro candados marcados uno a uno. Termina con la decisión honesta en una línea: sigue, se recorta, o aquí no va IA.

PistaSaber qué construir incluye saber qué NO construir: la cuenta es la que manda.