Autonomía sin jaula es un incidente esperando
Le diste al agente una tarea de tres archivos y terminó tocando quince, instalando un paquete que nadie pidió y "arreglando" un test que estorbaba. No es maldad: es la naturaleza de un sistema optimizado para cumplir tu objetivo con lo que ve. La diferencia entre el agente que usas y el agente que te usa está en el reglamento: qué puede tocar, qué debe pedirte, qué está prohibido y cómo te demuestra que cumplió.
[Las cuatro capas de la jaula]
Esta actividad interactiva ('Explicacion visual') requiere el motor completo de Lumbre. El contenido estatico se muestra arriba; para la experiencia interactiva, visita la version online de este objeto.
El reglamento, línea por línea
| Capa | Se le dice al agente | Por qué está |
|---|---|---|
| Alcance | «esta tarea toca solo src/forms y tests; si necesitas otro archivo, detente y dime por qué» | el agente no sabe qué es "suficiente"; el alcance le da frontera |
| Aprobaciones | «antes de instalar paquetes, borrar archivos o ejecutar algo contra producción, párate y pregúntame» | hay acciones con efectos que sobreviven a la sesión |
| Prohibiciones | «nunca leas .env ni muestres claves; nunca modifiques una prueba para que pase; nunca hagas commit de lo que no pedí» | las líneas rojas no se negocian a mitad de tarea |
| Evidencia | «al terminar: lista de archivos tocados con diff, comandos ejecutados, pruebas corridas con resultado» | el reporte es el contrato: sin evidencia, el trabajo no está hecho |
El bloque que va en tu documento maestro
## Reglamento para agentes (aplica a toda tarea)\n\nALCANCE: cada tarea declara los archivos que puede tocar. Si necesitas uno fuera,\ndetente y pide autorizacion con motivo.\n\nAPROBACION REQUERIDA (nunca ejecutes sin preguntar):\n- instalar o actualizar dependencias\n- borrar o mover archivos, cambiar la estructura de carpetas\n- cualquier comando contra produccion o con dinero\n- git commit / push\n\nPROHIBIDO SIEMPRE:\n- leer, imprimir o copiar .env, claves o tokens\n- modificar una prueba para que pase (si la prueba estorba, reporta el conflicto, no la edites)\n- "limpiar" codigo que no te pedi (no reformatees, no renombres)\n\nAL TERMINAR, REPORTA:\n1. archivos tocados + diff resumido 2. comandos ejecutados con su salida\n3. pruebas corridas y resultado real 4. lo que NO hice y por que\n\nYo reviso el reporte antes de dar la tarea por cerrada.Para reforzar
Cómo evitar que una IA destruya tu código
Los hábitos de protección (respaldo, diff pequeño, revisión) que este reglamento hereda para el mundo de los agentes.
Prueba
El agente reporta: «terminé; pasé las 12 pruebas». ¿Qué es lo mínimo que debes verificar antes de cerrar la tarea?
Pedir aprobación para instalar dependencias le quita velocidad al agente, así que es mejor desactivarlo.
Detecta la supervisión de confianza
Un alumno configura a su agente. Señala la decisión que garantiza el incidente:
- Puso el reglamento en un archivo del repo que el agente lee en cada sesión.
- Le dio "acceso completo a todo el proyecto" para que sea más eficiente.
- Le exige reporte final con diffs y comandos ejecutados.
- Prohibió tocar .env y los archivos de pruebas sin excepción.
Identifica la linea con error.
Escribe hoy el bloque de reglamento en tu documento maestro (o créalo si aún no existe) con tus cuatro capas adaptadas a tu proyecto. En tu próxima tarea de agente, verifica el cierre contra el punto 4 de la evidencia: ¿te reportó también lo que NO hizo?