Riesgo de la IA en la empresa: minimización de datos, contrato con el proveedor, sesgo en decisiones y fraude por voz clonada

Datos, regulación, sesgo y fraude: lo que se firma cuando se activa una herramienta

Este tema es el más incómodo del curso porque no habla de eficiencia. Habla de lo que la empresa entrega sin cotizarlo: la información de sus clientes, la de su gente, el criterio con el que decide a quién llama y a quién no, y el dinero que puede salir por una orden que alguien no dio.

El riesgo más grande que trae la adopción de inteligencia artificial en una PyME no es técnico ni legal: es que la empresa empezó a tratar información que no era suya —la de sus clientes y la de su propio personal— como si fuera un insumo gratis para configurar una herramienta de otra persona.

1. Qué es un activo y qué es un pasivo

La base de clientes es el activo que menos se puede reponer y el más fácil de entregar. Subir correos, teléfonos, domicilios e historiales de compra a una herramienta gratuita no cuesta dinero: cuesta control, y el control es lo único que hace que esa base siga siendo un activo y no un producto que alguien más está entrenando.

Hay un criterio que resuelve la mitad de los casos sin consultar a ningún abogado: no subir lo que la herramienta no necesita. Para pedir un pronóstico de reposición no hace falta el nombre del cliente ni su teléfono; alcanza con producto, cantidad y fecha. El dato que no sale de la empresa no puede filtrarse, entrenar a un tercero ni violar una ley.

Una confusión frecuente: creer que el dato es propio porque la empresa lo recopiló. Buena parte de lo que hay en el archivo de clientes es información personal que se entregó para comprar, no para entrenar un modelo ni para que otra empresa la use con fines que nadie declaró. La diferencia entre activo y pasivo está en el consentimiento y en el uso, no en la propiedad de la base.

2. Regulación: qué aplica hoy y qué viene

La regulación avanza más lento que la adopción y por eso casi nunca llega a tiempo para proteger a quien se confió. En la Unión Europea ya hay obligaciones con fechas para los sistemas de riesgo, y en América Latina el piso es la legislación de datos personales, que sí aplica hoy a la empresa que sube una base de clientes a un servidor ajeno.

Conviene tomar una decisión práctica: trabajar como si la regulación avanzada ya aplicara. No porque la multa llegue, sino porque las obligaciones que esas leyes imponen —minimización, registro, consentimiento verificable, borrado cuando el cliente lo pide— son las mismas que evitan la filtración que sí cuesta dinero y clientes hoy. Y conviene quitarse de encima una idea falsa que circula en los cursos cortos: nadie está protegido por la convicción de que el aviso de privacidad basta para hacer cualquier cosa con el dato que otro le entregó.

Cuatro preguntas por escrito antes de subir un archivo: qué datos se tratan y con qué finalidad, quién tiene acceso dentro de la empresa, cuánto tiempo se guardan y qué pasa con ellos al terminar el contrato. Si el proveedor no contesta las cuatro en un documento, no hay acuerdo: hay una caja de texto.

Ese documento no es un trámite legal mayor: en una empresa de veinte personas cabe en dos páginas y es lo que convierte una suscripción en una relación revisable. Sin él, cualquier discusión posterior sobre quién usó qué, con qué fin y durante cuánto tiempo se cierra con un copy-paste de los términos del servicio, que no fueron escritos para proteger a la empresa que paga la mensualidad.

3. Sesgo: la decisión que hereda el prejuicio

El sesgo en una empresa pequeña no se ve como en los documentales: no hay un sistema que rechace candidatos por apellido. Se ve como una lista de prospectos donde nunca aparece cierto barrio, un puntaje de crédito que castiga a quien paga distinto, o una hoja de vida descartada porque no coincide con el perfil que la empresa ya contrató diez veces.

La razón por la que esto importa en una empresa y no solo en una multinacional es que aquí el sesgo decide a quién se llama, a quién se le da crédito y a quién se contrata. Son tres decisiones que valen dinero y que afectan a personas concretas, y se toman cada vez más rápido con una recomendación que llega redactada como si fuera un cálculo neutro.

El control del sesgo es aburrido y es posible: mirar de vez en cuando la lista de lo que el sistema descartó. Quién quedó fuera, con qué criterio y si alguien valioso habría estado ahí. Cinco minutos al mes, con una persona que conozca el negocio, y no con la hoja de métricas del proveedor.

4. Fraude con inteligencia artificial: el riesgo que llega por WhatsApp

Apareció un riesgo operativo que no existía hace cinco años y que golpea directo a la caja: la voz y la cara del dueño o del proveedor, generadas por máquina. Una orden de pago con la voz conocida, un cambio de cuenta con el tono habitual, una urgencia creíble a las nueve de la noche. La defensa no es detectar el audio: es una regla de segundo canal.

Los casos que más se repiten son simples de contar: una llamada del dueño pidiendo un pago urgente con su voz habitual, un correo del proveedor de siempre con la cuenta cambiada, un audio del familiar o del contador pidiendo un dato. Lo que cambió es la fábrica: antes se necesitaba parecer alguien; ahora basta una muestra de voz de treinta segundos.

Regla de segundo canal: ningún cambio de cuenta, ningún pago fuera de lo habitual y ningún dato sensible se ejecuta con lo que dijo un mensaje, una llamada o un video. Se confirma por otro medio, con un contacto que la empresa ya tenía, y se pregunta algo que solo la otra persona real sabe.

Para dimensionar el costo basta el caso base que se repite en las alertas: una empresa paga una factura de 340 000 pesos a una cuenta que el proveedor nunca cambió, y el seguro de fraude cubre apenas una parte. El fraude dejó de ser un evento excepcional para convertirse en un riesgo de procedimiento, y los procedimientos se arreglan con dos minutos de confirmación.

Cuando un modelo se equivoca con un cliente, la responsabilidad no es del modelo. La empresa prometió, la empresa respondió con su marca y la empresa paga: por eso toda automatización que habla con clientes necesita reglas escritas, un registro de revisiones y una persona que responda por lo que dijo.

La parte cómoda de esta regla es que también es la más barata: un bot con reglas escritas, un registro de lo que dijo y un nombre responsable no requiere software adicional. Requiere que alguien decida qué puede prometer y que alguien firme lo que promete, dos cosas que casi ninguna PyME ha hecho antes de activar la herramienta.

Regla de este tema: los datos de clientes y personal se tratan como algo prestado, no como material de trabajo; ninguna herramienta entra sin las cuatro respuestas por escrito; ninguna decisión sobre personas la toma el sistema sola; y ningún pago se mueve sin confirmación por un segundo canal.