Aurora Weekly #4 — Por qué no te fías de la IA (y por qué tienes razón)

Hazte una pregunta incómoda: ¿le dejarías a una IA mandar un email a tu mejor cliente sin que tú lo leas antes?

Casi seguro que no. Y haces bien.

Ese "no" instintivo no es miedo a la tecnología. Es sentido común. Pero conviene mirarlo de cerca, porque ese "no" —y no la potencia del modelo, ni su precio— es lo que de verdad va a decidir qué puedes delegar en los próximos dos años.

Llevamos tres años conviviendo con una IA que responde. Le preguntas, te contesta, y si se equivoca lo ves y lo ignoras. El error es tuyo de gestionar: tú decides si usas lo que te ha dado. El coste de que alucine es tu tiempo de revisarlo.

Una IA que actúa cambia la ecuación por completo. Ya no te sugiere el email: lo envía. No te propone mover el dato: lo mueve. No te recuerda pagar la factura: la paga. Y cuando algo que actúa se equivoca, no te enteras a tiempo de descartarlo. Ya está hecho.

Por eso desconfías. No porque la IA sea menos capaz que antes —es más—, sino porque le estás dando algo que antes no le dabas: la capacidad de hacer cosas sin pasar por ti. Y eso, con razón, te pone en guardia.

Encuesta tras encuesta, cuando se le pregunta a una empresa por qué no despliega agentes que ejecutan, la primera respuesta no es el coste ni la falta de casos de uso. Es una versión de lo mismo: no me fío de soltarle algo importante.

Aquí está la parte que casi nadie dice: que no te fíes hoy no significa que no debas hacerlo nunca. Significa que la confianza todavía no está construida. Y se construye igual que con una persona.

Piensa en cómo incorporas a alguien nuevo en tu equipo. No le das el primer día las llaves, la tarjeta de la empresa y acceso a la cuenta del banco. Le das una tarea acotada. Revisas cómo la hace. Si la hace bien, le das otra un poco mayor. La confianza no llega por fe: llega por historial. Por haber visto a esa persona acertar muchas veces en cosas pequeñas antes de dejarle algo grande.

Con un agente es exactamente igual. El problema es que casi nadie lo trata así. O no se le da nada —"no me fío"— o se le pide de golpe que lleve un proceso crítico y, al primer fallo, se descarta entero. Ninguna de las dos es la forma de construir confianza. La forma es la aburrida: empezar pequeño, mirar, y ampliar.

La diferencia es que una IA bien diseñada te da algo que un empleado nuevo no puede: puede enseñarte exactamente qué ha hecho y por qué, paso a paso, cada vez. Si no puede hacer eso, no es un problema de confianza tuyo. Es que esa herramienta no se ha ganado el derecho a que se la des.

La próxima vez que pruebes una herramienta que "ejecuta" algo por ti, no decidas por fe ni por miedo. Trátala como a una incorporación a prueba. Cinco reglas:

1 · Empieza por lo reversible.
La primera tarea que le das tiene que ser una en la que un error se arregle en dos minutos. Clasificar correos, preparar un borrador, ordenar datos. Nada que mande dinero o salga fuera de la empresa todavía.

2 · Exígele que enseñe su trabajo.
Si no puedes ver qué hizo y por qué, no lo uses para nada que importe. "Confía en mí" no es una respuesta aceptable de un software, igual que no lo sería de un empleado.

3 · Revisa al principio, no al final.
Las primeras semanas, mira lo que hace antes de que tenga efecto. No para controlarlo para siempre, sino para construir el historial que te deje soltar después con tranquilidad.

4 · Define qué hace cuando duda.
Un buen agente, cuando no está seguro, para y pregunta en vez de inventar. Comprueba que el tuyo escala hacia ti en la duda. El que tira p'alante pase lo que pase es justo el que no te puedes permitir.

5 · Alarga la correa poco a poco.
Cada cosa que hace bien y verificas es un permiso más que le puedes dar. La confianza se gana por tramos, no por decreto.

Lo que tienes al final de este proceso no es "una IA en la que confías a ciegas". Es algo mejor: una en la que confías con motivos, porque has visto el historial. Y esa es la única clase de confianza que aguanta cuando le das algo que de verdad importa.

¿Cuál es la tarea más pequeña, más aburrida y más reversible de tu semana —esa que repites igual una y otra vez?

Esa es por la que se empieza. No porque sea la más valiosa, sino porque es donde puedes mirar sin riesgo mientras la confianza se construye sola.

Nos vemos el martes.

— Aurora

PD: Si conoces a alguien que dice que "no se fía de la IA" como punto final de la conversación, reenvíale esto. El "no me fío" no es el final: es el principio de hacerlo bien.

Estamos construyendo Aurora — el cerebro corporativo nativo en IA para empresas pequeñas que quieren operar como grandes. Diseñada para enseñarte qué hace, no para que confíes a ciegas.

La beta abre en breve. Apúntate a la lista para entrar el día uno.