Un guardián en la puerta: seguridad para agentes de IA, sin código
Si usted está por poner un agente de IA a trabajar con las llaves de la casa —correo, pagos, código—, hay una pregunta que conviene hacer antes: ¿qué lo frena cuando alguien lo convence de hacer lo que no debe?
El empleado capaz y crédulo
Imagine un empleado nuevo, muy capaz y muy crédulo. Puede hacer de todo, pero cualquiera que converse un rato con él lo convence de casi cualquier cosa.
Así es un agente de IA. Sus límites suelen ser instrucciones escritas —«nunca borre archivos», «consulte antes de pagar»— que viven en el mismo texto que lee para trabajar. Y a un modelo de lenguaje se lo convence con texto: es su naturaleza. A esa técnica se la llama prompt injection, y no es un error que la próxima versión vaya a corregir.
El guardián y sus tres respuestas
La solución de siempre: no se le pide al vigilado que se vigile solo. Se pone un guardián en la puerta.
Cada vez que el empleado quiere salir con algo —un paquete, una orden de pago—, el guardián revisa una lista y responde: pasa, espera a que un responsable lo apruebe o no pasa. No conversa ni escucha argumentos. Y no es otra IA: es un mecanismo de reglas fijas que da la misma respuesta ante la misma situación, hoy o a las tres de la mañana.
La lista está firmada
Si la lista fuera un papel suelto, alcanzaría con convencer al empleado de reescribirla. Por eso va sellada con una firma criptográfica, y la llave que firma no está donde trabaja el agente. Cambiar una regla exige la llave, no un buen argumento.
Y lo que no figura en la lista, no pasa: la duda nunca se resuelve a favor de la acción.
El cuaderno de guardia
Un buen guardián además anota todo, también lo que rechazó. Cada anotación queda atada matemáticamente a la anterior: si alguien corrige una página, la verificación señala dónde se rompió la cadena. Nadie puede cambiar el pasado en silencio.
El guardián también tiene límites, y conviene saberlos: frena acciones, no impide que el empleado lea algo hostil; y no protege contra quien tenga la llave ni contra quien controle el edificio entero.
Cuando alguien le proponga un agente con las llaves de la casa, hágale tres preguntas: ¿quién es el guardián, quién firmó la lista y dónde está el cuaderno?