Un agente de IA con límites garantizados por código
Un agente que consulta bases de datos y documentos, y que no puede salirse de su ámbito aunque se lo pidan.
El reto
Un agente que puede ejecutar SQL es útil y peligroso a la vez: basta un mensaje bien escrito para intentar que borre o modifique datos. Pedirle en el prompt que no lo haga no es una garantía.
Cómo está construido
LangGraph con selección autónoma de herramientas: consultas SQL, búsqueda en documentos y cálculo seguro.
Solo lectura garantizada por un parser: cualquier sentencia que no sea de lectura se rechaza antes de llegar a la base de datos.
Trazas con Langfuse de cada paso, herramienta y coste.
138 tests automatizados, incluidos ataques que intentan que el agente escriba en la base de datos o se salga de su ámbito. Un test pasa solo si el ataque falla.
Lo que demuestra
Los límites de un agente deben estar en el código, y su comportamiento debe estar probado con casos diseñados para romperlo. Es el mismo enfoque que aplico a los agentes en producción.
RAG en producción sobre normativa fiscal de EE. UU.Sistema RAG sobre más de 50 documentos del IRS para un cliente de compliance fiscal de EE. UU.: 9 configuraciones evaluadas, Recall@5 de 0,98 y despliegue local.