Los agentes de IA pueden programar, analizar, revisar y tomar decisiones de forma autónoma. El problema aparece cuando queremos confiar en el resultado: que un agente diga que ha terminado no significa que el trabajo esté realmente bien hecho.
En esta charla veremos cómo construir un arnés de orquestación de agentes que convierta un proceso basado en modelos probabilísticos en un flujo controlado, trazable y con resultados verificables.
La clave no está en escribir prompts cada vez más grandes, sino en diseñar el sistema que rodea a los agentes: separar responsabilidades, limitar capacidades mediante permisos, definir contratos entre etapas y utilizar comprobaciones deterministas externas al modelo. De esta forma, un agente puede proponer una solución, pero no puede decidir por sí mismo que esa solución es correcta.
Veremos patrones para evitar que los agentes se salten pasos, pierdan información entre tareas o den por terminado un trabajo que nunca han comprobado, utilizando verificaciones automáticas, evidencias y mecanismos de control independientes de la IA.
Como hilo conductor construiremos un flujo capaz de transformar un diseño en componentes y comprobar automáticamente el resultado, explorando finalmente cómo aplicar estos mismos principios a Drupal, Canvas y SDC.
La idea que resume toda la charla es sencilla: no le preguntes a la IA si ha terminado. Diseña un sistema capaz de comprobarlo.