Agentes autónomos, explicados
Autónomo no significa sin restricciones. Describe cuánto del flujo de trabajo puede manejar el agente antes de necesitar que una persona apruebe, aclare o detenga el trabajo.
Un agente autónomo es un sistema de IA que puede planificar y ejecutar pasos hacia un objetivo definido con supervisión limitada y dentro de reglas establecidas por personas.
La autonomía se aplica a un trabajo delimitado
Un agente puede recibir un objetivo, formar un plan y usar herramientas conectadas sin esperar una instrucción después de cada paso. También puede leer el resultado de una acción y revisar su siguiente paso.
El objetivo asignado y los permisos dan forma a esa independencia. Un agente autorizado a leer registros tiene menos alcance que uno autorizado a actualizarlos.
La supervisión pertenece al diseño
Las personas definen qué significa el éxito y qué acciones están prohibidas. También pueden requerir que el agente se detenga cuando falta información o una decisión cruza un umbral de riesgo.
Estos controles hacen clara la responsabilidad. El agente puede realizar el trabajo, pero el negocio sigue siendo dueño de las reglas y el resultado.
Términos de agentes autónomos
- Autonomía
- La capacidad de elegir y realizar algunos pasos sin consultar a una persona cada vez.
- Objetivo
- El resultado que se espera que el agente persiga.
- Bucle de retroalimentación
- Un ciclo en el que el agente verifica lo que sucedió y usa esa información para su siguiente paso.
Límites que importan
Limita su acceso
Restringe al agente a los registros y sistemas necesarios para el trabajo asignado.
Establece reglas de detención
Define cuándo el agente ha terminado y cuándo debe devolver el trabajo.
Revisa acciones riesgosas
Requiere aprobación antes de cambios que involucren dinero, permisos o datos sensibles.
Preguntas sobre agentes autónomas
Puede elegir y realizar algunos pasos hacia un objetivo sin pedir nuevas instrucciones cada vez.
Puede hacerlo cuando el sistema circundante le proporciona herramientas aprobadas para esos servicios. Su acceso debe coincidir con la tarea y nada más.
No. Las personas definen su objetivo, permisos, puntos de revisión y condiciones de detención. Las acciones de mayor riesgo aún necesitan supervisión apropiada.
Términos relacionados del glosario
Establece reglas claras para el trabajo
Las apps de Caffeine corren en Internet Computer, una red pública creada para esto.