자율 에이전트 설명
자율적이라는 것은 무제한을 의미하지 않습니다. 이는 에이전트가 사람의 승인, 명확화 또는 작업 중단이 필요하기 전까지 워크플로의 얼마나 많은 부분을 처리할 수 있는지를 설명합니다.
자율 에이전트는 사람이 설정한 규칙 내에서 제한된 감독으로 정의된 목표를 향한 단계를 계획하고 수행할 수 있는 AI 시스템입니다.
자율성은 제한된 작업에 적용됩니다
에이전트는 목표를 받고, 계획을 수립하고, 매 단계마다 지시를 기다리지 않고 연결된 도구를 사용할 수 있습니다. 또한 작업의 결과를 읽고 다음 단계를 수정할 수 있습니다.
할당된 목표와 권한이 그 독립성을 형성합니다. 레코드를 읽을 수 있는 에이전트는 레코드를 업데이트할 수 있는 에이전트보다 범위가 작습니다.
감독은 설계에 포함되어야 합니다
사람은 성공의 의미와 금지된 작업을 정의합니다. 또한 정보가 누락되었거나 결정이 위험 임계값을 넘을 때 에이전트가 일시 중지하도록 요구할 수 있습니다.
이러한 통제는 책임을 명확하게 합니다. 에이전트가 작업을 수행할 수 있지만, 비즈니스는 여전히 규칙과 결과를 소유합니다.
자율 에이전트 용어
- 자율성
- 매번 사람에게 묻지 않고 일부 단계를 선택하고 수행할 수 있는 능력.
- 목표
- 에이전트가 추구해야 하는 결과.
- 피드백 루프
- 에이전트가 발생한 일을 확인하고 그 정보를 다음 단계에 사용하는 순환 과정.
중요한 경계
접근 권한 제한
에이전트를 할당된 작업에 필요한 레코드와 시스템으로만 제한합니다.
중단 규칙 설정
에이전트가 작업을 완료한 시점과 작업을 다시 넘겨야 하는 시점을 정의합니다.
위험한 작업 검토
금전, 권한 또는 민감한 데이터와 관련된 변경 전에 승인을 요구합니다.
자율 에이전트에 대한 질문
매번 새로운 지시를 요청하지 않고 목표를 향한 일부 단계를 선택하고 수행할 수 있습니다.
주변 시스템이 해당 서비스에 대해 승인된 도구를 제공하면 사용할 수 있습니다. 접근 권한은 작업에 맞아야 하며 그 이상이어서는 안 됩니다.
아니요. 사람은 목표, 권한, 검토 지점 및 중단 조건을 정의합니다. 더 높은 위험의 작업에는 여전히 적절한 감독이 필요합니다.
관련 용어집
작업에 명확한 규칙 설정하기
Caffeine 앱은 이를 위해 만들어진 퍼블릭 네트워크인 Internet Computer 위에서 실행됩니다.