Agen otonom, dijelaskan
Otonom tidak berarti tanpa batasan. Ini menggambarkan seberapa banyak alur kerja yang dapat ditangani agen sebelum memerlukan orang untuk menyetujui, mengklarifikasi, atau menghentikan pekerjaan.
Agen otonom adalah sistem AI yang dapat merencanakan dan melaksanakan langkah-langkah menuju tujuan yang ditetapkan dengan pengawasan terbatas dan dalam aturan yang ditetapkan oleh orang.
Otonomi berlaku untuk pekerjaan yang terbatas
Agen dapat menerima tujuan, membentuk rencana, dan menggunakan alat yang terhubung tanpa menunggu instruksi setelah setiap langkah. Agen juga dapat membaca hasil dari suatu tindakan dan merevisi langkah berikutnya.
Tujuan yang diberikan dan izin membentuk kemandirian tersebut. Agen yang diizinkan untuk membaca catatan memiliki jangkauan lebih kecil daripada yang diizinkan untuk memperbaruinya.
Pengawasan termasuk dalam desain
Orang menentukan apa arti kesuksesan dan tindakan mana yang tidak diperbolehkan. Mereka juga dapat mengharuskan agen untuk berhenti ketika informasi hilang atau keputusan melewati ambang batas risiko.
Kontrol ini membuat tanggung jawab menjadi jelas. Agen mungkin melakukan pekerjaan, tetapi bisnis tetap memiliki aturan dan hasilnya.
Istilah agen otonom
- Otonomi
- Kemampuan untuk memilih dan melakukan beberapa langkah tanpa bertanya kepada orang setiap kali.
- Objektif
- Hasil yang diharapkan dicapai oleh agen.
- Feedback loop
- Siklus di mana agen memeriksa apa yang terjadi dan menggunakan informasi tersebut untuk langkah berikutnya.
Batasan yang penting
Batasi aksesnya
Batasi agen hanya pada catatan dan sistem yang diperlukan untuk tugas yang diberikan.
Tetapkan aturan penghentian
Tentukan kapan agen telah selesai dan kapan harus mengembalikan pekerjaan.
Tinjau tindakan berisiko
Memerlukan persetujuan sebelum perubahan yang melibatkan uang, izin, atau data sensitif.
Pertanyaan tentang agen otonom
Agen dapat memilih dan melakukan beberapa langkah menuju tujuan tanpa meminta instruksi baru setiap kali.
Bisa, ketika sistem di sekitarnya memberinya alat yang disetujui untuk layanan tersebut. Aksesnya harus sesuai dengan tugas dan tidak lebih.
Tidak. Orang menentukan objektif, izin, titik peninjauan, dan kondisi penghentiannya. Tindakan berisiko tinggi masih memerlukan pengawasan yang sesuai.
Istilah glosarium terkait
Tetapkan aturan yang jelas untuk pekerjaan
Aplikasi Caffeine berjalan di Internet Computer, jaringan publik yang dibangun untuk ini.