Napravite nadziranog agenta koji koristi alate
Dozvolite agentu da pripremi ograničenu radnju dok čovek kontroliše izvršenje.
Zahtev
Odluka agenta
Read-only alati
Pripremljena radnja
Ljudsko odobrenje
Izvršenje i zapis
Scenario
Dolazni zahtev se klasifikuje. Agent može da pročita podatke o kupcu i porudžbini, pripremi radnju, zatraži odobrenje, izvrši tek posle odobrenja i zabeleži rezultat.
Korišćeni koncepti
- strukturisani izlaz
- tool calling
- agent loop
- dozvole
- odobrenje
- revizijski trag
Izgradnja korak po korak
- Definišite kategorije i šemu strukturisane klasifikacije.
- Izložite uske read-only alate za kupca i porudžbinu.
- Postavite najveći broj koraka i zaštitu od ponovljenih poziva.
- Pripremite objekat radnje bez izvršenja.
- Recenzentu prikažite dokaze, argumente i rizik.
- Omogućite jedan uski alat za radnju tek posle odobrenja.
- Zabeležite model, alate, odobrenje, rezultat i rezervnu putanju.
Očekivani rezultat
Agent može da istraži i pripremi, ali se nijedna značajna promena ne dešava bez izričitog odobrenja i potpunog revizijskog zapisa.
Moguće greške
- Izabran pogrešan kupac
- Alat vraća zastarele podatke
- Agent ponavlja poziv
- Odobrenje ističe
- Radnja ne uspeva posle odobrenja
Poboljšanja
- Dodajte pragove pouzdanosti
- Koristite dozvole alata zasnovane na pravilima
- Ocenjujte izbor alata i tačnost argumenata
Varijante platformi
- n8n
- Microsoft
- UiPath
- OpenAI Agents SDK
- LangGraph