Važna promena u korišćenju veštačke inteligencije na radnom mestu nije u tome što model može da napiše bolji pasus. Reč je o tome da sistem sve više može da ostvaruje cilj kroz nekoliko koraka: da pregleda fajlove, pretraži povezane servise, kreira rezultat, ažurira zapis i pošalje poruku.
To menja profesionalno pitanje iz „Da li je ovaj odgovor tačan?“ u „Šta je ovom sistemu dozvoljeno da uradi pre nego što mora da me pita?“
Zapier opisuje ChatGPT Work kao agentni režim koji može da radi tokom dužeg perioda sa fajlovima i povezanim aplikacijama, dok njegov režim Plan pre izvršavanja predlaže strategiju na odobrenje. Microsoft slično predstavlja Copilot, organizaciono znanje i upravljanje kao komplementarne delove operativnog AI steka. Ovi primeri ukazuju na praktičnu razliku: AI prelazi iz uloge sagovornika u ulogu operatera kome su povereni zadaci.
Delegiranje može da uštedi vreme, ali menja i oblik odgovornosti. Četbot obično proizvodi rezultat koji osoba treba da pregleda. Agent može da izvrši nekoliko međukoraka, od kojih je neke teško uočiti naknadno. Zato najbezbednija strategija uvođenja nije maksimalna autonomija, već izričito i postepeno dodeljivanje ovlašćenja.
Razmišljajte o radnjama, a ne o upitima
Korisni prvi korak jeste da navedete radnje koje bi AI sistem mogao da preduzme u nekom procesu. „Obraditi uvođenje korisnika“ previše je široko da bi se njime moglo upravljati. Korisniji popis mogao bi da obuhvati:
- čitanje interne politike i izdvajanje zahteva;
- pretraživanje odobrene baze znanja;
- sastavljanje nacrta imejla ili sažetka ugovora;
- kreiranje tiketa ili reda u tabeli;
- menjanje zapisa o korisniku ili finansijskog zapisa;
- pozivanje korisnika, objavljivanje dokumenta ili slanje spoljne poruke;
- odobravanje plaćanja, brisanje podataka ili preuzimanje obaveze u ime organizacije.
Svaka radnja ima drugačiju kombinaciju mogućnosti poništavanja, osetljivosti, spoljnog uticaja i troška. Ako se sve tretira kao „pomoć AI-ja“, stvarna odluka ostaje prikrivena.
Jednostavna klasifikacija praktičnija je od neodređenog obećanja da će čovek nadzirati sve:
- Sme da uradi: radnje niskog rizika koje se mogu poništiti i koje se odvijaju u jasno ograničenom radnom prostoru.
- Mora da predloži: radnje koje menjaju zajednički rad, komuniciraju sa spoljnim svetom ili stvaraju značajnu obavezu.
- Nikada ne sme da uradi sam: radnje koje uključuju regulisane odluke, nepovratno brisanje, transfere velike vrednosti, promene kontrole pristupa ili osetljiva kadrovska pitanja.
Program vlade UAE za agentni AI pruža relevantan primer politike: on uključuje pravila za odlučivanje o tome koje zadatke agenti smeju da dovrše, a koje smeju samo da preporuče. Osnovna ideja lako se prenosi na pojedinačni tim: dozvola treba da bude vezana za zadatak, a ne dodeljena samo zato što sistem deluje sposobno.
Koristite kontrolne tačke za odobrenje tamo gde se menjaju posledice
Ne zaslužuje svaki korak dijalog za potvrdu. Ako sistem traži odobrenje nakon svakog čitanja fajla, ljudi će odobravati mehanički ili će isključiti kontrolu. Postavite kontrolnu tačku neposredno pre prelaska koji nosi posledice.
Na primer, agentu može biti dozvoljeno da prikuplja informacije, poredi opcije i priprema nacrt bez prekida. Trebalo bi da zastane pre nego što:
- pošalje bilo šta izvan organizacije;
- objavi ili podeli dokument sa novom publikom;
- izmeni zapis koji predstavlja izvor istine;
- troši novac ili primenjuje popust;
- menja dozvole ili kreira akreditive;
- briše, prepisuje ili izvozi podatke;
- donosi odluku koja utiče na zaposlenje, ispunjavanje uslova, kredit, bezbednost ili zakonska prava.
Zahtev za odobrenje treba da prikaže predloženu radnju, tačan cilj, ključne ulazne podatke i verovatnu posledicu. „Nastaviti?“ je slaba kontrola. „Pošaljite ovu poruku za 2.400 klijenata, koristeći priloženi spisak, uz procenjeni trošak kampanje od $X“ daje osobi nešto konkretno za proveru.
Za radnje sa velikim uticajem zahtevajte imenovanog odobravaoca, a ne osobu koja se slučajno zatekla pred ekranom. Razdvojite osobu koja je osmislila tok rada od osobe koja odobrava njegov najznačajniji rezultat, kada rizik to opravdava.
Definišite operativne granice agenta
Stručnjaci ne moraju da razumeju svaki detalj modela da bi postavili korisne granice. Međutim, moraju da preciziraju operativne granice sistema:
- Obuhvat: kojim projektima, fasciklama, nalozima i izvorima podataka je pristup moguć?
- Alati: da li sistem sme da čita, upisuje, šalje, kupuje, izvršava kôd ili menja dozvole?
- Ograničenja: koje ograničenje potrošnje, obima, učestalosti ili vremena važi?
- Izvori: koji domeni, repozitorijumi ili baze podataka smatraju se merodavnim?
- Eskalacija: koja neizvesnost, neusaglašenost ili nedostatak informacija zahteva uključivanje osobe?
- Uslovi za zaustavljanje: kada sistem mora da se zaustavi umesto da improvizuje?
Pristup alatima treba da bude uži od opšteg pristupa korisnikovom nalogu gde god je to moguće. Agent koji može da čita deljeni disk ne mora automatski da ima dozvolu da šalje imejl svakom kontaktu. Agent koji može da sastavlja kôd ne mora automatski da ima pristup produkcionim akreditivima. Zaseban servisni nalog, ograničeni radni prostor ili veza samo za čitanje mogu učiniti grešku manje skupom.
Granice napišite operativnim jezikom. „Koristite rasuđivanje“ nije kontrola. „Ne šaljite spoljašnji imejl bez odobrenja; ne menjajte bazu podataka o klijentima; koristite samo odobrenu tabelu cena sa datumom [date]; zaustavite se ako se dva izvora ne slažu“ može da se testira.
Omogućite proveru planova pre izvršenja
Planiranje je jedna od korisnih funkcija delegirane veštačke inteligencije, ali plan nije dokaz da je ispravan. Pregledajte ga kao predloženi niz radnji.
Postavite četiri pitanja:
- Koji ishod sistem nastoji da postigne?
- Na kojim pretpostavkama zasniva svoj rad?
- Koje će alate pozvati i sa kojim dozvolama?
- U kom koraku greška može postati skupa ili teška za poništavanje?
Dobar ekran za odobrenje treba da prikaže granice plana, a ne samo njegov konačni tekst. Ako sistem kaže da će „srediti nalog“, proveravač treba da može da vidi da li to znači označavanje zapisa, spajanje duplikata, arhiviranje poruka ili brisanje podataka.
Kod ponavljajućeg rada odobrite politiku umesto svake pojedinačne instance samo kada je politika dovoljno uska da može da se testira. „Automatski razvrstaj fakture ovih dobavljača ispod ovog iznosa, bez brisanja originala“ jeste kandidat. „Upravljaj fakturama“ nije.
Pretpostavite da kontekst može biti izgubljen
Sistemi koji rade u više koraka mogu izgubiti trag o ranijim uputstvima, pogrešno protumačiti pronađene informacije ili nastaviti da se oslanjaju na pogrešnu pretpostavku. Istraživačke i inženjerske smernice u pregledu ističu načine na koje sistem može da otkaže, uključujući gubitak konteksta, ubrizgavanje upita, beskonačno izvršavanje, greške u strukturiranom izlazu i probleme pri ponovnom uspostavljanju stanja. Berklijev rad ABBEL takođe tvrdi da sažimanje istorije interakcija u stanja uverenja može biti bolje od stalnog prenošenja kompletne istorije, ali upravljanje kontekstom i dalje predstavlja problem za performanse i pouzdanost.
To ima direktnu posledicu na radnom mestu: ne dozvolite da kritično odobrenje zavisi od toga da li će agent zapamtiti ograničenje iz drugog koraka dugog izvršavanja. Važna ograničenja postavite blizu poziva alatu ili tačke za odobrenje. Zahtevajte strukturirana polja za osetljive radnje, kao što su primalac, iznos, izvor, obrazloženje i datum isteka. Ako zadatak dugo traje, zahtevajte kontrolnu tačku koja ponavlja trenutni cilj, završene korake, radnje na čekanju i nerešene neizvesnosti.
Budite posebno oprezni kada agent čita materijal kojem se ne može verovati. Veb-stranica, imejl, dokument ili komentar u kodu mogu sadržati uputstva čiji je cilj manipulisanje sistemom, a ne pomoć pri završavanju zadatka. Pronađeni tekst treba tretirati kao podatke, osim ako ga tok rada izričito ne označi kao ovlašćeno uputstvo.
Projektujte za zaustavljanje i oporavak
Delegirani rad zahteva vidljiv mehanizam zaustavljanja i plan oporavka. Postavite maksimalan broj iteracija, poziva alatima ili trajanje izvršavanja za zadatke koji bi mogli da uđu u petlju. Učinite ponovne pokušaje bezbednim: dvostruko kreiranje istog tiketa ili dvostruko slanje istog imejla nije bezazlena greška. Ako je podržano, koristite idempotentne operacije ili omogućite sistemu da proveri da li je radnja već izvršena pre nego što je ponovi.
Vodite čitljiv zapis aktivnosti: zahtev, plan, korišćene alate, konsultovane izvore podataka, data odobrenja, izvršene izmene i konačni rezultat. To nije namenjeno samo analizama nakon problema. Omogućava kolegi da preuzme rad kada prvobitni operater nije dostupan i omogućava osporavanje rezultata bez ponovnog konstruisanja čitavog nevidljivog lanca.
Za važne tokove rada namerno testirajte loše slučajeve pre nego što dodelite autonomiju. Isprobajte nedostajuće podatke, protivrečne politike, izvor kojem je istekao rok, zlonamerno uputstvo u dokumentu, duplirani zahtev, opozvanu dozvolu i alat koji vraća grešku. Cilj nije da dokažete da agent nikada ne greši. Cilj je da proverite da li greška izaziva pauzu, jasno prosleđivanje nadležnima ili bezbedno vraćanje na prethodno stanje.
Praktična lestvica delegiranja
Agenta možete uvesti u fazama:
- Posmatrajte: sistem čita odobrene informacije i objašnjava šta bi uradio.
- Pripremajte nacrt: on priprema rezultate, ali osoba izvršava svaku spoljnu radnju.
- Delujte u izolovanom okruženju: on kreira testne zapise, grane ili datoteke u izolovanom radnom prostoru.
- Delujte uz uske dozvole: on izvršava reverzibilne radnje niskog rizika u okviru ograničenja obima i vremena.
- Delujte u skladu s politikom: on obrađuje dobro testiranu klasu zadataka i zastaje na unapred definisanim tačkama za odobrenje.
Napredujte tek kada niža faza pruži dokaze da se tok rada ponaša prihvatljivo. Ako se zadatak promeni, alati promene ili podaci postanu osetljiviji, vratite se na niži nivo lestvice.
Šta ovo znači za vašu karijeru
Vredna veština nije samo znati kako zatražiti od veštačke inteligencije rezultat. Važno je znati kako nejasno delegiranje pretvoriti u ograničenu operativnu proceduru. To obuhvata raščlanjivanje rada na radnje, prepoznavanje nepovratnih prelaza, pisanje pravila za prosleđivanje, osmišljavanje zahteva za odobrenje i prepoznavanje trenutka kada agent treba da se zaustavi.
Na razgovorima za posao ili tokom procena učinka opišite granicu koju ste osmislili, a ne samo automatizaciju koju ste pokrenuli: „Sistem istražuje i priprema nacrt; imenovani recenzent odobrava spoljnu komunikaciju; upisi u bazu podataka ograničeni su na ova polja; duplirane radnje se proveravaju; nerešeni konflikti zaustavljaju izvršavanje.“ Takav jezik pokazuje operativno rasuđivanje.
Agentni rad neće ukloniti potrebu za profesionalnom odgovornošću. Učiniće odgovornost konkretnijom. Pre nego što predate zadatak, odlučite šta sistem sme da uradi, šta prvo mora da vam prikaže i šta nikada ne sme da uradi sam. Zatim te odluke učinite vidljivim u samom toku rada.
Maya Chen je odgovorna ljudska urednica biltena AI Career Brief, koji obrađuje veštine, uloge i pametne poteze za rad u dobu veštačke inteligencije.
