Die belangrike verskuiwing in KI op die werkplek is nie dat ’n model ’n beter paragraaf kan skryf nie. Dit is dat ’n stelsel toenemend ’n doel oor verskeie stappe heen kan nastreef: lêers inspekteer, gekoppelde dienste deursoek, ’n artefak skep, ’n rekord bywerk en ’n boodskap stuur.
Dit verander die professionele vraag van “Is hierdie antwoord korrek?” na “Wat mag hierdie stelsel doen voordat dit my moet vra?”
Zapier beskryf ChatGPT Work as ’n agentiese modus wat oor langer tydperke met lêers en gekoppelde toepassings kan werk, terwyl sy Beplanningsmodus ’n strategie vir goedkeuring voorstel voordat dit uitgevoer word. Microsoft raam Copilot, organisatoriese kennis en bestuur eweneens as aanvullende dele van ’n operasionele KI-stapel. Hierdie voorbeelde dui op ’n praktiese onderskeid: KI beweeg van ’n gespreksvennoot na ’n gedelegeerde uitvoerder.
Delegasie kan tyd bespaar, maar dit verander ook die aard van verantwoordelikheid. ’n Kletsbot lewer gewoonlik ’n uitset wat ’n persoon kan inspekteer. ’n Agent kan verskeie tussenaksies uitvoer, waarvan sommige agterna moeilik raakgesien kan word. Die veiligste aannemingstrategie is dus nie maksimum outonomie nie. Dit is uitdruklike, stapsgewyse bevoegdheid.
Dink in terme van aksies, nie opdragte nie
’n Nuttige eerste stap is om die aksies te lys wat ’n KI-stelsel in ’n werkvloei kan uitvoer. “Hanteer kliënte-aanboordneming” is te breed om te bestuur. ’n Nuttiger inventaris kan die volgende insluit:
- lees ’n interne beleid en onttrek vereistes;
- deursoek ’n goedgekeurde kennisbasis;
- stel ’n e-pos of kontrakopsomming op;
- skep ’n kaartjie of sigbladsry;
- verander ’n kliënte- of finansiële rekord;
- nooi ’n gebruiker, publiseer ’n dokument of stuur ’n eksterne boodskap;
- keur ’n betaling goed, vee data uit of maak ’n verbintenis namens die organisasie.
Elke aksie het ’n ander kombinasie van omkeerbaarheid, sensitiwiteit, eksterne impak en koste. Om hulle almal as “KI-bystand” te behandel, verdoesel die werklike besluit.
’n Eenvoudige klassifikasie is meer prakties as ’n vae belofte dat ’n mens alles sal toesig hou:
- Mag doen: laerisiko-, omkeerbare aksies binne ’n duidelik beperkte werkruimte.
- Moet voorstel: aksies wat gedeelde werk verander, ekstern kommunikeer of ’n betekenisvolle verbintenis skep.
- Mag nooit alleen doen nie: aksies wat gereguleerde besluite, onomkeerbare uitwissing, waardevolle oordragte, veranderinge aan toegangsbeheer of sensitiewe personeelkwessies behels.
Die VAE se regeringsprogram vir agentiese KI bied ’n relevante beleidsvoorbeeld: dit sluit reëls in om te besluit watter take agente mag voltooi en watter hulle slegs mag aanbeveel. Die onderliggende idee kan goed na ’n individuele span oorgedra word: toestemming moet aan die taak gekoppel word, nie bloot toegestaan word omdat die stelsel bekwaam lyk nie.
Gebruik goedkeuringshekke waar gevolge verander
Nie elke stap verdien ’n bevestigingsdialoog nie. As ’n stelsel ná elke lêerlees om goedkeuring vra, sal mense meganies goedkeur of die beheer afskakel. Plaas die hek onmiddellik voor ’n ingrypende oorgang.
Byvoorbeeld, ’n agent kan toegelaat word om inligting in te samel, opsies te vergelyk en ’n konsep sonder onderbreking voor te berei. Dit moet wag voordat dit:
- enigiets buite die organisasie stuur;
- ’n dokument publiseer of met ’n nuwe gehoor deel;
- ’n rekord van die bron van waarheid verander;
- spandeer geld of verbind tot ’n afslag;
- verander toestemmings of skep bewysstukke;
- verwyder, oorskryf of voer data uit;
- neem ’n besluit wat indiensneming, geskiktheid, krediet, veiligheid of wetlike regte raak.
Die goedkeuringsversoek moet die voorgestelde handeling, die presiese teiken, die wesenlike insette en die waarskynlike gevolg toon. “Gaan voort?” is ’n swak beheermaatreël. “Stuur hierdie boodskap aan 2 400 kliënte, met die aangehegte lys en teen ’n geraamde veldtogkoste van $X” gee ’n persoon iets betekenisvols om te hersien.
Vir handelinge met ’n groot impak, vereis ’n benoemde goedkeurder eerder as enigiemand wat toevallig na die skerm kyk. Skei die persoon wat die werkvloei ontwerp het van die persoon wat die mees verstrekkende resultaat daarvan magtig wanneer die risiko dit regverdig.
Definieer die agent se bedryfsomvang
Professionele persone hoef nie elke modelbesonderheid te verstaan om nuttige grense daar te stel nie. Hulle moet wel die stelsel se bedryfsomvang spesifiseer:
- Omvang: watter projekte, vouers, rekeninge en databronne is beskikbaar?
- Gereedskap: mag die stelsel lees, skryf, stuur, aankope doen, kode uitvoer of toestemmings verander?
- Perke: watter bestedings-, volume-, frekwensie- of tydsbeperking geld?
- Bronne: watter domeine, bewaarplekke of databasisse word as gesaghebbend beskou?
- Eskalasie: watter onsekerheid, konflik of ontbrekende inligting vereis ’n persoon?
- Stopvoorwaardes: wanneer moet die stelsel stop eerder as om te improviseer?
Toegang tot gereedskap behoort waar moontlik enger as die gebruiker se algemene rekeningtoegang te wees. ’n Agent wat ’n gedeelde skyf kan lees, het nie outomaties toestemming nodig om elke kontak te e-pos nie. ’n Agent wat kode kan opstel, het nie outomaties produksiebewyse nodig nie. ’n Afsonderlike diensrekening, beperkte werkruimte of leesalleenverbinding kan ’n fout minder kostelik maak.
Skryf die grens in operasionele taal. “Gebruik oordeel” is nie ’n beheermaatreël nie. “Moenie eksterne e-pos sonder goedkeuring stuur nie; moenie die klantedatabasis wysig nie; gebruik slegs die goedgekeurde prystabel gedateer [date]; stop as twee bronne verskil” is toetsbaar.
Maak planne inspekteerbaar voor uitvoering
Beplanning is een van die nuttige kenmerke van gedelegeerde KI, maar ’n plan is nie bewys dat die plan deug nie. Hersien dit as ’n voorgestelde reeks handelinge.
Vra vier vrae:
- Watter uitkoms streef die stelsel na?
- Watter aannames maak dit?
- Watter gereedskap sal dit gebruik, en met watter toestemmings?
- By watter stap kan ’n fout duur of moeilik omkeerbaar word?
’n Goeie goedkeuringskerm moet die plan se grense blootlê, nie bloot die finale prosa daarvan nie. As die stelsel sê dit sal “die rekening opruim”, moet die beoordelaar kan sien of dit beteken dat rekords gemerk, duplikate saamgevoeg, boodskappe geargiveer of data verwyder sal word.
Vir herhalende werk, keur ’n beleid eerder as elke geval goed, maar slegs wanneer die beleid nou genoeg is om te toets. “Liasseer fakture van hierdie verskaffers outomaties onder hierdie bedrag, sonder om die oorspronklikes te verwyder” is ’n kandidaat. “Bestuur fakture” is nie.
Aanvaar dat konteks kan misluk
Multistapstelsels kan tred verloor met vroeëre instruksies, opgespoorde inligting verkeerd interpreteer, of ’n verkeerde aanname voortsleep. Navorsings- en ingenieursriglyne in die oorsig beklemtoon ook mislukkingsmodusse, waaronder konteksverlies, prompt-inspuiting, nie-terminering, foute met gestruktureerde uitvoer en probleme met toestandherstel. Berkeley se ABBEL-werk voer ook aan dat dit verkieslik kan wees om interaksiegeskiedenisse tot geloofstoestande te kompakteer eerder as om herhaaldelik ’n volledige geskiedenis saam te dra, maar konteksbestuur bly ’n prestasie- en betroubaarheidskwessie.
Dit het ’n direkte implikasie in die werkplek: moenie ’n kritieke goedkeuring laat afhang van die agent se onthou van ’n beperking uit stap twee van ’n lang proses nie. Plaas belangrike beperkings naby die gereedskapoproep of goedkeuringspunt. Vereis gestruktureerde velde vir sensitiewe handelinge, soos ontvanger, bedrag, bron, motivering en vervaldatum. As ’n taak lank duur, vereis ’n kontrolepunt wat die huidige doelwit, voltooide stappe, hangende handelinge en onopgeloste onsekerhede weergee.
Wees veral versigtig wanneer ’n agent onbetroubare materiaal lees. ’n Webblad, e-pos, dokument of kodekommentaar kan instruksies bevat wat daarop gemik is om die stelsel te manipuleer eerder as om te help om die taak te voltooi. Opgespoorde teks moet as data behandel word, tensy die werkvloei dit uitdruklik as ’n gemagtigde instruksie identifiseer.
Ontwerp vir stop en herstel
Gedelegeerde werk benodig ’n sigbare stopmeganisme en ’n herstelplan. Stel ’n maksimum aantal iterasies, gereedskapoproepe of ’n maksimum looptyd vir take wat kan herhaal. Maak herprobeer veilig: om dieselfde kaartjie twee keer te skep of dieselfde e-pos twee keer te stuur, is nie ’n onskadelike mislukking nie. Waar dit ondersteun word, gebruik idempotente bewerkings of laat die stelsel kontroleer of ’n handeling reeds plaasgevind het voordat dit dit herhaal.
Hou ’n mensleesbare aktiwiteitsrekord: die versoek, plan, gebruikte gereedskap, geraadpleegde databronne, verleende goedkeurings, aangebrachte wysigings en finale resultaat. Dit is nie net vir nadoodse ontledings nie. Dit stel ’n kollega in staat om oor te neem wanneer die oorspronklike operateur nie beskikbaar is nie, en maak dit moontlik om ’n resultaat te bevraagteken sonder om ’n hele onsigbare ketting te rekonstrueer.
Toets doelbewus slegte gevalle vir belangrike werkvloeie voordat jy outonomie verleen. Probeer ontbrekende data, botsende beleide, ’n vervalde bron, ’n kwaadwillige instruksie in ’n dokument, ’n duplikaatversoek, ’n herroepe toestemming en ’n gereedskap wat ’n fout terugstuur. Die doel is nie om te bewys dat die agent nooit misluk nie. Dit is om te verifieer dat ’n mislukking ’n pouse, ’n duidelike eskalasie of ’n veilige terugrol veroorsaak.
’n Praktiese delegasieleer
Jy kan ’n agent in fases bekendstel:
- Waarneem: die stelsel lees goedgekeurde inligting en verduidelik wat dit sou doen.
- Konsepte opstel: dit berei uitvoer voor, maar ’n persoon voer elke eksterne handeling uit.
- Tree in ’n sandput op: dit skep toetsrekords, vertakkings of lêers in ’n geïsoleerde werkruimte.
- Tree met beperkte toestemmings op: dit voer omkeerbare, laerisiko-handelinge uit binne volume- en tydsbeperkings.
- Tree volgens beleid op: dit hanteer ’n goed getoetste klas take en hou stil by gedefinieerde goedkeuringspunte.
Beweeg slegs op wanneer die laer stadium bewys gelewer het dat die werkvloei aanvaarbaar funksioneer. As die taak verander, die gereedskap verander of die data meer sensitief word, beweeg weer af met die leer.
Wat dit vir jou loopbaan beteken
Die waardevolle vaardigheid is nie bloot om te weet hoe om ’n KI vir ’n resultaat te vra nie. Dit is om te weet hoe om ’n vae delegering in ’n afgebakende bedryfsprosedure te omskep. Dit sluit in om werk in handelinge op te breek, onomkeerbare oorgange te identifiseer, eskalasiereëls te skryf, goedkeuringsversoeke te ontwerp en te herken wanneer ’n agent moet stop.
Beskryf in onderhoude of prestasiebeoordelings die grens wat jy ontwerp het, nie net die outomatisering wat jy van stapel gestuur het nie: “Die stelsel doen navorsing en stel konsepte op; ’n benoemde beoordelaar keur eksterne kommunikasie goed; databasisinskrywings is tot hierdie velde beperk; duplikaathandelinge word nagegaan; onopgeloste konflikte stop die proses.” Daardie taal toon operasionele oordeel.
Agentiese werk sal nie die behoefte aan professionele aanspreeklikheid uitskakel nie. Dit maak aanspreeklikheid meer konkreet. Voordat jy ’n taak oordra, besluit wat die stelsel mag doen, wat dit eers aan jou moet wys en wat dit nooit alleen mag doen nie. Maak daardie besluite dan sigbaar in die werkvloei self.
Maya Chen is die aanspreeklike menslike redakteur van AI Career Brief, wat vaardighede, rolle en slim skuiwe dek vir werk in die era van KI.
