Perubahan penting dalam AI di tempat kerja bukanlah bahawa model boleh menulis perenggan yang lebih baik. Sebaliknya, sistem kini semakin mampu mencapai sesuatu matlamat melalui beberapa langkah: memeriksa fail, mencari dalam perkhidmatan yang disambungkan, mencipta artifak, mengemas kini rekod, dan menghantar mesej.

Hal ini mengubah persoalan profesional daripada “Adakah jawapan ini betul?” kepada “Apakah yang dibenarkan dilakukan oleh sistem ini sebelum ia perlu bertanya kepada saya?”

Zapier menerangkan ChatGPT Work sebagai mod berasaskan ejen yang boleh berfungsi untuk tempoh yang panjang dengan fail dan aplikasi yang disambungkan, manakala mod Plan mencadangkan strategi untuk diluluskan sebelum pelaksanaan. Microsoft juga menggambarkan Copilot, pengetahuan organisasi, dan tadbir urus sebagai bahagian yang saling melengkapi dalam susunan AI operasi. Contoh-contoh ini menunjukkan satu perbezaan praktikal: AI sedang beralih daripada rakan perbualan kepada pengendali yang diberi tugas.

Pendelegasian boleh menjimatkan masa, tetapi ia juga mengubah bentuk tanggungjawab. Chatbot biasanya menghasilkan output untuk diperiksa oleh seseorang. Ejen mungkin menghasilkan beberapa tindakan perantaraan, yang sebahagiannya sukar dikesan selepas berlaku. Oleh itu, strategi penggunaan yang paling selamat bukanlah autonomi maksimum. Sebaliknya, ia ialah kuasa yang jelas dan diberikan secara berperingkat.

Fikirkan tentang tindakan, bukan gesaan

Langkah pertama yang berguna ialah menyenaraikan tindakan yang boleh diambil oleh sistem AI dalam sesuatu aliran kerja. “Urus penerimaan pelanggan baharu” terlalu luas untuk ditadbir. Inventori yang lebih berguna mungkin merangkumi:

  • membaca dasar dalaman dan mengekstrak keperluan;
  • mencari dalam pangkalan pengetahuan yang diluluskan;
  • menyediakan draf e-mel atau ringkasan kontrak;
  • mencipta tiket atau baris hamparan;
  • mengubah rekod pelanggan atau kewangan;
  • menjemput pengguna, menerbitkan dokumen, atau menghantar mesej luaran;
  • meluluskan bayaran, memadam data, atau membuat komitmen bagi pihak organisasi.

Setiap tindakan mempunyai gabungan kebolehbalikan, kepekaan, kesan luaran, dan kos yang berbeza. Menganggap semuanya sebagai “bantuan AI” menyembunyikan keputusan sebenar.

Pengelasan yang mudah lebih praktikal daripada janji yang kabur bahawa manusia akan menyelia segala-galanya:

  • Boleh dilakukan: tindakan berisiko rendah dan boleh dibalikkan dalam ruang kerja yang jelas terhad.
  • Mesti dicadangkan: tindakan yang mengubah kerja dikongsi, berkomunikasi dengan pihak luar, atau mewujudkan komitmen yang bermakna.
  • Mesti tidak dilakukan secara bersendirian: tindakan yang melibatkan keputusan terkawal selia, pemadaman yang tidak boleh dibalikkan, pemindahan bernilai tinggi, perubahan kawalan akses, atau hal ehwal kakitangan yang sensitif.

Program AI berasaskan ejen kerajaan UAE memberikan contoh dasar yang relevan: program itu merangkumi peraturan untuk menentukan tugas yang boleh diselesaikan oleh ejen dan tugas yang hanya boleh mereka cadangkan. Idea asas ini boleh diterapkan dengan baik pada pasukan individu: kebenaran hendaklah dikaitkan dengan tugas, bukan diberikan semata-mata kerana sistem itu kelihatan berkemampuan.

Gunakan pintu kelulusan apabila akibatnya berubah

Tidak setiap langkah memerlukan dialog pengesahan. Jika sistem meminta kelulusan selepas setiap pembacaan fail, orang akan meluluskan secara mekanikal atau melumpuhkan kawalan tersebut. Letakkan pintu kelulusan tepat sebelum peralihan yang membawa akibat penting.

Sebagai contoh, ejen mungkin dibenarkan mengumpulkan maklumat, membandingkan pilihan, dan menyediakan draf tanpa gangguan. Ejen itu hendaklah berhenti seketika sebelum ia:

  • menghantar apa-apa ke luar organisasi;
  • menerbitkan atau berkongsi dokumen dengan khalayak baharu;
  • mengubah rekod sumber rujukan;
  • membelanjakan wang atau memberikan diskaun;
  • mengubah kebenaran atau mencipta kelayakan;
  • memadam, menulis ganti atau mengeksport data;
  • membuat keputusan yang menjejaskan pekerjaan, kelayakan, kredit, keselamatan atau hak undang-undang.

Permintaan kelulusan harus menunjukkan tindakan yang dicadangkan, sasaran yang tepat, input penting dan akibat yang mungkin berlaku. “Teruskan?” ialah kawalan yang lemah. “Hantar mesej ini kepada 2,400 pelanggan, menggunakan senarai yang dilampirkan, dengan anggaran kos kempen sebanyak $X” memberikan seseorang sesuatu yang bermakna untuk disemak.

Bagi tindakan berimpak tinggi, lantik pelulus yang dinamakan dan bukannya sesiapa sahaja yang kebetulan sedang memerhatikan skrin. Asingkan orang yang mereka bentuk aliran kerja daripada orang yang membenarkan hasilnya yang paling besar kesannya apabila risiko membenarkannya.

Tentukan lingkungan operasi ejen

Profesional tidak perlu memahami setiap perincian model untuk menetapkan batasan yang berguna. Namun, mereka perlu menyatakan lingkungan operasi sistem:

  • Skop: projek, folder, akaun dan sumber data manakah yang tersedia?
  • Alat: adakah sistem dibenarkan membaca, menulis, menghantar, membeli, melaksanakan kod atau mengubah kebenaran?
  • Had: apakah had perbelanjaan, jumlah, kekerapan atau masa yang terpakai?
  • Sumber: domain, repositori atau pangkalan data manakah yang dianggap berautoriti?
  • Eskalasi: apakah ketidakpastian, konflik atau maklumat yang tiada yang memerlukan campur tangan seseorang?
  • Syarat berhenti: bilakah sistem mesti berhenti dan bukannya membuat andaian?

Akses alat hendaklah lebih sempit daripada akses umum akaun pengguna sedapat mungkin. Ejen yang boleh membaca pemacu dikongsi tidak semestinya memerlukan kebenaran untuk menghantar e-mel kepada setiap kenalan. Ejen yang boleh merangka kod tidak semestinya memerlukan kelayakan produksi. Akaun perkhidmatan berasingan, ruang kerja terhad atau sambungan baca sahaja boleh mengurangkan kos sesuatu kesilapan.

Tulis batasan dalam bahasa operasi. “Gunakan pertimbangan” bukanlah kawalan. “Jangan hantar e-mel luaran tanpa kelulusan; jangan ubah suai pangkalan data pelanggan; gunakan hanya jadual harga yang diluluskan bertarikh [date]; berhenti jika dua sumber bercanggah” boleh diuji.

Jadikan rancangan boleh diperiksa sebelum pelaksanaan

Perancangan ialah salah satu ciri AI yang diwakilkan yang berguna, tetapi rancangan bukan bukti bahawa rancangan itu kukuh. Semak rancangan tersebut sebagai urutan tindakan yang dicadangkan.

Tanyakan empat soalan:

  1. Apakah hasil yang ingin dicapai oleh sistem?
  2. Apakah andaian yang dibuatnya?
  3. Alat manakah yang akan dipanggilnya, dan dengan kebenaran apa?
  4. Pada langkah manakah kesilapan boleh menjadi mahal atau sukar untuk diterbalikkan?

Skrin kelulusan yang baik harus mendedahkan batasan rancangan, bukan sekadar prosa akhirnya. Jika sistem mengatakan bahawa ia akan “mengemas kini akaun,” penyemak harus dapat melihat sama ada maksudnya ialah menandai rekod, menggabungkan pendua, mengarkibkan mesej atau memadam data.

Bagi kerja berulang, luluskan dasar dan bukannya setiap kejadian hanya apabila dasar itu cukup sempit untuk diuji. “Failkan invois secara automatik daripada vendor ini yang berjumlah di bawah amaun ini, tanpa memadamkan dokumen asal” ialah calon yang sesuai. “Uruskan invois” bukan.

Anggap konteks boleh gagal

Sistem berbilang langkah boleh kehilangan jejak arahan terdahulu, tersalah tafsir maklumat yang diperoleh, atau meneruskan andaian yang tersilap. Panduan penyelidikan dan kejuruteraan dalam ringkasan tersebut mengetengahkan mod kegagalan termasuk kehilangan konteks, suntikan gesaan, ketidakberhentian, ralat output berstruktur dan masalah pemulihan semula keadaan. Hasil kerja ABBEL Berkeley juga berhujah bahawa memadatkan sejarah interaksi menjadi keadaan kepercayaan mungkin lebih baik daripada berulang kali membawa keseluruhan sejarah, namun pengurusan konteks kekal sebagai kebimbangan terhadap prestasi dan kebolehpercayaan.

Hal ini mempunyai implikasi langsung di tempat kerja: jangan jadikan kelulusan kritikal bergantung pada keupayaan ejen mengingati kekangan daripada langkah kedua dalam pelaksanaan yang panjang. Letakkan kekangan penting berdekatan panggilan alat atau gerbang kelulusan. Wajibkan medan berstruktur untuk tindakan sensitif, seperti penerima, jumlah, sumber, justifikasi dan tarikh luput. Jika sesuatu tugasan berjalan lama, wajibkan titik semak yang menyatakan semula objektif semasa, langkah yang telah selesai, tindakan yang belum selesai dan ketidakpastian yang belum diselesaikan.

Berhati-hati khususnya apabila ejen membaca bahan yang tidak dipercayai. Halaman web, e-mel, dokumen atau komen kod mungkin mengandungi arahan yang bertujuan memanipulasi sistem dan bukannya membantu menyelesaikan tugasan. Teks yang diperoleh hendaklah dianggap sebagai data melainkan aliran kerja mengenal pastinya secara jelas sebagai arahan yang dibenarkan.

Reka bentuk untuk penghentian dan pemulihan

Kerja yang diwakilkan memerlukan mekanisme berhenti yang jelas dan pelan pemulihan. Tetapkan bilangan maksimum lelaran, panggilan alat atau tempoh masa operasi untuk tugasan yang mungkin berulang tanpa henti. Jadikan percubaan semula selamat: mencipta tiket yang sama dua kali atau menghantar e-mel yang sama dua kali bukanlah kegagalan yang tidak berbahaya. Jika disokong, gunakan operasi idempoten atau minta sistem menyemak sama ada sesuatu tindakan telah berlaku sebelum mengulanginya.

Simpan rekod aktiviti yang boleh dibaca manusia: permintaan, pelan, alat yang digunakan, sumber data yang dirujuk, kelulusan yang diberikan, perubahan yang dibuat dan hasil akhir. Ini bukan hanya untuk bedah siasat selepas kejadian. Rekod ini membolehkan rakan sekerja mengambil alih apabila pengendali asal tidak tersedia dan memungkinkan sesuatu hasil dipersoalkan tanpa membina semula keseluruhan rantaian yang tidak kelihatan.

Bagi aliran kerja penting, uji kes yang sengaja dibuat buruk sebelum memberikan autonomi. Cuba data yang hilang, dasar yang bercanggah, sumber yang telah luput, arahan berniat jahat dalam dokumen, permintaan pendua, kebenaran yang telah dibatalkan dan alat yang mengembalikan ralat. Matlamatnya bukan untuk membuktikan bahawa ejen tidak pernah gagal. Matlamatnya adalah untuk mengesahkan bahawa kegagalan menyebabkan jeda, peningkatan isu yang jelas atau pengembalian selamat.

Tangga perwakilan praktikal

Anda boleh memperkenalkan ejen secara berperingkat:

  1. Pemerhatian: sistem membaca maklumat yang diluluskan dan menerangkan perkara yang akan dilakukannya.
  2. Draf: sistem menyediakan output, tetapi seseorang melaksanakan setiap tindakan luaran.
  3. Bertindak dalam kotak pasir: sistem mencipta rekod ujian, cabang atau fail dalam ruang kerja terpencil.
  4. Bertindak dengan kebenaran terhad: sistem melaksanakan tindakan yang boleh diterbalikkan dan berisiko rendah di bawah had jumlah dan masa.
  5. Bertindak mengikut dasar: sistem mengendalikan kelas tugasan yang telah diuji dengan baik dan berhenti pada gerbang kelulusan yang ditetapkan.

Naik ke peringkat seterusnya hanya apabila peringkat yang lebih rendah telah menghasilkan bukti bahawa aliran kerja berfungsi dengan sewajarnya. Jika tugasan berubah, alat berubah atau data menjadi lebih sensitif, turun semula dalam tangga tersebut.

Maksudnya untuk kerjaya anda

Kemahiran yang bernilai bukan sekadar mengetahui cara meminta AI menghasilkan sesuatu. Kemahiran itu ialah mengetahui cara menukarkan perwakilan yang samar kepada tatacara operasi yang mempunyai batasan. Ini termasuk memecahkan kerja kepada tindakan, mengenal pasti peralihan yang tidak boleh diterbalikkan, menulis peraturan peningkatan isu, mereka bentuk permintaan kelulusan dan mengenali masa ejen patut berhenti.

Dalam temu duga atau semakan prestasi, terangkan batasan yang anda reka bentuk, bukan sekadar automasi yang anda lancarkan: “Sistem menyelidik dan menyediakan draf; penyemak yang dinamakan meluluskan komunikasi luaran; penulisan pangkalan data dihadkan kepada medan ini; tindakan pendua disemak; konflik yang belum diselesaikan menghentikan pelaksanaan.” Bahasa itu menunjukkan pertimbangan operasi.

Kerja berasaskan ejen tidak akan menghapuskan keperluan terhadap kebertanggungjawaban profesional. Sebaliknya, ia menjadikan kebertanggungjawaban lebih konkrit. Sebelum menyerahkan sesuatu tugasan, tentukan perkara yang boleh dilakukan oleh sistem, perkara yang mesti ditunjukkannya kepada anda terlebih dahulu dan perkara yang tidak boleh dilakukannya sendirian. Kemudian jadikan keputusan tersebut jelas dalam aliran kerja itu sendiri.

Maya Chen ialah editor manusia yang bertanggungjawab bagi AI Career Brief, yang merangkumi kemahiran, peranan dan langkah bijak untuk bekerja dalam era AI.