Η σημαντική αλλαγή στην τεχνητή νοημοσύνη στον χώρο εργασίας δεν είναι ότι ένα μοντέλο μπορεί να γράψει μια καλύτερη παράγραφο. Είναι ότι ένα σύστημα μπορεί ολοένα και περισσότερο να επιδιώκει έναν στόχο μέσα από عدة βήματα: να εξετάζει αρχεία, να αναζητά σε συνδεδεμένες υπηρεσίες, να δημιουργεί ένα τεχνούργημα, να ενημερώνει μια καταχώριση και να στέλνει ένα μήνυμα.
Αυτό μετατοπίζει το επαγγελματικό ερώτημα από το «Είναι σωστή αυτή η απάντηση;» στο «Τι επιτρέπεται να κάνει αυτό το σύστημα προτού χρειαστεί να με ρωτήσει;»
Η Zapier περιγράφει το ChatGPT Work ως λειτουργία βασισμένη σε πράκτορες, η οποία μπορεί να εργάζεται για παρατεταμένες χρονικές περιόδους με αρχεία και συνδεδεμένες εφαρμογές, ενώ η λειτουργία Plan προτείνει μια στρατηγική προς έγκριση πριν από την εκτέλεση. Η Microsoft, αντίστοιχα, παρουσιάζει το Copilot, τη γνώση του οργανισμού και τη διακυβέρνηση ως συμπληρωματικά μέρη μιας λειτουργικής στοίβας τεχνητής νοημοσύνης. Αυτά τα παραδείγματα υποδεικνύουν μια πρακτική διάκριση: η τεχνητή νοημοσύνη μεταβαίνει από συνομιλητή σε εντεταλμένο χειριστή.
Η ανάθεση μπορεί να εξοικονομεί χρόνο, αλλά αλλάζει επίσης τη μορφή της ευθύνης. Ένα chatbot συνήθως παράγει ένα αποτέλεσμα για να το ελέγξει ένας άνθρωπος. Ένας πράκτορας μπορεί να εκτελέσει αρκετές ενδιάμεσες ενέργειες, ορισμένες από τις οποίες είναι δύσκολο να εντοπιστούν εκ των υστέρων. Επομένως, η ασφαλέστερη στρατηγική υιοθέτησης δεν είναι η μέγιστη αυτονομία. Είναι η σαφής, κλιμακωτή εξουσιοδότηση.
Σκεφτείτε με βάση τις ενέργειες, όχι τις προτροπές
Ένα χρήσιμο πρώτο βήμα είναι να καταγράψετε τις ενέργειες που θα μπορούσε να εκτελέσει ένα σύστημα τεχνητής νοημοσύνης σε μια ροή εργασίας. Το «Διαχειρίσου την ένταξη πελατών» είναι υπερβολικά γενικό για να διέπεται από κανόνες. Ένας πιο χρήσιμος κατάλογος μπορεί να περιλαμβάνει:
- ανάγνωση μιας εσωτερικής πολιτικής και εξαγωγή των απαιτήσεων·
- αναζήτηση σε εγκεκριμένη βάση γνώσεων·
- σύνταξη email ή περίληψης σύμβασης·
- δημιουργία αιτήματος ή γραμμής σε υπολογιστικό φύλλο·
- αλλαγή μιας καταχώρισης πελάτη ή οικονομικής καταχώρισης·
- πρόσκληση ενός χρήστη, δημοσίευση ενός εγγράφου ή αποστολή εξωτερικού μηνύματος·
- έγκριση μιας πληρωμής, διαγραφή δεδομένων ή ανάληψη δέσμευσης εκ μέρους του οργανισμού.
Κάθε ενέργεια έχει διαφορετικό συνδυασμό αναστρεψιμότητας, ευαισθησίας, εξωτερικού αντίκτυπου και κόστους. Αν τις αντιμετωπίζουμε όλες ως «υποβοήθηση από την τεχνητή νοημοσύνη», αποκρύπτουμε την πραγματική απόφαση.
Μια απλή ταξινόμηση είναι πιο πρακτική από μια αόριστη υπόσχεση ότι ένας άνθρωπος θα επιβλέπει τα πάντα:
- Μπορεί να εκτελεί: ενέργειες χαμηλού κινδύνου και αναστρέψιμες, μέσα σε έναν σαφώς περιορισμένο χώρο εργασίας.
- Πρέπει να προτείνει: ενέργειες που αλλάζουν κοινόχρηστη εργασία, επικοινωνούν externally ή δημιουργούν ουσιαστική δέσμευση.
- Δεν πρέπει ποτέ να εκτελεί μόνο του: ενέργειες που αφορούν ρυθμιζόμενες αποφάσεις, μη αναστρέψιμη διαγραφή, μεταφορές υψηλής αξίας, αλλαγές στον έλεγχο πρόσβασης ή ευαίσθητα ζητήματα προσωπικού.
Το κυβερνητικό πρόγραμμα agentic AI των ΗΑΕ παρέχει ένα σχετικό παράδειγμα πολιτικής: περιλαμβάνει κανόνες για να αποφασίζεται ποιες εργασίες επιτρέπεται να ολοκληρώνουν οι πράκτορες και ποιες μπορούν μόνο να προτείνουν. Η βασική ιδέα μεταφέρεται εύκολα σε μια επιμέρους ομάδα: η άδεια πρέπει να συνδέεται με την εργασία και όχι να παρέχεται απλώς επειδή το σύστημα φαίνεται ικανό.
Χρησιμοποιήστε πύλες έγκρισης όταν αλλάζουν οι συνέπειες
Δεν αξίζει κάθε βήμα ένα παράθυρο επιβεβαίωσης. Αν ένα σύστημα ζητά έγκριση μετά από κάθε ανάγνωση αρχείου, οι άνθρωποι θα εγκρίνουν μηχανικά ή θα απενεργοποιήσουν τον έλεγχο. Τοποθετήστε την πύλη ακριβώς πριν από μια μετάβαση με σημαντικές συνέπειες.
Για παράδειγμα, μπορεί να επιτρέπεται σε έναν πράκτορα να συλλέγει πληροφορίες, να συγκρίνει επιλογές και να προετοιμάζει ένα προσχέδιο χωρίς διακοπή. Θα πρέπει να κάνει παύση πριν:
- στείλει οτιδήποτε εκτός του οργανισμού·
- δημοσιεύσει ή μοιραστεί ένα έγγραφο με νέο κοινό·
- αλλάξει μια καταχώριση που αποτελεί την πηγή αλήθειας·
- δαπανά χρήματα ή εφαρμόζει έκπτωση;
- αλλάζει δικαιώματα ή δημιουργεί διαπιστευτήρια;
- διαγράφει, αντικαθιστά ή εξάγει δεδομένα;
- λαμβάνει απόφαση που επηρεάζει την απασχόληση, την επιλεξιμότητα, την πιστοληπτική ικανότητα, την ασφάλεια ή τα νομικά δικαιώματα.
Το αίτημα έγκρισης θα πρέπει να παρουσιάζει την προτεινόμενη ενέργεια, τον ακριβή στόχο, τα ουσιώδη δεδομένα εισόδου και την πιθανή συνέπεια. Το «Συνέχεια;» είναι ένας ανεπαρκής έλεγχος. Το «Στείλτε αυτό το μήνυμα σε 2.400 πελάτες, χρησιμοποιώντας τη συνημμένη λίστα, με εκτιμώμενο κόστος καμπάνιας $X» δίνει σε ένα άτομο κάτι ουσιαστικό προς εξέταση.
Για ενέργειες υψηλού αντίκτυπου, απαιτήστε έναν κατονομαζόμενο εγκριτή αντί για όποιον τυχαίνει να παρακολουθεί την οθόνη. Διαχωρίστε το άτομο που σχεδίασε τη ροή εργασίας από το άτομο που εγκρίνει το πιο σημαντικό αποτέλεσμά της, όταν το δικαιολογεί ο κίνδυνος.
Καθορίστε το λειτουργικό περιθώριο του πράκτορα
Οι επαγγελματίες δεν χρειάζεται να κατανοούν κάθε λεπτομέρεια του μοντέλου για να θέσουν χρήσιμα όρια. Χρειάζεται όμως να προσδιορίσουν το λειτουργικό περιθώριο του συστήματος:
- Εμβέλεια: ποια έργα, φάκελοι, λογαριασμοί και πηγές δεδομένων είναι διαθέσιμα;
- Εργαλεία: επιτρέπεται στο σύστημα να διαβάζει, να γράφει, να στέλνει, να πραγματοποιεί αγορές, να εκτελεί κώδικα ή να αλλάζει δικαιώματα;
- Όρια: ποιο όριο δαπανών, όγκου, συχνότητας ή χρόνου ισχύει;
- Πηγές: ποιοι τομείς, αποθετήρια ή βάσεις δεδομένων θεωρούνται έγκυρες πηγές;
- Κλιμάκωση: ποια αβεβαιότητα, σύγκρουση ή έλλειψη πληροφοριών απαιτεί την παρέμβαση ενός ατόμου;
- Προϋποθέσεις διακοπής: πότε πρέπει το σύστημα να σταματά αντί να αυτοσχεδιάζει;
Η πρόσβαση στα εργαλεία θα πρέπει, όπου είναι δυνατόν, να είναι πιο περιορισμένη από τη γενική πρόσβαση του χρήστη στον λογαριασμό. Ένας πράκτορας που μπορεί να διαβάζει έναν κοινόχρηστο δίσκο δεν χρειάζεται αυτομάτως άδεια να στέλνει email σε κάθε επαφή. Ένας πράκτορας που μπορεί να συντάσσει κώδικα δεν χρειάζεται αυτομάτως διαπιστευτήρια παραγωγής. Ένας ξεχωριστός λογαριασμός υπηρεσίας, ένας περιορισμένος χώρος εργασίας ή μια σύνδεση μόνο για ανάγνωση μπορεί να κάνει ένα σφάλμα λιγότερο δαπανηρό.
Διατυπώστε το όριο σε λειτουργική γλώσσα. Το «Χρησιμοποίησε την κρίση σου» δεν είναι έλεγχος. Το «Μην στέλνεις εξωτερικά email χωρίς έγκριση· μην τροποποιείς τη βάση δεδομένων πελατών· χρησιμοποίησε μόνο τον εγκεκριμένο πίνακα τιμών με ημερομηνία [date]· σταμάτα αν δύο πηγές έρχονται σε σύγκρουση» είναι ελέγξιμο.
Κάντε τα σχέδια ελέγξιμα πριν από την εκτέλεση
Ο σχεδιασμός είναι ένα από τα χρήσιμα χαρακτηριστικά της ανάθεσης σε AI, όμως ένα σχέδιο δεν αποτελεί απόδειξη ότι είναι ορθό. Εξετάστε το ως προτεινόμενη ακολουθία ενεργειών.
Θέστε τέσσερα ερωτήματα:
- Ποιο αποτέλεσμα επιδιώκει το σύστημα;
- Ποιες παραδοχές κάνει;
- Ποια εργαλεία θα καλέσει και με ποια δικαιώματα;
- Σε ποιο βήμα μπορεί ένα λάθος να γίνει δαπανηρό ή δύσκολο να αναστραφεί;
Μια καλή οθόνη έγκρισης θα πρέπει να αποκαλύπτει τα όρια του σχεδίου και όχι μόνο το τελικό κείμενό του. Αν το σύστημα λέει ότι θα «τακτοποιήσει τον λογαριασμό», ο ελεγκτής θα πρέπει να μπορεί να δει αν αυτό σημαίνει επισήμανση εγγραφών, συγχώνευση διπλότυπων, αρχειοθέτηση μηνυμάτων ή διαγραφή δεδομένων.
Για επαναλαμβανόμενη εργασία, εγκρίνετε μια πολιτική αντί για κάθε επιμέρους περίπτωση μόνο όταν η πολιτική είναι αρκετά περιορισμένη ώστε να μπορεί να ελεγχθεί. Το «Αρχειοθέτησε αυτόματα τα τιμολόγια από αυτούς τους προμηθευτές κάτω από αυτό το ποσό, χωρίς να διαγράφεις τα πρωτότυπα» είναι υποψήφια πολιτική. Το «Διαχειρίσου τα τιμολόγια» δεν είναι.
Υπόθεσε ότι το πλαίσιο μπορεί να αποτύχει
Τα συστήματα πολλαπλών βημάτων μπορεί να χάσουν τον ειρμό προηγούμενων οδηγιών, να παρερμηνεύσουν ανακτημένες πληροφορίες ή να συνεχίσουν να βασίζονται σε μια εσφαλμένη υπόθεση. Η έρευνα και η καθοδήγηση μηχανικής στο digest επισημαίνουν τρόπους αποτυχίας, όπως η απώλεια πλαισίου, η έγχυση προτροπών, η μη τερματισμός, τα σφάλματα δομημένης εξόδου και τα προβλήματα επαναφοράς κατάστασης. Η εργασία ABBEL του Berkeley υποστηρίζει επίσης ότι η συμπύκνωση των ιστορικών αλληλεπίδρασης σε καταστάσεις πεποιθήσεων μπορεί να είναι προτιμότερη από την επανειλημμένη μεταφορά ολόκληρου του ιστορικού, όμως η διαχείριση του πλαισίου παραμένει ζήτημα απόδοσης και αξιοπιστίας.
Αυτό έχει άμεση συνέπεια στον χώρο εργασίας: μην εξαρτάς μια κρίσιμη έγκριση από το αν ο πράκτορας θα θυμάται έναν περιορισμό από το δεύτερο βήμα μιας μακράς εκτέλεσης. Τοποθέτησε τους σημαντικούς περιορισμούς κοντά στην κλήση του εργαλείου ή στην πύλη έγκρισης. Απαίτησε δομημένα πεδία για ευαίσθητες ενέργειες, όπως παραλήπτης, ποσό, πηγή, αιτιολόγηση και ημερομηνία λήξης. Αν μια εργασία διαρκεί πολύ, απαίτησε ένα σημείο ελέγχου που να επαναδιατυπώνει τον τρέχοντα στόχο, τα ολοκληρωμένα βήματα, τις εκκρεμείς ενέργειες και τις ανεπίλυτες αβεβαιότητες.
Να είσαι ιδιαίτερα προσεκτικός όταν ένας πράκτορας διαβάζει μη αξιόπιστο υλικό. Μια ιστοσελίδα, ένα email, ένα έγγραφο ή ένα σχόλιο κώδικα μπορεί να περιέχει οδηγίες που αποσκοπούν στη χειραγώγηση του συστήματος αντί να βοηθούν στην ολοκλήρωση της εργασίας. Το ανακτημένο κείμενο πρέπει να αντιμετωπίζεται ως δεδομένο, εκτός αν η ροή εργασίας το χαρακτηρίζει ρητά ως εξουσιοδοτημένη οδηγία.
Σχεδίασε για διακοπή και ανάκαμψη
Η ανατεθειμένη εργασία χρειάζεται έναν ορατό μηχανισμό διακοπής και ένα σχέδιο ανάκαμψης. Όρισε μέγιστο αριθμό επαναλήψεων, κλήσεων εργαλείων ή χρόνο εκτέλεσης για εργασίες που μπορεί να περιέλθουν σε βρόχο. Κάνε τις επαναλήψεις ασφαλείς: η δημιουργία του ίδιου αιτήματος δύο φορές ή η αποστολή του ίδιου email δύο φορές δεν είναι αβλαβής αποτυχία. Όπου υποστηρίζεται, χρησιμοποίησε αδρανείς λειτουργίες ή βάλε το σύστημα να ελέγχει αν μια ενέργεια έχει ήδη πραγματοποιηθεί πριν την επαναλάβει.
Διατήρησε ένα αρχείο δραστηριότητας κατανοητό από άνθρωπο: το αίτημα, το σχέδιο, τα εργαλεία που χρησιμοποιήθηκαν, τις πηγές δεδομένων που συμβουλεύτηκαν, τις εγκρίσεις που δόθηκαν, τις αλλαγές που έγιναν και το τελικό αποτέλεσμα. Αυτό δεν είναι μόνο για τις εκ των υστέρων αναλύσεις. Επιτρέπει σε έναν συνάδελφο να αναλάβει όταν ο αρχικός χειριστής δεν είναι διαθέσιμος και καθιστά δυνατή την αμφισβήτηση ενός αποτελέσματος χωρίς να χρειάζεται ανασύνθεση μιας ολόκληρης αόρατης αλυσίδας.
Για σημαντικές ροές εργασίας, δοκίμασε σκόπιμα κακές περιπτώσεις πριν παραχωρήσεις αυτονομία. Δοκίμασε δεδομένα που λείπουν, αντικρουόμενες πολιτικές, μια πηγή που έχει λήξει, μια κακόβουλη οδηγία σε ένα έγγραφο, ένα διπλό αίτημα, μια ανακληθείσα άδεια και ένα εργαλείο που επιστρέφει σφάλμα. Ο στόχος δεν είναι να αποδείξεις ότι ο πράκτορας δεν αποτυγχάνει ποτέ. Είναι να επαληθεύσεις ότι η αποτυχία προκαλεί παύση, σαφή κλιμάκωση ή ασφαλή επαναφορά.
Μια πρακτική κλίμακα ανάθεσης
Μπορείς να εισαγάγεις έναν πράκτορα σταδιακά:
- Παρατήρηση: το σύστημα διαβάζει εγκεκριμένες πληροφορίες και εξηγεί τι θα έκανε.
- Προσχέδιο: προετοιμάζει αποτελέσματα, αλλά ένας άνθρωπος εκτελεί κάθε εξωτερική ενέργεια.
- Ενέργεια σε sandbox: δημιουργεί δοκιμαστικές εγγραφές, κλάδους ή αρχεία σε απομονωμένο χώρο εργασίας.
- Ενέργεια με περιορισμένα δικαιώματα: εκτελεί αναστρέψιμες ενέργειες χαμηλού κινδύνου, υπό όρια όγκου και χρόνου.
- Ενέργεια υπό πολιτική: χειρίζεται μια καλά δοκιμασμένη κατηγορία εργασιών και σταματά σε προκαθορισμένες πύλες έγκρισης.
Προχώρα στο επόμενο επίπεδο μόνο όταν το χαμηλότερο στάδιο έχει παράγει στοιχεία ότι η ροή εργασίας λειτουργεί αποδεκτά. Αν αλλάξει η εργασία, αλλάξουν τα εργαλεία ή τα δεδομένα γίνουν πιο ευαίσθητα, κατέβα ξανά στην κλίμακα.
Τι σημαίνει αυτό για την καριέρα σου
Η πολύτιμη δεξιότητα δεν είναι απλώς να ξέρεις πώς να ζητάς από μια τεχνητή νοημοσύνη ένα αποτέλεσμα. Είναι να ξέρεις πώς να μετατρέπεις μια ασαφή ανάθεση σε μια οριοθετημένη διαδικασία λειτουργίας. Αυτό περιλαμβάνει την αποσύνθεση της εργασίας σε ενέργειες, τον εντοπισμό μη αναστρέψιμων μεταβάσεων, τη σύνταξη κανόνων κλιμάκωσης, τον σχεδιασμό αιτημάτων έγκρισης και την αναγνώριση του πότε ένας πράκτορας πρέπει να σταματά.
Σε συνεντεύξεις ή αξιολογήσεις απόδοσης, περιέγραψε το όριο που σχεδίασες, όχι μόνο τον αυτοματισμό που έθεσες σε λειτουργία: «Το σύστημα ερευνά και συντάσσει προσχέδια· ένας κατονομασμένος αξιολογητής εγκρίνει την εξωτερική επικοινωνία· οι εγγραφές στη βάση δεδομένων περιορίζονται σε αυτά τα πεδία· οι διπλές ενέργειες ελέγχονται· οι ανεπίλυτες συγκρούσεις σταματούν την εκτέλεση». Αυτή η διατύπωση αποδεικνύει επιχειρησιακή κρίση.
Η εργασία με πράκτορες δεν θα εξαλείψει την ανάγκη για επαγγελματική λογοδοσία. Κάνει τη λογοδοσία πιο συγκεκριμένη. Πριν παραδώσεις μια εργασία, αποφάσισε τι επιτρέπεται να κάνει το σύστημα, τι πρέπει να σου δείξει πρώτα και τι δεν πρέπει ποτέ να κάνει μόνο του. Έπειτα κάνε αυτές τις αποφάσεις ορατές μέσα στην ίδια τη ροή εργασίας.
Η Maya Chen είναι η υπεύθυνη ανθρώπινη συντάκτρια του AI Career Brief, που καλύπτει δεξιότητες, ρόλους και έξυπνες κινήσεις για την εργασία στην εποχή της τεχνητής νοημοσύνης.
