Οι περισσότεροι εξακολουθούν να περιγράφουν έναν πράκτορα AI ως ένα μοντέλο συνδεδεμένο με εργαλεία. Αυτό είναι τεχνικά χρήσιμο, αλλά λειτουργικά ελλιπές. Ένας πράκτορας χρειάζεται επίσης μια διαχειριζόμενη εικόνα του κόσμου: τι έχει συμβεί, τι έχει σημασία τώρα, ποια γεγονότα είναι αξιόπιστα, τι παραμένει αβέβαιο και τι πρέπει να κάνει στη συνέχεια.
Αυτή η εικόνα είναι το πλαίσιο του. Ο σχεδιασμός της εξελίσσεται σε ξεχωριστή δεξιότητα—μια δεξιότητα που θα αποκαλούσα μηχανική πλαισίου.
Η μηχανική πλαισίου δεν είναι απλώς η συγγραφή προτροπών. Είναι η πειθαρχία της διαμόρφωσης των πληροφοριών που βλέπει ένας πράκτορας σε κάθε βήμα, ώστε να μπορεί να παραμένει συνεκτικός χωρίς να στέλνει ολόκληρο το απομαγνητοφωνημένο ιστορικό, τη βιβλιοθήκη εγγράφων ή το ιστορικό των εργαλείων σε ένα ακριβό μοντέλο σε κάθε γύρο. Η εργασία αυτή βρίσκεται ανάμεσα στην αρχιτεκτονική πληροφοριών, την ανάκτηση, τον σχεδιασμό λογισμικού και τη συμπεριφορά των μοντέλων.
Γιατί το «δώσε στον πράκτορα περισσότερο πλαίσιο» είναι συχνά κακή συμβουλή
Τα μεγαλύτερα παράθυρα πλαισίου καθιστούν δελεαστικό να διατηρούνται τα πάντα. Όμως περισσότερο υλικό δεν εγγυάται καλύτερη συλλογιστική. Οι σχετικές οδηγίες μπορεί να αραιωθούν από παρωχημένες παρατηρήσεις, αντικρουόμενες σημειώσεις, επαναλαμβανόμενη έξοδο εργαλείων ή ένα σημαντικό γεγονός θαμμένο στη μέση μιας μακράς ακολουθίας. Η συζήτηση της σύνοψης για τη συμπεριφορά «χαμένο στη μέση» αντικατοπτρίζει ένα πρακτικό πρόβλημα: ένας πράκτορας μπορεί τεχνικά να λάβει τα στοιχεία και παρ’ όλα αυτά να αποτύχει να τα χρησιμοποιήσει.
Υπάρχει επίσης άμεσο κόστος. Κάθε διακριτικό που τοποθετείται σε ένα αίτημα μπορεί να αυξήσει την καθυστέρηση και το κόστος συμπερασμού, ανάλογα με την τιμολόγηση του παρόχου και τις ρυθμίσεις προσωρινής αποθήκευσης. Ένα σύστημα που προωθεί επανειλημμένα ένα αυξανόμενο απομαγνητοφωνημένο ιστορικό μπορεί να γίνει πιο αργό και λιγότερο οικονομικό όσο συνεχίζεται μια εργασία.
Επομένως, ο στόχος δεν είναι το μέγιστο πλαίσιο. Είναι επαρκές, στοχευμένο πλαίσιο: το μικρότερο αξιόπιστο σύνολο εργασίας για την απόφαση που πρέπει να ληφθεί.
Τέσσερις σχεδιαστικές αποφάσεις πίσω από έναν συνεκτικό πράκτορα
1. Διατήρηση κατάστασης πεποιθήσεων, όχι απλώς απομαγνητοφωνημένου ιστορικού
Ένα απομαγνητοφωνημένο ιστορικό καταγράφει τι ειπώθηκε. Μια κατάσταση πεποιθήσεων καταγράφει τι πιστεύει επί του παρόντος ο πράκτορας για την εργασία.
Για παράδειγμα, ένας πράκτορας που χειρίζεται μια κλιμάκωση αιτήματος υποστήριξης μπορεί να διατηρεί δομημένα πεδία όπως:
- Στόχος: να προσδιοριστεί αν ο πελάτης δικαιούται αντικατάσταση.
- Γνωστά γεγονότα: ημερομηνία αγοράς και σειριακός αριθμός προϊόντος, με αναφορές στις πηγές.
- Ανοιχτά ερωτήματα: αν η βλάβη παρουσιάστηκε υπό συνθήκες που καλύπτονται από την εγγύηση.
- Περιορισμοί: να μην υποσχεθεί επιστροφή χρημάτων πριν από την έγκριση.
- Επόμενη ενέργεια: ανάκτηση της πολιτικής εγγύησης και σύγκριση των ημερομηνιών.
- Βεβαιότητα ή κατάσταση: επαληθευμένο, συναγόμενο, αμφισβητούμενο ή άγνωστο.
Αυτή η προσέγγιση θυμίζει την έρευνα ABBEL του Berkeley, η οποία χρησιμοποιεί εποπτευόμενες καταστάσεις πεποιθήσεων φυσικής γλώσσας αντί να βασίζεται σε πλήρη ιστορικά αλληλεπίδρασης. Η σημαντική ιδέα δεν είναι κάποια συγκεκριμένη μορφή. Είναι ο διαχωρισμός της διαρκούς κατάστασης της εργασίας από τις αναλώσιμες λεπτομέρειες της συνομιλίας.
Μια χρήσιμη ενημέρωση της κατάστασης πεποιθήσεων θα πρέπει να απαντά στα εξής: Τι άλλαξε; Ποια στοιχεία το υποστηρίζουν; Τι παραμένει άλυτο; Τι πρέπει να γίνει στη συνέχεια; Αν ένας μηχανικός δεν μπορεί να εξετάσει αυτές τις απαντήσεις, είναι πιθανό ο πράκτορας να μεταφέρει κρυφές παραδοχές σε μια αδιαφανή προτροπή.
2. Ανάκτηση για την απόφαση, όχι για το θέμα
Τα συστήματα ανάκτησης συχνά ξεκινούν με μια ευρεία ερώτηση όπως «βρες πληροφορίες για τον λογαριασμό του πελάτη». Ένα καλύτερο ερώτημα συνδέεται με την επόμενη απόφαση: «ανάκτησε τον ισχύοντα κανόνα επιστροφής χρημάτων για αγορές παλαιότερες των 30 ημερών, που ισχύει στην περιοχή του πελάτη».
Αυτή η μετατόπιση έχει σημασία, επειδή η ανάκτηση είναι μια μορφή επιλογής πλαισίου. Ο πράκτορας θα πρέπει να λαμβάνει τα αποσπάσματα πολιτικών, τις εγγραφές ή τα παραδείγματα που σχετίζονται με την τρέχουσα ενέργεια—όχι έναν γενικό σωρό συναφών εγγράφων.
Τα φίλτρα μπορούν να βελτιώσουν αυτή την επιλογή πριν το μοντέλο δει οποιαδήποτε αποτελέσματα. Για παράδειγμα, η Amazon Bedrock AgentCore Web Search υποστηρίζει φίλτρα τομέα και ημερομηνίας δημοσίευσης που επιβάλλονται από τον διακομιστή σε κάθε αίτημα. Τέτοιοι έλεγχοι δεν αποδεικνύουν ότι μια πηγή είναι σωστή, αλλά μπορούν να μειώσουν την έκθεση σε άσχετο ή παρωχημένο υλικό και να καταστήσουν ρητή την πολιτική ανάκτησης.
Οι επαγγελματίες που σχεδιάζουν την ανάκτηση θα πρέπει να καθορίζουν:
- ποιες πηγές επιτρέπονται για κάθε εργασία;
- πώς καθορίζεται η επικαιρότητα·
- ποια μεταδεδομένα συνοδεύουν κάθε αποτέλεσμα·
- πώς παρουσιάζονται οι αντικρουόμενες πηγές·
- πότε ο πράκτορας πρέπει να σταματήσει και να ζητήσει διευκρινίσεις.
«Αναζήτηση στον ιστό» είναι μια δυνατότητα. «Αναζήτησε σε αυτές τις πηγές, μέσα σε αυτό το χρονικό διάστημα, στοιχεία σχετικά με αυτή την απόφαση» είναι μηχανική πλαισίου.
3. Συμπύκνωση χωρίς εξάλειψη της αβεβαιότητας
Η συμπύκνωση είναι απαραίτητη όταν μια εργασία είναι εκτενής, αλλά η αφελής σύνοψη μπορεί να μετατρέψει προσωρινές διατυπώσεις σε οριστικά γεγονότα. Μια κυλιόμενη σύνοψη που αναφέρει «ο χρήστης επιβεβαίωσε τη διεύθυνση» είναι επικίνδυνη, αν η αρχική συνομιλία απλώς το υπονοούσε.
Η καλή συμπύκνωση διατηρεί τις διακρίσεις που χρειάζεται ένας πράκτορας για ασφαλή συλλογιστική:
- γεγονός έναντι συμπεράσματος·
- τρέχουσα οδηγία έναντι ιστορικής οδηγίας·
- ολοκληρωμένη ενέργεια έναντι προτεινόμενης ενέργειας·
- επαληθευμένη πηγή έναντι μη επαληθευμένου ισχυρισμού·
- γνωστή απάντηση έναντι εκκρεμούς ερωτήματος.
Ένα πρακτικό μοτίβο είναι η διατήρηση ξεχωριστών ενοτήτων για αποφάσεις, στοιχεία, παραδοχές, εμπόδια και εκκρεμείς ενέργειες. Ένα άλλο είναι η επισύναψη αναγνωριστικών πηγής ή χρονικών σημάνσεων σε σημαντικούς ισχυρισμούς. Οι συνόψεις θα πρέπει να είναι αντικαταστάσιμα τεχνουργήματα και όχι το μοναδικό αρχείο που διασώζεται: διατηρήστε τα υποκείμενα συμβάντα για έλεγχο και ανάκτηση, ενώ παρέχετε στο μοντέλο μια συμπαγή λειτουργική εικόνα.
Η σύνοψη επισημαίνει ότι η αναδρομική σύνοψη και η συμπύκνωση του πλαισίου μπορεί να είναι δαπανηρές και να υποβαθμίζουν την απόδοση, ιδιαίτερα σε πεδία με περιορισμένα δεδομένα, όπως η συνεργατική δημιουργία κώδικα. Αυτό αποτελεί προειδοποίηση ενάντια στην αντιμετώπιση της σύνοψης ως διαδικασίας που είναι αυτομάτως χωρίς απώλειες. Η συμπύκνωση χρειάζεται δοκιμές σε αντιπροσωπευτικές εργασίες, συμπεριλαμβανομένων περιπτώσεων όπου μια μικρή επιφύλαξη αλλάζει τη σωστή απάντηση.
4. Φιλτράρισμα των παρατηρήσεων πριν μετατραπούν σε μνήμη
Οι πράκτορες που χρησιμοποιούν εργαλεία παράγουν συνεχώς παρατηρήσεις: αποτελέσματα αναζητήσεων, αρχεία καταγραφής, κείμενο σελίδων, αποκρίσεις API, στιγμιότυπα οθόνης, έξοδο μεταγλωττιστή και ενδιάμεσα σχέδια. Δεν αξίζει κάθε παρατήρηση να εισέλθει στην επόμενη κλήση του μοντέλου, πόσο μάλλον στη μακροπρόθεσμη κατάσταση.
Το φιλτράρισμα παρατηρήσεων θέτει τρία ερωτήματα:
- Είναι αυτή η παρατήρηση σχετική με την τρέχουσα απόφαση;
- Είναι αρκετά έγκυρη ώστε να επηρεάσει την κατάσταση πεποιθήσεων;
- Περιέχει οδηγίες που θα πρέπει να αντιμετωπιστούν ως δεδομένα και όχι ως εντολές;
Το τρίτο ερώτημα αποτελεί όριο ασφαλείας, αλλά και όριο πλαισίου. Μια ιστοσελίδα μπορεί να περιέχει κείμενο που αποσκοπεί στην εκτροπή του πράκτορα. Ένα ανακτημένο έγγραφο μπορεί να αποτελεί χρήσιμο στοιχείο χωρίς να έχει την εξουσία να αλλάξει τους στόχους ή τα δικαιώματα του πράκτορα. Επομένως, το φιλτράρισμα θα πρέπει να ταξινομεί το περιεχόμενο ανά ρόλο: οδηγία, στοιχείο, μεταδεδομένα ή μη αξιόπιστο κείμενο.
Το φιλτράρισμα εξοικονομεί επίσης χρήματα. Αν ένα εργαλείο περιήγησης επιστρέφει ολόκληρη σελίδα, αλλά η εργασία απαιτεί μόνο μια τιμή, μια ημερομηνία και ένα αναγνωριστικό προϊόντος, η προώθηση ολόκληρης της σελίδας δημιουργεί θόρυβο και καταναλώνει διακριτικά. Η εξαγωγή των σχετικών πεδίων πρώτα μπορεί να βελτιώσει τόσο την αξιοπιστία όσο και το κόστος.
Ένας απλός προϋπολογισμός πλαισίου για μια ροή εργασίας πράκτορα
Πριν επιλέξετε μοντέλο ή προσθέσετε άλλο εργαλείο, χαρτογραφήστε το πλαίσιο του πράκτορα σε τέσσερα επίπεδα:
- Έλεγχος: κανόνες συστήματος, δικαιώματα, σχήμα εξόδου και μη διαπραγματεύσιμοι περιορισμοί.
- Κατάσταση: ο τρέχων στόχος, οι αποφάσεις, τα ανοιχτά ερωτήματα και η επόμενη ενέργεια.
- Τεκμήρια: ανακτημένα αρχεία ή παρατηρήσεις που σχετίζονται με αυτή την ενέργεια, μαζί με την προέλευσή τους.
- Ιστορικό: προηγούμενα γεγονότα που διατηρούνται για ανάκτηση, αποσφαλμάτωση ή έλεγχο, αλλά παραλείπονται εκτός αν χρειάζονται.
Στη συνέχεια, καθορίστε μια πολιτική προώθησης. Μια παρατήρηση μπορεί να παραμείνει εφήμερη, να γίνει τεκμήριο για το τρέχον βήμα, να ενημερώσει την κατάσταση πεποιθήσεων ή να εγγραφεί σε μόνιμη μνήμη. Η προώθηση θα πρέπει να απαιτεί αιτιολόγηση. Διαφορετικά, η μνήμη μετατρέπεται σε μη επιμελημένο αρχείο.
Για κάθε βήμα του πράκτορα, καταγράψτε το πακέτο συμφραζομένων που στάλθηκε στο μοντέλο: τις κατηγορίες του, το κατά προσέγγιση μέγεθος σε διακριτικά, τα φίλτρα ανάκτησης και την έκδοση συμπίεσης. Έτσι καθίσταται δυνατό να απαντηθεί ένα πρακτικό ερώτημα όταν αλλάζει η συμπεριφορά: απέτυχε το μοντέλο ή το σύστημα του έδωσε λάθος εικόνα του κόσμου;
Τι πρέπει να δοκιμαστεί πριν θεωρηθεί αξιόπιστος ο σχεδιασμός
Η μηχανική συμφραζομένων χρειάζεται δοκιμές που στοχεύουν στη διαχείριση πληροφοριών και όχι μόνο στην ποιότητα της τελικής απάντησης. Χρήσιμες περιπτώσεις περιλαμβάνουν:
- ένα κρίσιμο γεγονός τοποθετημένο στην αρχή, στο τέλος και στη μέση ενός μακροσκελούς ιστορικού·
- δύο πηγές που διαφωνούν, με τη μία νεότερη από την άλλη·
- μια σύνοψη που περιέχει έναν δείκτη αβεβαιότητας·
- μια απόκριση εργαλείου που περιέχει άσχετο, εκτενές κείμενο·
- μια κακόβουλη οδηγία ενσωματωμένη σε ανακτημένο περιεχόμενο·
- επαναφορά της κατάστασης μετά την παύση και την επανεκκίνηση του πράκτορα·
- την ίδια εργασία με μικρότερο προϋπολογισμό συμφραζομένων·
- ένα κενό ή παρωχημένο αποτέλεσμα ανάκτησης.
Μετρήστε αν ο πράκτορας επιλέγει τα σωστά τεκμήρια, διατηρεί την αβεβαιότητα, ακολουθεί τον τρέχοντα περιορισμό και αποφεύγει την επανάληψη περιττών συμφραζομένων. Οι συνιστώμενες από την περίληψη περιοχές παλινδρομικών δοκιμών—απώλεια συμφραζομένων, γείωση μέσω ανάκτησης, δομημένη έξοδος, μη τερματισμός και επαναφορά κατάστασης—είναι ιδιαίτερα σχετικές εδώ.
Εκτελέστε πολλαπλές δοκιμές στις οποίες η μεταβλητότητα του μοντέλου έχει σημασία και συγκρίνετε το κόστος και τον χρόνο απόκρισης κάθε στρατηγικής συμφραζομένων. Μια συντομότερη προτροπή δεν είναι αυτόματα καλύτερη αν προκαλεί περισσότερες κλήσεις εργαλείων ή επαναλήψεις. Ο χρήσιμος στόχος είναι το κόστος μιας σωστής, ανακτήσιμης ροής εργασίας—όχι ο αριθμός διακριτικών ενός μόνο αιτήματος.
Η επαγγελματική προέκταση: ο μηχανικός συμφραζομένων είναι διαλειτουργικός ρόλος
Οι άνθρωποι που θα αποκτήσουν αξία σε αυτόν τον τομέα δεν θα είναι κατ’ ανάγκη εκείνοι που γράφουν τις μακροσκελέστερες προτροπές. Θα μπορούν να μεταφράζουν μια επιχειρηματική διαδικασία σε κατάσταση, τεκμήρια,权αιοδοσία και κανόνες λήψης αποφάσεων.
Αυτό απαιτεί αρκετές συγκεκριμένες ικανότητες:
- σχεδιασμό σχημάτων για την κατάσταση και την προέλευση των εργασιών·
- σύνταξη πολιτικών ανάκτησης και φίλτρων μεταδεδομένων·
- δημιουργία ρουτινών συμπίεσης και επιλογής παρατηρήσεων·
- διαχωρισμό των αξιόπιστων οδηγιών από το μη αξιόπιστο περιεχόμενο;
- την καταγραφή της χρήσης των token, του λανθάνοντος χρόνου, των επαναλήψεων και των κλήσεων σε εργαλεία·
- τη δοκιμή της απώλειας κατάστασης και της επαναφοράς της·
- την εξήγηση σε μη ειδικούς του γιατί ένας πράκτορας είδε—ή δεν είδε—ένα συγκεκριμένο γεγονός.
Ένα ισχυρό έργο για το portfolio θα μπορούσε να παρουσιάσει τον ίδιο πράκτορα υπό τρεις πολιτικές διαχείρισης συμφραζομένων: πλήρες transcript, κυλιόμενη σύνοψη και δομημένη κατάσταση πεποιθήσεων με στοχευμένη ανάκτηση. Δείξτε τις περιπτώσεις επιτυχίας της εργασίας, τις περιπτώσεις αποτυχίας, τα συμφραζόμενα που αποστέλλονται σε κάθε βήμα, καθώς και τους συμβιβασμούς κόστους ή λανθάνοντος χρόνου. Αυτό είναι πιο πειστικό από μια επίδειξη chatbot, επειδή αποκαλύπτει τις σχεδιαστικές αποφάσεις που κάνουν έναν πράκτορα αξιόπιστο.
Το στρατηγικό συμπέρασμα είναι απλό: οι πράκτορες δεν αποκτούν συνοχή απλώς και μόνο επειδή τα μοντέλα γίνονται ικανότερα. Αποκτούν συνοχή όταν τα συστήματα γύρω τους διατηρούν μια πειθαρχημένη, επίκαιρη και κατάλληλου μεγέθους αποτύπωση της εργασίας. Η μηχανική συμφραζομένων είναι η τέχνη της δημιουργίας αυτής της αποτύπωσης—και του να γνωρίζεις τι πρέπει να παραλείψεις.
Η Priya Raman είναι η υπεύθυνη ανθρώπινη συντάκτρια του AI Career Brief.
