Většina lidí stále popisuje AI agenta jako model napojený na nástroje. Technicky je to užitečné, ale z provozního hlediska neúplné. Agent také potřebuje spravovaný pohled na svět: co se stalo, na čem nyní záleží, kterým faktům lze důvěřovat, co zůstává nejisté a co by měl udělat dál.
Tento pohled tvoří jeho kontext. Jeho navrhování se stává samostatnou dovedností — dovedností, kterou bych nazval context engineering.
Context engineering není pouhé psaní promptů. Je to disciplína utváření informací, které agent v každém kroku vidí, aby si dokázal zachovat soudržnost, aniž by při každém tahu posílal drahému modelu celý přepis, knihovnu dokumentů nebo historii používání nástrojů. Tato práce leží na pomezí informační architektury, vyhledávání, návrhu softwaru a chování modelů.
Proč je rada „dejte agentovi více kontextu“ často špatná
Delší kontextová okna svádějí k uchovávání všeho. Více materiálu však nezaručuje lepší uvažování. Relevantní instrukce mohou být rozmělňovány zastaralými pozorováními, protichůdnými poznámkami, opakovanými výstupy nástrojů nebo důležitým faktem ukrytým uprostřed dlouhé sekvence. Diskuse v digestu o chování „lost in the middle“ odráží praktický problém: agent může důkazy technicky obdržet, a přesto je nedokázat využít.
Existují také přímé náklady. Každý token vložený do požadavku může zvyšovat latenci a náklady na inferenci v závislosti na cenách poskytovatele a jeho nastavení cachování. Systém, který opakovaně předává stále delší přepis, může s pokračováním úkolu zpomalovat a stávat se méně dostupným.
Cílem proto není maximální kontext. Je jím dostatečný, cílený kontext: nejmenší spolehlivá pracovní množina pro dané rozhodnutí.
Čtyři návrhová rozhodnutí stojící za soudržným agentem
1. Udržujte stav přesvědčení, nikoli jen přepis
Přepis zaznamenává, co bylo řečeno. Stav přesvědčení zaznamenává, čemu agent v danou chvíli o úkolu věří.
Agent zpracovávající například eskalaci požadavku na podporu může udržovat strukturovaná pole, jako jsou:
- Cíl: zjistit, zda má zákazník nárok na výměnu.
- Známá fakta: datum nákupu a sériové číslo produktu spolu s odkazy na zdroje.
- Otevřené otázky: zda k poruše došlo za podmínek krytých zárukou.
- Omezení: neslibovat vrácení peněz před schválením.
- Další krok: načíst záruční podmínky a porovnat data.
- Míra jistoty nebo stav: ověřeno, odvozeno, sporné nebo neznámé.
Tento přístup připomíná výzkum ABBEL na Berkeley, který místo spoléhání na úplné historie interakcí používá řízené stavy přesvědčení v přirozeném jazyce. Důležitá není konkrétní forma. Jde o oddělení trvalého stavu úkolu od postradatelných podrobností konverzace.
Užitečná aktualizace stavu přesvědčení by měla odpovědět na otázky: Co se změnilo? Které důkazy to podporují? Co zůstává nevyřešeno? Co by se mělo stát dál? Pokud inženýr tyto odpovědi nemůže zkontrolovat, agent pravděpodobně nese skryté předpoklady v neprůhledném promptu.
2. Vyhledávejte pro rozhodnutí, ne pro téma
Vyhledávací systémy často začínají širokou otázkou, například „najděte informace o účtu zákazníka“. Lepší dotaz se váže k dalšímu rozhodnutí: „vyhledejte aktuální pravidlo pro vrácení peněz u nákupů starších než 30 dní, platné v regionu zákazníka“.
Tento posun je důležitý, protože vyhledávání je formou výběru kontextu. Agent by měl obdržet pasáže zásad, záznamy nebo příklady, které se týkají aktuální akce — nikoli obecnou hromadu souvisejících dokumentů.
Tento výběr mohou ještě před zobrazením jakýchkoli výsledků modelu zlepšit filtry. Například Amazon Bedrock AgentCore Web Search podporuje při každém požadavku serverem vynucované filtry domén a data zveřejnění. Takové kontroly nezaručují, že je zdroj správný, mohou však omezit vystavení nerelevantním nebo zastaralým materiálům a učinit pravidla vyhledávání explicitními.
Odborníci navrhující vyhledávání by měli specifikovat:
- které zdroje jsou pro jednotlivé úkoly povoleny;
- jak se určuje aktuálnost;
- jaká metadata doprovázejí každý výsledek;
- jak jsou prezentovány konfliktní zdroje;
- kdy musí agent přestat a požádat o upřesnění.
„Prohledat web“ je schopnost. „Prohledat tyto zdroje v tomto časovém rozmezí a najít důkazy relevantní pro toto rozhodnutí“ je návrh kontextu.
3. Komprimujte, aniž byste odstranili nejistotu
Komprese je u dlouhých úloh nezbytná, ale naivní shrnutí může proměnit předběžná tvrzení v ustálená fakta. Průběžné shrnutí, které říká „uživatel potvrdil adresu“, je nebezpečné, pokud z původní výměny pouze vyplynulo něco, co to naznačovalo.
Dobrá komprese zachovává rozlišení, která agent potřebuje pro bezpečné uvažování:
- fakt versus inference;
- aktuální instrukce versus historická instrukce;
- dokončená akce versus navrhovaná akce;
- ověřený zdroj versus neověřené tvrzení;
- známá odpověď versus nevyřešená otázka.
Jedním praktickým postupem je udržovat oddělené části pro rozhodnutí, důkazy, předpoklady, překážky a čekající akce. Jiným je připojovat k důležitým tvrzením ID zdrojů nebo časová razítka. Shrnutí by měla být nahraditelnými artefakty, nikoli jediným dochovaným záznamem: pro audit a obnovení uchovávejte podkladové události a modelu současně poskytujte kompaktní pracovní náhled.
Přehled uvádí, že rekurzivní shrnování a komprimace kontextu mohou být nákladné a mohou zhoršovat výkon, zejména v oblastech s nedostatkem dat, jako je kolaborativní generování kódu. Je to varování před tím, abychom shrnování považovali za automaticky bezeztrátové. Kompresi je třeba testovat na reprezentativních úlohách, včetně případů, kdy drobná výhrada mění správnou odpověď.
4. Filtrujte pozorování dříve, než se stanou pamětí
Agenti používající nástroje neustále vytvářejí pozorování: výsledky vyhledávání, protokoly, text stránek, odpovědi API, snímky obrazovky, výstupy kompilátoru a průběžné plány. Ne každé pozorování si zaslouží vstoupit do dalšího volání modelu, natož do dlouhodobého stavu.
Filtrování pozorování klade tři otázky:
- Je toto pozorování relevantní pro aktuální rozhodnutí?
- Je dostatečně autoritativní, aby ovlivnilo stav přesvědčení?
- Obsahuje instrukce, s nimiž by se mělo zacházet jako s daty, nikoli jako s příkazy?
Třetí otázka představuje bezpečnostní hranici stejně jako hranici kontextu. Webová stránka může obsahovat text zaměřený na odklonění agenta. Načtený dokument může být užitečným důkazem, aniž by měl pravomoc měnit cíle nebo oprávnění agenta. Filtrování by proto mělo obsah klasifikovat podle role: instrukce, důkaz, metadata nebo nedůvěryhodný text.
Filtrování také šetří peníze. Pokud nástroj pro prohlížení vrátí celou stránku, ale úloha vyžaduje pouze cenu, datum a identifikátor produktu, předání celé stránky dál vytváří šum a spotřebovává tokeny. Nejprve extrahovat relevantní pole může zlepšit spolehlivost i náklady.
Jednoduchý kontextový rozpočet pro pracovní postup agenta
Než zvolíte model nebo přidáte další nástroj, rozčleňte kontext agenta do čtyř vrstev:
- Kontrola: systémová pravidla, oprávnění, schéma výstupu a nepřekročitelná omezení.
- Stav: aktuální cíl, rozhodnutí, otevřené otázky a další krok.
- Důkazy: získané záznamy nebo pozorování relevantní pro daný krok, včetně původu.
- Historie: předchozí události uchovávané pro obnovení, ladění nebo audit, které se vynechávají, pokud nejsou potřeba.
Poté definujte zásady povyšování. Pozorování může zůstat pomíjivé, stát se důkazem pro aktuální krok, aktualizovat stav přesvědčení nebo být zapsáno do trvalé paměti. Povýšení by mělo vyžadovat důvod. Jinak se z paměti stane nekurátorovaný archiv.
U každého kroku agenta zaznamenejte kontextový balíček odeslaný modelu: jeho kategorie, přibližnou velikost v tokenech, filtry pro vyhledávání a verzi komprese. Díky tomu lze odpovědět na praktickou otázku, když se chování změní: selhal model, nebo mu systém poskytl nesprávný obraz světa?
Co otestovat, než návrh označíte za spolehlivý
Inženýrství kontextu potřebuje testy zaměřené na práci s informacemi, nejen na kvalitu konečné odpovědi. Mezi užitečné případy patří:
- kritická skutečnost umístěná na začátku, na konci a uprostřed dlouhé historie;
- dva zdroje, které si odporují, přičemž jeden je novější než druhý;
- shrnutí obsahující značku nejistoty;
- odpověď nástroje obsahující velké množství nerelevantního textu;
- škodlivý pokyn vložený do získaného obsahu;
- obnovení stavu poté, co je agent pozastaven a znovu spuštěn;
- stejný úkol s menším rozpočtem kontextu;
- prázdný nebo zastaralý výsledek vyhledávání.
Měřte, zda agent vybírá správné důkazy, zachovává nejistotu, řídí se aktuálním omezením a vyhýbá se opakování nepotřebného kontextu. Oblasti regresního testování doporučené v digestu — ztráta kontextu, ukotvení ve vyhledaných datech, strukturovaný výstup, nekončící běh a obnovení stavu — jsou zde obzvláště relevantní.
Proveďte více zkoušek tam, kde záleží na variabilitě modelu, a porovnejte náklady a latenci jednotlivých strategií kontextu. Kratší prompt není automaticky lepší, pokud vede k většímu počtu volání nástrojů nebo opakovaných pokusů. Užitečným cílem jsou náklady na správný a obnovitelný pracovní postup, nikoli počet tokenů jednoho požadavku.
Důsledek pro kariéru: inženýr kontextu je mezioborová role
Lidé, kteří se v této oblasti stanou cennými, nemusí být nutně ti, kdo píší nejdelší prompty. Budou umět převést obchodní proces do podoby stavu, důkazů, autority a rozhodovacích pravidel.
To vyžaduje několik konkrétních schopností:
- navrhovat schémata pro stav úkolu a původ dat;
- psát zásady vyhledávání a filtry metadat;
- vytvářet rutiny pro kompresi a výběr pozorování;
- oddělovat důvěryhodné pokyny od nedůvěryhodného obsahu;
- profilování využití tokenů, latence, opakovaných pokusů a volání nástrojů;
- testování ztráty stavu a jeho obnovení;
- vysvětlení laikům, proč agent určitou skutečnost zaznamenal — nebo nezaznamenal.
Silný projekt do portfolia by mohl předvést téhož agenta se třemi zásadami práce s kontextem: úplný přepis, průběžné shrnutí a strukturovaný stav přesvědčení s cíleným vyhledáváním. Ukažte případy úspěšného dokončení úkolu, případy selhání, kontext odesílaný při každém kroku a kompromisy mezi náklady a latencí. To je přesvědčivější než ukázka chatbota, protože odhaluje návrhová rozhodnutí, díky nimž je agent spolehlivý.
Strategické poučení je jednoduché: agenti se nestávají koherentními jen proto, že jsou modely schopnější. Koherentními se stávají tehdy, když jejich okolní systémy udržují disciplinovaný, aktuální a přiměřeně rozsáhlý přehled o práci. Inženýrství kontextu je umění takový přehled vytvářet — a vědět, co z něj vynechat.
Priya Raman je odpovědnou lidskou editorkou AI Career Brief.
