বেশিরভাগ মানুষ এখনও AI এজেন্টকে টুলের সঙ্গে সংযুক্ত একটি মডেল হিসেবে বর্ণনা করেন। প্রযুক্তিগতভাবে এটি কার্যকর হলেও কার্যপ্রক্রিয়ার দিক থেকে অসম্পূর্ণ। একটি এজেন্টের আরও প্রয়োজন বিশ্বের একটি ব্যবস্থাপিত দৃষ্টিভঙ্গি: কী ঘটেছে, এই মুহূর্তে কী গুরুত্বপূর্ণ, কোন তথ্য বিশ্বাসযোগ্য, কী এখনও অনিশ্চিত, এবং পরবর্তী পদক্ষেপ হিসেবে তার কী করা উচিত।
এই দৃষ্টিভঙ্গিই তার কনটেক্সট। এটি নকশা করা একটি স্বতন্ত্র দক্ষতা হয়ে উঠছে—যাকে আমি কনটেক্সট ইঞ্জিনিয়ারিং বলব।
কনটেক্সট ইঞ্জিনিয়ারিং কেবল প্রম্পট লেখা নয়। এটি এমনভাবে একজন এজেন্ট যে তথ্য প্রতিটি ধাপে দেখে তা বিন্যস্ত করার শাস্ত্র, যাতে প্রতি টার্নে সম্পূর্ণ ট্রান্সক্রিপ্ট, ডকুমেন্ট লাইব্রেরি বা টুলের ইতিহাস ব্যয়বহুল একটি মডেলে ফেরত না পাঠিয়েও এজেন্ট সুসংগত থাকতে পারে। এই কাজটি তথ্য স্থাপত্য, রিট্রিভাল, সফটওয়্যার নকশা এবং মডেলের আচরণের মধ্যবর্তী ক্ষেত্রে অবস্থান করে।
কেন “এজেন্টকে আরও বেশি কনটেক্সট দিন” প্রায়ই খারাপ পরামর্শ
দীর্ঘতর কনটেক্সট উইন্ডো সবকিছু সংরক্ষণ করার প্রবণতা তৈরি করে। কিন্তু বেশি উপাদান উন্নততর যুক্তির নিশ্চয়তা দেয় না। পুরোনো পর্যবেক্ষণ, পরস্পরবিরোধী নোট, পুনরাবৃত্ত টুল-আউটপুট, অথবা দীর্ঘ ধারাবাহিকতার মাঝখানে চাপা পড়ে থাকা গুরুত্বপূর্ণ তথ্য প্রাসঙ্গিক নির্দেশনাগুলোকে ম্লান করে দিতে পারে। ডাইজেস্টে আলোচিত “মাঝখানে হারিয়ে যাওয়া” আচরণটি একটি বাস্তব সমস্যার প্রতিফলন: কোনো এজেন্ট প্রযুক্তিগতভাবে প্রমাণ পেয়েও তা ব্যবহার করতে ব্যর্থ হতে পারে।
এর সঙ্গে সরাসরি খরচও জড়িত। একটি অনুরোধে রাখা প্রতিটি টোকেন ল্যাটেন্সি ও ইনফারেন্সের খরচ বাড়াতে পারে, যা নির্ভর করে প্রদানকারীর মূল্য নির্ধারণ ও ক্যাশিং ব্যবস্থার ওপর। যে সিস্টেম বারবার বাড়তে থাকা ট্রান্সক্রিপ্ট ফরোয়ার্ড করে, কাজ এগোনোর সঙ্গে সঙ্গে তা ধীর ও কম সাশ্রয়ী হয়ে উঠতে পারে।
তাই লক্ষ্য সর্বাধিক কনটেক্সট নয়। লক্ষ্য হলো পর্যাপ্ত, লক্ষ্যভিত্তিক কনটেক্সট: হাতে থাকা সিদ্ধান্তের জন্য সবচেয়ে ছোট নির্ভরযোগ্য কার্যকর তথ্যসমষ্টি।
একটি সুসংগত এজেন্টের পেছনে থাকা চারটি নকশাগত সিদ্ধান্ত
1. শুধু ট্রান্সক্রিপ্ট নয়, একটি বিশ্বাস-অবস্থা বজায় রাখুন
একটি ট্রান্সক্রিপ্টে কী বলা হয়েছে তা নথিভুক্ত থাকে। একটি বিশ্বাস-অবস্থায় কাজটি সম্পর্কে এজেন্ট বর্তমানে কী বিশ্বাস করে তা নথিভুক্ত থাকে।
উদাহরণস্বরূপ, একটি সাপোর্ট এসকেলেশন সামলানো এজেন্ট এমন কাঠামোবদ্ধ ক্ষেত্র বজায় রাখতে পারে:
- উদ্দেশ্য: গ্রাহক প্রতিস্থাপনের যোগ্য কি না তা শনাক্ত করা।
- জানা তথ্য: ক্রয়ের তারিখ ও পণ্যের সিরিয়াল নম্বর, উৎসের রেফারেন্সসহ।
- উন্মুক্ত প্রশ্ন: ত্রুটিটি ওয়ারেন্টির আওতাভুক্ত পরিস্থিতিতে ঘটেছিল কি না।
- সীমাবদ্ধতা: অনুমোদনের আগে অর্থ ফেরতের প্রতিশ্রুতি দেওয়া যাবে না।
- পরবর্তী পদক্ষেপ: ওয়ারেন্টি নীতি সংগ্রহ করে তারিখগুলোর তুলনা করা।
- আস্থা বা অবস্থা: যাচাইকৃত, অনুমিত, বিতর্কিত, অথবা অজানা।
এই পদ্ধতিটি বার্কলের ABBEL গবেষণার অনুরূপ, যেখানে সম্পূর্ণ ইন্টারঅ্যাকশন ইতিহাসের ওপর নির্ভর না করে তত্ত্বাবধানে তৈরি প্রাকৃতিক-ভাষার বিশ্বাস-অবস্থা ব্যবহার করা হয়। গুরুত্বপূর্ণ বিষয়টি কোনো নির্দিষ্ট ফরম্যাট নয়। গুরুত্বপূর্ণ হলো স্থায়ী কাজের অবস্থাকে অস্থায়ী কথোপকথনের খুঁটিনাটি থেকে আলাদা করা।
একটি কার্যকর বিশ্বাস-অবস্থা আপডেটের উত্তর দেওয়া উচিত: কী পরিবর্তিত হয়েছে? কোন প্রমাণ তা সমর্থন করে? কী এখনও অমীমাংসিত? এরপর কী হওয়া উচিত? একজন ইঞ্জিনিয়ার যদি এই উত্তরগুলো পরিদর্শন করতে না পারেন, তবে এজেন্ট সম্ভবত একটি অস্বচ্ছ প্রম্পটের মধ্যে লুকানো অনুমান বহন করছে।
2. বিষয়ের জন্য নয়, সিদ্ধান্তের জন্য রিট্রিভ করুন
রিট্রিভাল সিস্টেম প্রায়ই “গ্রাহকের অ্যাকাউন্ট সম্পর্কে তথ্য খুঁজে বের করুন” ধরনের একটি বিস্তৃত প্রশ্ন দিয়ে শুরু হয়। আরও ভালো প্রশ্নটি পরবর্তী সিদ্ধান্তের সঙ্গে যুক্ত: “গ্রাহকের অঞ্চলে কার্যকর, 30 দিনের বেশি পুরোনো ক্রয়ের জন্য বর্তমান অর্থ ফেরতের নিয়মটি সংগ্রহ করুন।”
এই পরিবর্তনটি গুরুত্বপূর্ণ, কারণ রিট্রিভাল হলো কনটেক্সট বাছাইয়ের একটি পদ্ধতি। এজেন্টের এমন নীতির অনুচ্ছেদ, রেকর্ড বা উদাহরণ পাওয়া উচিত যা বর্তমান পদক্ষেপের সঙ্গে সম্পর্কিত—সম্পর্কিত নথির একটি সাধারণ স্তূপ নয়।
মডেল কোনো ফলাফল দেখার আগেই ফিল্টার এই বাছাইকে উন্নত করতে পারে। উদাহরণস্বরূপ, Amazon Bedrock AgentCore Web Search প্রতিটি অনুরোধে সার্ভার-নির্ধারিত ডোমেইন ও প্রকাশনার তারিখের ফিল্টার সমর্থন করে। এ ধরনের নিয়ন্ত্রণ কোনো উৎস সঠিক—তা প্রতিষ্ঠা করে না, তবে অপ্রাসঙ্গিক বা পুরোনো উপাদানের সংস্পর্শ কমাতে এবং রিট্রিভাল নীতিকে সুস্পষ্ট করতে পারে।
রিট্রিভাল নকশা করা পেশাজীবীদের নির্দিষ্ট করা উচিত:
- প্রতিটি কাজের জন্য কোন উৎসগুলো অনুমোদিত;
- সতেজতা কীভাবে নির্ধারিত হয়;
- প্রতিটি ফলাফলের সঙ্গে কী মেটাডেটা থাকে;
- পরস্পরবিরোধী উৎসগুলো কীভাবে উপস্থাপন করা হয়;
- কখন এজেন্টকে থেমে স্পষ্টীকরণ চাইতে হবে।
“ওয়েবে অনুসন্ধান করুন” একটি সক্ষমতা। “এই সিদ্ধান্তের সঙ্গে প্রাসঙ্গিক প্রমাণের জন্য, এই তারিখসীমার মধ্যে, এই উৎসগুলোতে অনুসন্ধান করুন”—এটি কনটেক্সট ইঞ্জিনিয়ারিং।
৩. অনিশ্চয়তা মুছে না দিয়ে সংকুচিত করুন
কোনো কাজ দীর্ঘ হলে সংকোচন প্রয়োজন, কিন্তু সরল সারসংক্ষেপের ফলে সম্ভাব্য দাবিগুলো প্রতিষ্ঠিত তথ্যে পরিণত হতে পারে। “ব্যবহারকারী ঠিকানাটি নিশ্চিত করেছেন”—এমন একটি ক্রমাগত হালনাগাদ সারসংক্ষেপ বিপজ্জনক, যদি মূল কথোপকথনে তা কেবল ইঙ্গিত করা হয়ে থাকে।
নিরাপদ যুক্তির জন্য এজেন্টের যে পার্থক্যগুলো প্রয়োজন, ভালো সংকোচন সেগুলো অক্ষুণ্ণ রাখে:
- তথ্য বনাম অনুমান;
- বর্তমান নির্দেশ বনাম ঐতিহাসিক নির্দেশ;
- সম্পন্ন কাজ বনাম প্রস্তাবিত কাজ;
- যাচাইকৃত উৎস বনাম অযাচাইকৃত দাবি;
- জানা উত্তর বনাম অমীমাংসিত প্রশ্ন।
একটি কার্যকর পদ্ধতি হলো সিদ্ধান্ত, প্রমাণ, অনুমান, প্রতিবন্ধকতা এবং মুলতুবি কাজের জন্য আলাদা বিভাগ রাখা। আরেকটি পদ্ধতি হলো গুরুত্বপূর্ণ দাবির সঙ্গে উৎসের আইডি বা টাইমস্ট্যাম্প যুক্ত করা। সারসংক্ষেপগুলো প্রতিস্থাপনযোগ্য উপকরণ হওয়া উচিত, টিকে থাকা একমাত্র রেকর্ড নয়: নিরীক্ষা ও পুনরুদ্ধারের জন্য অন্তর্নিহিত ঘটনাগুলো সংরক্ষণ করুন, আর মডেলকে একটি সংক্ষিপ্ত কার্যকর দৃষ্টিভঙ্গি দিন।
ডাইজেস্টে উল্লেখ করা হয়েছে যে পুনরাবৃত্তিমূলক সারসংক্ষেপ এবং কনটেক্সট কমপ্যাকশন ব্যয়বহুল হতে পারে এবং কর্মদক্ষতা কমিয়ে দিতে পারে, বিশেষত সহযোগিতামূলক কোড তৈরির মতো ডেটা-স্বল্প ক্ষেত্রগুলোতে। এটি সারসংক্ষেপকে স্বয়ংক্রিয়ভাবে তথ্য-অক্ষয়ী ধরে নেওয়ার বিরুদ্ধে একটি সতর্কবার্তা। প্রতিনিধিত্বমূলক কাজের বিপরীতে সংকোচনের পরীক্ষা দরকার, যার মধ্যে এমন ঘটনাও থাকবে যেখানে সামান্য একটি যোগ্যতাসূচক শর্ত সঠিক উত্তর বদলে দেয়।
৪. পর্যবেক্ষণগুলো স্মৃতিতে পরিণত হওয়ার আগে ছেঁকে নিন
টুল ব্যবহারকারী এজেন্টরা অবিরাম পর্যবেক্ষণ তৈরি করে: অনুসন্ধানের ফলাফল, লগ, পৃষ্ঠার লেখা, API প্রতিক্রিয়া, স্ক্রিনশট, কম্পাইলারের আউটপুট এবং মধ্যবর্তী পরিকল্পনা। প্রতিটি পর্যবেক্ষণ পরবর্তী মডেল কল-এ পাঠানোর যোগ্য নয়, দীর্ঘমেয়াদি অবস্থায় প্রবেশ করা তো আরও নয়।
পর্যবেক্ষণ ছাঁটাই করার সময় তিনটি প্রশ্ন করা হয়:
- এই পর্যবেক্ষণটি কি বর্তমান সিদ্ধান্তের জন্য প্রাসঙ্গিক?
- বিশ্বাসের অবস্থাকে প্রভাবিত করার মতো এটি কি যথেষ্ট কর্তৃত্বপূর্ণ?
- এতে কি এমন নির্দেশনা আছে, যেগুলোকে কমান্ডের বদলে ডেটা হিসেবে বিবেচনা করা উচিত?
তৃতীয় প্রশ্নটি কনটেক্সট সীমার পাশাপাশি একটি নিরাপত্তা সীমাও। কোনো ওয়েব পৃষ্ঠায় এজেন্টকে অন্যদিকে পরিচালিত করার উদ্দেশ্যে লেখা থাকতে পারে। কোনো উদ্ধার করা নথি কার্যকর প্রমাণ হতে পারে, কিন্তু এজেন্টের লক্ষ্য বা অনুমতি পরিবর্তনের কর্তৃত্ব তার নেই। তাই ফিল্টারিংয়ের মাধ্যমে বিষয়বস্তুকে ভূমিকা অনুযায়ী শ্রেণিবদ্ধ করা উচিত: নির্দেশনা, প্রমাণ, মেটাডেটা, অথবা অবিশ্বস্ত লেখা।
ফিল্টারিং অর্থও সাশ্রয় করে। কোনো ব্রাউজার টুল পুরো পৃষ্ঠা ফেরত দিলেও, কাজটির জন্য যদি শুধু দাম, তারিখ এবং পণ্যের শনাক্তকারী প্রয়োজন হয়, পুরো পৃষ্ঠাটি পরবর্তী ধাপে পাঠালে শব্দদূষণ তৈরি হয় এবং টোকেন খরচ হয়। আগে প্রাসঙ্গিক ক্ষেত্রগুলো বের করে নিলে নির্ভরযোগ্যতা ও খরচ—উভয়ই উন্নত হতে পারে।
এজেন্টের কর্মপ্রবাহের জন্য একটি সরল কনটেক্সট বাজেট
কোনো মডেল বেছে নেওয়ার বা আরেকটি টুল যোগ করার আগে, এজেন্টের কনটেক্সটকে চারটি স্তরে ভাগ করে নিন:
- নিয়ন্ত্রণ: সিস্টেমের নিয়ম, অনুমতি, আউটপুটের কাঠামো এবং অপরিবর্তনীয় সীমাবদ্ধতা।
- অবস্থা: বর্তমান লক্ষ্য, সিদ্ধান্ত, অমীমাংসিত প্রশ্ন এবং পরবর্তী পদক্ষেপ।
- প্রমাণ: ওই পদক্ষেপের সঙ্গে প্রাসঙ্গিক, উৎস-উল্লেখসহ সংগৃহীত রেকর্ড বা পর্যবেক্ষণ।
- ইতিহাস: পুনরুদ্ধার, ডিবাগিং বা নিরীক্ষার জন্য সংরক্ষিত আগের ঘটনাগুলো, প্রয়োজন না হলে বাদ থাকবে।
এরপর একটি প্রমোশন নীতি নির্ধারণ করুন। কোনো পর্যবেক্ষণ সাময়িক থাকতে পারে, বর্তমান ধাপের প্রমাণে পরিণত হতে পারে, বিশ্বাসের অবস্থা হালনাগাদ করতে পারে, অথবা স্থায়ী স্মৃতিতে লেখা হতে পারে। প্রমোশনের জন্য একটি কারণ থাকা উচিত। অন্যথায়, স্মৃতি অগোছালো আর্কাইভে পরিণত হবে।
প্রতিটি এজেন্ট ধাপের জন্য মডেলের কাছে পাঠানো কনটেক্সট প্যাকেজটি নথিবদ্ধ করুন: এর শ্রেণিগুলো, আনুমানিক টোকেনের আকার, রিট্রিভাল ফিল্টার এবং কমপ্রেশন সংস্করণ। এতে আচরণ বদলে গেলে একটি ব্যবহারিক প্রশ্নের উত্তর দেওয়া সম্ভব হয়: মডেল কি ব্যর্থ হয়েছে, নাকি সিস্টেম তাকে ভুল জগতের তথ্য দিয়েছে?
ডিজাইনটিকে নির্ভরযোগ্য বলার আগে যা পরীক্ষা করতে হবে
কনটেক্সট ইঞ্জিনিয়ারিংয়ের পরীক্ষাগুলোতে শুধু চূড়ান্ত উত্তরের মান নয়, তথ্য ব্যবস্থাপনাকেও লক্ষ্য করা দরকার। উপযোগী কেসগুলোর মধ্যে রয়েছে:
- দীর্ঘ ইতিহাসের শুরুতে, শেষে এবং মাঝখানে একটি গুরুত্বপূর্ণ তথ্য রাখা;
- দুটি পরস্পরবিরোধী উৎস, যার মধ্যে একটি অন্যটির চেয়ে নতুন;
- অনিশ্চয়তার চিহ্ন-সম্বলিত একটি সারাংশ;
- অপ্রাসঙ্গিক বিপুল পরিমাণ লেখা-সম্বলিত কোনো টুলের প্রতিক্রিয়া;
- রিট্রিভ করা কনটেন্টের মধ্যে সন্নিবেশিত একটি দূষিত নির্দেশনা;
- এজেন্টকে থামিয়ে পুনরায় চালু করার পর স্টেট পুনরুদ্ধার;
- আরও ছোট কনটেক্সট বাজেট নিয়ে একই কাজ;
- একটি ফাঁকা বা পুরোনো রিট্রিভাল ফলাফল।
এজেন্ট সঠিক প্রমাণ বেছে নিচ্ছে কি না, অনিশ্চয়তা বজায় রাখছে কি না, বর্তমান সীমাবদ্ধতা অনুসরণ করছে কি না এবং অপ্রয়োজনীয় কনটেক্সট বারবার দিচ্ছে কি না—তা পরিমাপ করুন। ডাইজেস্টে সুপারিশ করা রিগ্রেশন ক্ষেত্রগুলো—কনটেক্সট হারানো, রিট্রিভাল গ্রাউন্ডিং, কাঠামোবদ্ধ আউটপুট, অ-সমাপ্তি এবং স্টেট পুনরুদ্ধার—এখানে বিশেষভাবে প্রাসঙ্গিক।
মডেলের পরিবর্তনশীলতা যেখানে গুরুত্বপূর্ণ, সেখানে একাধিক ট্রায়াল চালান এবং প্রতিটি কনটেক্সট কৌশলের খরচ ও বিলম্ব তুলনা করুন। ছোট প্রম্পট স্বয়ংক্রিয়ভাবে ভালো নয়, যদি তার ফলে বেশি টুল কল বা পুনঃচেষ্টা লাগে। কার্যকর লক্ষ্য হলো একটি সঠিক, পুনরুদ্ধারযোগ্য ওয়ার্কফ্লোর খরচ—একটি অনুরোধের টোকেন সংখ্যা নয়।
ক্যারিয়ারের তাৎপর্য: কনটেক্সট ইঞ্জিনিয়ার একটি আন্তঃকার্যকরী ভূমিকা
এই ক্ষেত্রে যারা মূল্যবান হয়ে উঠবেন, তারা অগত্যা সবচেয়ে দীর্ঘ প্রম্পট লেখেন এমন মানুষ হবেন না। তারা একটি ব্যবসায়িক প্রক্রিয়াকে স্টেট, প্রমাণ, কর্তৃত্ব এবং সিদ্ধান্তের নিয়মে রূপান্তর করতে সক্ষম হবেন।
এর জন্য কয়েকটি নির্দিষ্ট দক্ষতা প্রয়োজন:
- কাজের স্টেট এবং উৎসপরম্পরার জন্য স্কিমা তৈরি করা;
- রিট্রিভাল নীতি ও মেটাডেটা ফিল্টার লেখা;
- কমপ্রেশন এবং পর্যবেক্ষণ-বাছাইয়ের রুটিন তৈরি করা;
- বিশ্বস্ত নির্দেশনাকে অবিশ্বস্ত কনটেন্ট থেকে পৃথক করা;
- টোকেন ব্যবহার, লেটেন্সি, পুনঃচেষ্টা এবং টুল কলের প্রোফাইল তৈরি করা;
- স্টেট হারানো এবং পুনরায় হাইড্রেশন পরীক্ষা করা;
- কোনো এজেন্ট কেন কোনো নির্দিষ্ট তথ্য দেখেছে—বা দেখেনি—তা অ-বিশেষজ্ঞদের বোঝানো।
একটি শক্তিশালী পোর্টফোলিও প্রকল্প একই এজেন্টকে তিনটি কনটেক্সট নীতির অধীনে দেখাতে পারে: পূর্ণ ট্রান্সক্রিপ্ট, চলমান সারাংশ এবং লক্ষ্যভিত্তিক রিট্রিভালসহ কাঠামোবদ্ধ বিশ্বাস-অবস্থা। কাজ সফল হওয়ার ঘটনাগুলি, ব্যর্থতার ঘটনাগুলি, প্রতিটি ধাপে পাঠানো কনটেক্সট এবং খরচ বা লেটেন্সির বিনিময়গুলি দেখান। এটি চ্যাটবটের ডেমোর চেয়ে বেশি বিশ্বাসযোগ্য, কারণ এতে এমন নকশাগত সিদ্ধান্তগুলি প্রকাশ পায়, যেগুলি একটি এজেন্টকে নির্ভরযোগ্য করে।
কৌশলগত শিক্ষাটি সরল: মডেলগুলি আরও সক্ষম হয়ে উঠলেই এজেন্টরা সুসংগত হয়ে ওঠে না। তারা তখনই সুসংগত হয়, যখন তাদের চারপাশের সিস্টেম কাজটির একটি শৃঙ্খলাবদ্ধ, হালনাগাদ এবং উপযুক্ত আকারের বিবরণ বজায় রাখে। কনটেক্সট ইঞ্জিনিয়ারিং হলো সেই বিবরণ তৈরি করার কারিগরি দক্ষতা—এবং কী বাদ দিতে হবে তা জানার দক্ষতাও।
Priya Raman হলেন AI Career Brief-এর জবাবদিহিবদ্ধ মানব সম্পাদক।
