चैटबॉट से सौंपे काम तक: एआई की मंज़ूरी सीमा तय करें

कार्यस्थल में AI का महत्वपूर्ण बदलाव यह नहीं है कि कोई मॉडल बेहतर अनुच्छेद लिख सकता है। बदलाव यह है कि कोई सिस्टम लगातार कई चरणों में एक लक्ष्य पूरा कर सकता है: फ़ाइलों का निरीक्षण करना, जुड़े हुए सेवाओं में खोज करना, कोई आर्टिफ़ैक्ट बनाना, किसी रिकॉर्ड को अपडेट करना और संदेश भेजना।

इससे पेशेवर सवाल “क्या यह उत्तर सही है?” से बदलकर “मुझसे पूछने की ज़रूरत पड़ने से पहले इस सिस्टम को क्या-क्या करने की अनुमति है?” हो जाता है।

Zapier, ChatGPT Work को ऐसे एजेंटिक मोड के रूप में प्रस्तुत करता है जो फ़ाइलों और जुड़े हुए एप्लिकेशनों के साथ लंबे समय तक काम कर सकता है, जबकि उसका Plan mode निष्पादन से पहले अनुमोदन के लिए रणनीति प्रस्तावित करता है। Microsoft भी इसी तरह Copilot, संगठनात्मक ज्ञान और गवर्नेंस को एक परिचालन AI स्टैक के पूरक हिस्सों के रूप में प्रस्तुत करता है। ये उदाहरण एक व्यावहारिक अंतर की ओर संकेत करते हैं: AI बातचीत के साथी से आगे बढ़कर सौंपे गए कार्यों का संचालक बन रहा है।

कार्य सौंपने से समय बच सकता है, लेकिन इससे ज़िम्मेदारी का स्वरूप भी बदल जाता है। चैटबॉट आम तौर पर किसी व्यक्ति के निरीक्षण के लिए एक आउटपुट तैयार करता है। कोई एजेंट कई मध्यवर्ती कार्रवाइयाँ कर सकता है, जिनमें से कुछ पर बाद में ध्यान देना कठिन होता है। इसलिए सबसे सुरक्षित अपनाने की रणनीति अधिकतम स्वायत्तता नहीं है। यह स्पष्ट, क्रमिक अधिकार है।

प्रॉम्प्ट नहीं, कार्रवाइयों के बारे में सोचें

पहला उपयोगी कदम यह सूची बनाना है कि किसी वर्कफ़्लो में AI सिस्टम कौन-कौन सी कार्रवाइयाँ कर सकता है। “ग्राहक का ऑनबोर्डिंग संभालना” इतना व्यापक है कि इसे नियंत्रित करना कठिन है। अधिक उपयोगी सूची में ये शामिल हो सकते हैं:

• आंतरिक नीति पढ़ना और आवश्यकताओं को निकालना;
• अनुमोदित नॉलेज बेस में खोज करना;
• ईमेल या अनुबंध का सारांश तैयार करना;
• टिकट या स्प्रेडशीट की पंक्ति बनाना;
• ग्राहक या वित्तीय रिकॉर्ड में बदलाव करना;
• किसी उपयोगकर्ता को आमंत्रित करना, दस्तावेज़ प्रकाशित करना या बाहरी संदेश भेजना;
• किसी भुगतान को मंज़ूर करना, डेटा हटाना या संगठन की ओर से कोई प्रतिबद्धता करना।

हर कार्रवाई में उसे पलटने की संभावना, संवेदनशीलता, बाहरी प्रभाव और लागत का अलग संयोजन होता है। इन सभी को “AI सहायता” मानना वास्तविक निर्णय को छिपा देता है।

एक सरल वर्गीकरण, इस अस्पष्ट वादे से अधिक व्यावहारिक है कि कोई इंसान हर चीज़ की निगरानी करेगा:

• कर सकता है: स्पष्ट रूप से सीमित कार्यक्षेत्र में कम-जोखिम वाली, पलटी जा सकने वाली कार्रवाइयाँ।
• प्रस्तावित करना अनिवार्य: ऐसी कार्रवाइयाँ जो साझा कार्य में बदलाव करें, बाहरी रूप से संचार करें या कोई महत्वपूर्ण प्रतिबद्धता बनाएँ।
• अकेले करना सख़्त मना: विनियमित निर्णयों, अपरिवर्तनीय रूप से डेटा हटाने, बड़े मूल्य के हस्तांतरण, एक्सेस-कंट्रोल में बदलाव या संवेदनशील कार्मिक मामलों से जुड़ी कार्रवाइयाँ।

UAE का सरकारी एजेंटिक-AI कार्यक्रम एक प्रासंगिक नीतिगत उदाहरण प्रस्तुत करता है: इसमें यह तय करने के नियम शामिल हैं कि एजेंट कौन से कार्य पूरे कर सकते हैं और किन कार्यों के लिए वे केवल सिफ़ारिश दे सकते हैं। यह मूल विचार किसी व्यक्तिगत टीम पर भी अच्छी तरह लागू होता है: अनुमति कार्य से जुड़ी होनी चाहिए, केवल इसलिए नहीं दी जानी चाहिए कि सिस्टम सक्षम प्रतीत होता है।

जहाँ परिणाम बदलते हैं, वहाँ अनुमोदन द्वारों का उपयोग करें

हर चरण पुष्टि संवाद का हकदार नहीं होता। अगर कोई सिस्टम हर फ़ाइल पढ़ने के बाद अनुमोदन माँगेगा, तो लोग यांत्रिक रूप से अनुमोदन देने लगेंगे या नियंत्रण को बंद कर देंगे। द्वार को किसी महत्वपूर्ण बदलाव से ठीक पहले रखें।

उदाहरण के लिए, किसी एजेंट को बिना बाधा जानकारी एकत्र करने, विकल्पों की तुलना करने और मसौदा तैयार करने की अनुमति दी जा सकती है। उसे इनसे पहले रुकना चाहिए:

• संगठन के बाहर कुछ भी भेजना;
• किसी दस्तावेज़ को नए दर्शक-वर्ग के साथ प्रकाशित या साझा करना;
• स्रोत-सत्य रिकॉर्ड में बदलाव करना;
• पैसे खर्च करता है या छूट देता है;
• अनुमतियाँ बदलता है या क्रेडेंशियल बनाता है;
• डेटा हटाता है, अधिलेखित करता है या निर्यात करता है;
• ऐसा निर्णय लेता है जो रोजगार, पात्रता, ऋण, सुरक्षा या कानूनी अधिकारों को प्रभावित करता है।

अनुमोदन अनुरोध में प्रस्तावित कार्रवाई, सटीक लक्ष्य, महत्वपूर्ण इनपुट और संभावित परिणाम दिखने चाहिए। “जारी रखें?” एक कमजोर नियंत्रण है। “संलग्न सूची का उपयोग करके, अनुमानित अभियान लागत $X के साथ, यह संदेश 2,400 ग्राहकों को भेजें” व्यक्ति को समीक्षा करने के लिए कुछ सार्थक देता है।

उच्च-प्रभाव वाली कार्रवाइयों के लिए, उस समय स्क्रीन देख रहे किसी भी व्यक्ति के बजाय नामित अनुमोदक की आवश्यकता रखें। जब जोखिम इसे उचित ठहराए, तो वर्कफ़्लो डिज़ाइन करने वाले व्यक्ति को उसके सबसे महत्वपूर्ण परिणाम को अधिकृत करने वाले व्यक्ति से अलग रखें।

एजेंट के संचालन का दायरा परिभाषित करें

उपयोगी सीमाएँ स्थापित करने के लिए पेशेवरों को मॉडल के हर विवरण को समझने की आवश्यकता नहीं होती। लेकिन उन्हें सिस्टम के संचालन का दायरा निर्दिष्ट करना आवश्यक है:

• दायरा: कौन-सी परियोजनाएँ, फ़ोल्डर, खाते और डेटा स्रोत उपलब्ध हैं?
• उपकरण: क्या सिस्टम पढ़ सकता है, लिख सकता है, भेज सकता है, खरीद सकता है, कोड चला सकता है या अनुमतियाँ बदल सकता है?
• सीमाएँ: खर्च, मात्रा, आवृत्ति या समय की कौन-सी सीमा लागू होती है?
• स्रोत: किन डोमेन, रिपॉज़िटरी या डेटाबेस को प्रामाणिक माना जाता है?
• एस्केलेशन: किस अनिश्चितता, विरोधाभास या अनुपलब्ध जानकारी के लिए किसी व्यक्ति की आवश्यकता है?
• रोकने की शर्तें: सिस्टम को अनुमान लगाकर आगे बढ़ने के बजाय कब रुक जाना चाहिए?

जहाँ संभव हो, उपकरणों तक पहुँच उपयोगकर्ता के सामान्य खाते की पहुँच से अधिक सीमित होनी चाहिए। साझा ड्राइव पढ़ सकने वाले एजेंट को स्वचालित रूप से हर संपर्क को ईमेल भेजने की अनुमति आवश्यक नहीं होती। कोड का मसौदा तैयार कर सकने वाले एजेंट को स्वचालित रूप से प्रोडक्शन क्रेडेंशियल की आवश्यकता नहीं होती। अलग सर्विस अकाउंट, सीमित वर्कस्पेस या केवल-पढ़ने योग्य कनेक्शन किसी त्रुटि की लागत कम कर सकता है।

सीमा को संचालनात्मक भाषा में लिखें। “विवेक का उपयोग करें” कोई नियंत्रण नहीं है। “अनुमोदन के बिना बाहरी ईमेल न भेजें; ग्राहक डेटाबेस में बदलाव न करें; केवल [date] दिनांक वाली अनुमोदित मूल्य तालिका का उपयोग करें; यदि दो स्रोतों में विरोधाभास हो तो रुक जाएँ” को परखा जा सकता है।

क्रियान्वयन से पहले योजनाओं को निरीक्षण योग्य बनाएँ

योजना बनाना प्रत्यायोजित AI की उपयोगी विशेषताओं में से एक है, लेकिन कोई योजना इस बात का प्रमाण नहीं होती कि वह योजना सही है। इसकी समीक्षा प्रस्तावित कार्रवाइयों के क्रम के रूप में करें।

चार प्रश्न पूछें:

1. सिस्टम कौन-सा परिणाम प्राप्त करना चाहता है?
2. वह कौन-सी धारणाएँ बना रहा है?
3. वह किन उपकरणों को कॉल करेगा और किन अनुमतियों के साथ?
4. किस चरण पर कोई गलती महँगी या पलटना कठिन हो सकती है?

एक अच्छी अनुमोदन स्क्रीन में योजना की सीमाएँ स्पष्ट होनी चाहिए, केवल उसका अंतिम गद्य नहीं। यदि सिस्टम कहता है कि वह “खाते को व्यवस्थित” करेगा, तो समीक्षक को यह देखने में सक्षम होना चाहिए कि इसका अर्थ रिकॉर्ड पर टैग लगाना, डुप्लिकेट को मिलाना, संदेशों को संग्रहित करना या डेटा हटाना है।

दोहराए जाने वाले काम के लिए, हर उदाहरण को तभी अनुमोदित करने के बजाय किसी नीति को अनुमोदित करें जब वह नीति इतनी सीमित हो कि उसकी जाँच की जा सके। “इन विक्रेताओं से प्राप्त, इस राशि से कम के इनवॉइस को मूल प्रतियाँ हटाए बिना स्वचालित रूप से इस श्रेणी में दर्ज करें” एक उपयुक्त विकल्प है। “इनवॉइस प्रबंधित करें” उपयुक्त नहीं है।

मान लें कि संदर्भ खो सकता है

बहु-चरणीय प्रणालियाँ पहले दिए गए निर्देशों को भूल सकती हैं, प्राप्त की गई जानकारी को गलत समझ सकती हैं, या किसी गलत धारणा को आगे भी मानकर चल सकती हैं। इस डाइजेस्ट में शोध और इंजीनियरिंग संबंधी मार्गदर्शन संदर्भ खोने, प्रॉम्प्ट इंजेक्शन, कार्य का समाप्त न होना, संरचित आउटपुट की त्रुटियों और स्थिति को फिर से स्थापित करने की समस्याओं समेत कई विफलता-स्थितियों को रेखांकित करता है। बर्कले का ABBEL कार्य भी यह तर्क देता है कि पूरी बातचीत का इतिहास बार-बार साथ लेकर चलने के बजाय उसे संक्षिप्त करके विश्वास-स्थितियों में बदलना बेहतर हो सकता है, लेकिन संदर्भ प्रबंधन अब भी प्रदर्शन और विश्वसनीयता से जुड़ी चिंता बना हुआ है।

इसका कार्यस्थल पर सीधा प्रभाव है: किसी महत्वपूर्ण अनुमोदन को इस बात पर निर्भर न बनाएं कि एजेंट लंबी प्रक्रिया के दूसरे चरण की किसी पाबंदी को याद रखेगा। महत्वपूर्ण पाबंदियाँ टूल कॉल या अनुमोदन-द्वार के पास रखें। संवेदनशील कार्रवाइयों के लिए प्राप्तकर्ता, राशि, स्रोत, औचित्य और समाप्ति जैसी संरचित फ़ील्ड अनिवार्य करें। यदि कोई कार्य लंबे समय तक चलता है, तो ऐसा चेकपॉइंट अनिवार्य करें जिसमें वर्तमान उद्देश्य, पूरे हो चुके चरण, लंबित कार्रवाइयाँ और अनसुलझी अनिश्चितताएँ फिर से दर्ज हों।

जब कोई एजेंट अविश्वसनीय सामग्री पढ़ता हो, तो विशेष रूप से सावधान रहें। किसी वेब पेज, ईमेल, दस्तावेज़ या कोड टिप्पणी में ऐसी हिदायतें हो सकती हैं जिनका उद्देश्य कार्य पूरा करने में मदद करना नहीं, बल्कि प्रणाली के साथ हेरफेर करना हो। प्राप्त पाठ को डेटा मानें, जब तक कि कार्यप्रवाह उसे स्पष्ट रूप से अधिकृत निर्देश के रूप में न पहचानता हो।

रोकने और पुनर्प्राप्ति के लिए डिज़ाइन करें

सौंपे गए कार्य के लिए ऐसा स्पष्ट रोक-तंत्र और पुनर्प्राप्ति योजना आवश्यक है जिसे देखा जा सके। जिन कार्यों में चक्र चलने की संभावना हो, उनके लिए पुनरावृत्तियों, टूल कॉल या रनटाइम की अधिकतम संख्या तय करें। दोबारा प्रयासों को सुरक्षित बनाएं: एक ही टिकट दो बार बन जाना या एक ही ईमेल दो बार भेजा जाना कोई मामूली विफलता नहीं है। जहाँ सुविधा उपलब्ध हो, इडेम्पोटेंट ऑपरेशन का उपयोग करें या दोहराने से पहले प्रणाली से जाँच करवाएँ कि कार्रवाई पहले ही हो चुकी है या नहीं।

मानव के लिए पढ़ने योग्य गतिविधि-रिकॉर्ड रखें: अनुरोध, योजना, उपयोग किए गए टूल, परामर्श किए गए डेटा स्रोत, दिए गए अनुमोदन, किए गए बदलाव और अंतिम परिणाम। यह केवल बाद की समीक्षा के लिए नहीं है। इससे मूल संचालक के अनुपलब्ध होने पर कोई सहकर्मी कार्यभार संभाल सकता है और पूरी अदृश्य श्रृंखला को फिर से बनाए बिना किसी परिणाम पर सवाल उठाना संभव होता है।

महत्वपूर्ण कार्यप्रवाहों के लिए, स्वायत्तता देने से पहले जानबूझकर खराब परिस्थितियों का परीक्षण करें। अनुपलब्ध डेटा, परस्पर विरोधी नीतियाँ, समाप्त हो चुका स्रोत, किसी दस्तावेज़ में दिया गया दुर्भावनापूर्ण निर्देश, दोहराया गया अनुरोध, रद्द की गई अनुमति और त्रुटि लौटाने वाले टूल आज़माएँ। लक्ष्य यह सिद्ध करना नहीं है कि एजेंट कभी विफल नहीं होगा। लक्ष्य यह सत्यापित करना है कि विफलता के कारण प्रक्रिया रुकती है, स्पष्ट रूप से उच्च स्तर पर भेजी जाती है या सुरक्षित रूप से वापस पहले की स्थिति में लौटती है।

व्यावहारिक प्रतिनिधिकरण-सीढ़ी

आप किसी एजेंट को चरणबद्ध तरीके से लागू कर सकते हैं:

1. अवलोकन करें: प्रणाली स्वीकृत जानकारी पढ़ती है और बताती है कि वह क्या करेगी।
2. मसौदा तैयार करें: वह आउटपुट तैयार करती है, लेकिन हर बाहरी कार्रवाई कोई व्यक्ति करता है।
3. सैंडबॉक्स में काम करें: वह पृथक कार्यक्षेत्र में परीक्षण रिकॉर्ड, शाखाएँ या फ़ाइलें बनाती है।
4. सीमित अनुमतियों के साथ काम करें: वह मात्रा और समय की सीमाओं के तहत उलटे जा सकने वाले, कम-जोखिम वाले कार्य करती है।
5. नीति के अधीन काम करें: वह अच्छी तरह परीक्षण किए गए कार्यों के एक वर्ग को संभालती है और निर्धारित अनुमोदन-द्वारों पर रुकती है।

ऊपरी चरण पर तभी जाएँ जब निचले चरण से यह प्रमाण मिल जाए कि कार्यप्रवाह स्वीकार्य ढंग से काम करता है। यदि कार्य बदल जाए, टूल बदल जाएँ या डेटा अधिक संवेदनशील हो जाए, तो सीढ़ी पर नीचे लौट आएँ।

आपके करियर के लिए इसका क्या अर्थ है

मूल्यवान कौशल केवल यह जानना नहीं है कि परिणाम पाने के लिए AI से कैसे पूछा जाए। यह जानना है कि अस्पष्ट प्रतिनिधिकरण को सीमाबद्ध संचालन-प्रक्रिया में कैसे बदला जाए। इसमें काम को कार्रवाइयों में विभाजित करना, अपरिवर्तनीय बदलावों की पहचान करना, एस्केलेशन नियम लिखना, अनुमोदन अनुरोधों को डिज़ाइन करना और यह पहचानना शामिल है कि एजेंट को कब रुकना चाहिए।

साक्षात्कारों या प्रदर्शन-समीक्षाओं में केवल उस स्वचालन का वर्णन न करें जिसे आपने शुरू किया है; उस सीमा का वर्णन करें जिसे आपने डिज़ाइन किया है: “प्रणाली शोध करती है और मसौदा तैयार करती है; एक नामित समीक्षक बाहरी संचार को मंज़ूरी देता है; डेटाबेस में लिखना इन फ़ील्डों तक सीमित है; दोहराई गई कार्रवाइयों की जाँच की जाती है; अनसुलझे विरोधाभास प्रक्रिया को रोक देते हैं।” यह भाषा संचालन संबंधी विवेक को दर्शाती है।

एजेंट-आधारित काम पेशेवर जवाबदेही की आवश्यकता समाप्त नहीं करेगा। यह जवाबदेही को अधिक ठोस बनाता है। किसी कार्य को सौंपने से पहले तय करें कि प्रणाली क्या कर सकती है, पहले आपको क्या दिखाना आवश्यक है और ऐसा क्या है जो उसे अकेले कभी नहीं करना चाहिए। फिर इन निर्णयों को कार्यप्रवाह में ही स्पष्ट रूप से दर्ज करें।

Maya Chen AI Career Brief की जवाबदेह मानव संपादक हैं, जो AI के युग में काम करने के लिए कौशल, भूमिकाओं और समझदारी भरे कदमों को कवर करती हैं।