لا يتمثل التحول المهم في مجال الذكاء الاصطناعي في مكان العمل في أن نموذجًا ما يستطيع كتابة فقرة أفضل، بل في أن نظامًا ما يستطيع، على نحو متزايد، متابعة هدف عبر عدة خطوات: فحص الملفات، والبحث في الخدمات المتصلة، وإنشاء مُخرَج، وتحديث سجل، وإرسال رسالة.
وهذا يغيّر السؤال المهني من «هل هذه الإجابة صحيحة؟» إلى «ما الذي يُسمح لهذا النظام بفعله قبل أن يضطر إلى سؤالي؟»
تصف Zapier ميزة ChatGPT Work بأنها وضع وكيل يمكنه العمل لفترات ممتدة مع الملفات والتطبيقات المتصلة، في حين يقترح وضع Plan استراتيجية للموافقة عليها قبل التنفيذ. وبالمثل، تطرح Microsoft كلًا من Copilot والمعرفة المؤسسية والحوكمة بوصفها أجزاءً متكاملة من منظومة ذكاء اصطناعي تشغيلية. وتشير هذه الأمثلة إلى تمييز عملي: ينتقل الذكاء الاصطناعي من شريك في المحادثة إلى منفّذ مفوَّض.
يمكن للتفويض أن يوفر الوقت، لكنه يغيّر أيضًا طبيعة المسؤولية. فعادةً ما ينتج روبوت المحادثة مخرَجًا ليفحصه شخص ما. أما الوكيل فقد ينفّذ عدة إجراءات وسيطة، يصعب ملاحظة بعضها بعد وقوعه. لذلك، لا تتمثل استراتيجية التبنّي الأكثر أمانًا في أقصى قدر من الاستقلالية، بل في صلاحيات صريحة ومتدرجة.
فكّر في الإجراءات، لا في المطالبات
تتمثل خطوة أولى مفيدة في وضع قائمة بالإجراءات التي يمكن لنظام ذكاء اصطناعي اتخاذها ضمن سير عمل. فعبارة «تولَّ إجراءات تهيئة العملاء» واسعة جدًا بحيث يتعذر ضبطها. وقد تتضمن قائمة أكثر فائدة ما يلي:
- قراءة سياسة داخلية واستخراج المتطلبات؛
- البحث في قاعدة معرفة معتمدة؛
- إعداد مسودة بريد إلكتروني أو ملخص عقد؛
- إنشاء تذكرة أو صف في جدول بيانات؛
- تغيير سجل عميل أو سجل مالي؛
- دعوة مستخدم، أو نشر مستند، أو إرسال رسالة خارجية؛
- الموافقة على دفعة، أو حذف بيانات، أو إبرام التزام نيابةً عن المؤسسة.
ينطوي كل إجراء على مزيج مختلف من قابلية التراجع، والحساسية، والأثر الخارجي، والتكلفة. إن التعامل معها جميعًا باعتبارها «مساعدة من الذكاء الاصطناعي» يخفي القرار الحقيقي.
ويُعدّ التصنيف البسيط أكثر عملية من وعد غامض بأن إنسانًا سيشرف على كل شيء:
- يجوز له تنفيذها: إجراءات منخفضة المخاطر وقابلة للتراجع ضمن مساحة عمل محدودة بوضوح.
- يجب أن يقترحها: إجراءات تغيّر عملًا مشتركًا، أو تتواصل مع جهات خارجية، أو تنشئ التزامًا ذا أهمية.
- يجب ألا ينفذها بمفرده أبدًا: إجراءات تتضمن قرارات خاضعة للتنظيم، أو حذفًا لا رجعة فيه، أو تحويلات عالية القيمة، أو تغييرات في ضوابط الوصول، أو مسائل حساسة تتعلق بالموظفين.
يوفر برنامج الحكومة الإماراتية للذكاء الاصطناعي القائم على الوكلاء مثالًا مناسبًا على السياسات: فهو يتضمن قواعد لتحديد المهام التي يجوز للوكلاء إنجازها وتلك التي لا يجوز لهم سوى التوصية بها. وتنتقل الفكرة الأساسية بسهولة إلى فريق فردي: ينبغي أن تكون الصلاحية مرتبطة بالمهمة، لا أن تُمنح لمجرد أن النظام يبدو قادرًا.
استخدم بوابات الموافقة حيث تتغير العواقب
لا تستحق كل خطوة نافذة تأكيد. فإذا طلب النظام موافقة بعد كل قراءة لملف، فسيوافق الناس آليًا أو يعطّلون أداة التحكم. ضع البوابة مباشرة قبل الانتقال ذي العواقب.
فعلى سبيل المثال، قد يُسمح لوكيل بجمع المعلومات، ومقارنة الخيارات، وإعداد مسودة دون مقاطعة. لكن ينبغي أن يتوقف قبل أن:
- يرسل أي شيء خارج المؤسسة؛
- ينشر مستندًا أو يشاركه مع جمهور جديد؛
- يغيّر سجل المصدر المعتمد للحقيقة؛
- ينفق المال أو يلتزم بخصم؛
- يغيّر الأذونات أو ينشئ بيانات اعتماد؛
- يحذف البيانات أو يستبدلها أو يصدّرها؛
- يتخذ قرارًا يؤثر في التوظيف أو الأهلية أو الائتمان أو السلامة أو الحقوق القانونية.
ينبغي أن يعرض طلب الموافقة الإجراء المقترح، والهدف المحدد بدقة، والمدخلات الجوهرية، والنتيجة المرجحة. «المتابعة؟» أداة تحكم ضعيفة. أما «إرسال هذه الرسالة إلى 2,400 عميل، باستخدام القائمة المرفقة، بتكلفة تقديرية للحملة قدرها $X» فيمنح الشخص شيئًا ذا مغزى لمراجعته.
بالنسبة إلى الإجراءات عالية التأثير، اشترط وجود مُوافِق مُسمّى بدلًا من أي شخص يصادف أنه يراقب الشاشة. افصل بين الشخص الذي صمّم سير العمل والشخص الذي يجيز أكثر نتائجه تبعاتٍ، عندما يبرر مستوى المخاطر ذلك.
حدّد نطاق تشغيل الوكيل
لا يحتاج المتخصصون إلى فهم كل تفاصيل النموذج لوضع حدود مفيدة. لكن عليهم تحديد نطاق تشغيل النظام:
- النطاق: ما المشاريع والمجلدات والحسابات ومصادر البيانات المتاحة؟
- الأدوات: هل يجوز للنظام القراءة أو الكتابة أو الإرسال أو الشراء أو تنفيذ التعليمات البرمجية أو تغيير الأذونات؟
- الحدود: ما حد الإنفاق أو الحجم أو التكرار أو الوقت المطبق؟
- المصادر: ما النطاقات أو المستودعات أو قواعد البيانات التي تُعدّ موثوقة؟
- التصعيد: ما مستوى عدم اليقين أو التعارض أو نقص المعلومات الذي يتطلب تدخل شخص؟
- شروط التوقف: متى يجب على النظام أن يتوقف بدلًا من الارتجال؟
ينبغي أن يكون وصول الأدوات أضيق من وصول المستخدم العام إلى حسابه كلما أمكن. فالوكيل الذي يستطيع قراءة محرك أقراص مشترك لا يحتاج تلقائيًا إلى إذن لإرسال بريد إلكتروني إلى كل جهة اتصال. والوكيل الذي يستطيع إعداد التعليمات البرمجية لا يحتاج تلقائيًا إلى بيانات اعتماد بيئة الإنتاج. ويمكن لحساب خدمة منفصل، أو مساحة عمل محدودة، أو اتصال للقراءة فقط، أن يجعل الخطأ أقل تكلفة.
اكتب الحدود بلغة تشغيلية. «استخدم الحكم» ليس إجراءً رقابيًا. أما «لا ترسل بريدًا إلكترونيًا خارجيًا دون موافقة؛ لا تعدّل قاعدة بيانات العملاء؛ استخدم جدول الأسعار المعتمد المؤرخ في [date] فقط؛ توقف إذا تعارض مصدران» فهو أمر قابل للاختبار.
اجعل الخطط قابلة للفحص قبل التنفيذ
يُعد التخطيط إحدى الميزات المفيدة للذكاء الاصطناعي المفوَّض، لكن الخطة ليست دليلًا على سلامتها. راجعها بوصفها تسلسلًا مقترحًا من الإجراءات.
اطرح أربعة أسئلة:
- ما النتيجة التي يسعى النظام إلى تحقيقها؟
- ما الافتراضات التي يضعها؟
- ما الأدوات التي سيستدعيها، وبأي أذونات؟
- في أي خطوة يمكن أن يصبح الخطأ مكلفًا أو يصعب التراجع عنه؟
ينبغي لشاشة الموافقة الجيدة أن تكشف حدود الخطة، لا أن تكتفي بنصها النهائي. فإذا قال النظام إنه سيقوم «بترتيب الحساب»، فينبغي أن يتمكن المراجع من معرفة ما إذا كان ذلك يعني وسم السجلات، أو دمج المكررات، أو أرشفة الرسائل، أو حذف البيانات.
بالنسبة إلى الأعمال المتكررة، لا توافق على سياسة بدلًا من كل حالة إلا عندما تكون السياسة ضيقة بما يكفي لاختبارها. «أرشِف تلقائيًا فواتير هؤلاء المورّدين التي تقل عن هذا المبلغ ضمن هذا التصنيف، من دون حذف النسخ الأصلية» مثال مناسب. أما «إدارة الفواتير» فليست كذلك.
افترض أن السياق قد يفشل
يمكن للأنظمة متعددة الخطوات أن تفقد track التعليمات السابقة، أو تسيء قراءة المعلومات المسترجعة، أو تواصل العمل بناءً على افتراض خاطئ. وتسلّط الإرشادات البحثية والهندسية في الملخص الضوء على أنماط فشل تشمل فقدان السياق، وحقن الأوامر، وعدم الإنهاء، وأخطاء المخرجات المنظمة، ومشكلات إعادة تهيئة الحالة. كما يجادل عمل ABBEL في بيركلي بأن ضغط سجلات التفاعل في حالات اعتقاد قد يكون أفضل من مواصلة حمل السجل الكامل بصورة متكررة، لكن إدارة السياق تظل مصدر قلق يتعلق بالأداء والموثوقية.
ولهذا تبعات مباشرة في مكان العمل: لا تجعل موافقة حاسمة تعتمد على تذكّر الوكيل لقيد ورد في الخطوة الثانية من تشغيل طويل. ضع القيود المهمة بالقرب من استدعاء الأداة أو بوابة الموافقة. واشترط حقولًا منظمة للإجراءات الحساسة، مثل المستلم، والمبلغ، والمصدر، والمبرر، وتاريخ الانتهاء. وإذا استغرقت المهمة وقتًا طويلًا، فاشترط نقطة تحقق تعيد ذكر الهدف الحالي، والخطوات المكتملة، والإجراءات المعلقة، وأوجه عدم اليقين التي لم تُحسم.
كن حذرًا بصفة خاصة عندما يقرأ الوكيل مواد غير موثوقة. فقد تحتوي صفحة ويب أو رسالة بريد إلكتروني أو مستند أو تعليق برمجي على تعليمات تهدف إلى التلاعب بالنظام بدلًا من المساعدة في إكمال المهمة. وينبغي التعامل مع النص المسترجع بوصفه بيانات، ما لم يحدد سير العمل صراحةً أنه تعليمات مصرح بها.
صمّم النظام بحيث يمكن إيقافه واستعادته
يحتاج العمل المفوَّض إلى آلية إيقاف واضحة وخطة استعادة. حدّد حدًا أقصى لعدد التكرارات أو استدعاءات الأدوات أو مدة التشغيل للمهام التي قد تدخل في حلقة. واجعل عمليات إعادة المحاولة آمنة: ف إنشاء التذكرة نفسها مرتين أو إرسال البريد الإلكتروني نفسه مرتين ليس فشلًا غير ضار. وحيثما كان ذلك مدعومًا، استخدم عمليات متكررة آمنة، أو اجعل النظام يتحقق مما إذا كان الإجراء قد حدث بالفعل قبل تكراره.
احتفظ بسجل نشاط يمكن للإنسان قراءته: الطلب، والخطة، والأدوات المستخدمة، ومصادر البيانات التي جرى الرجوع إليها، والموافقات الممنوحة، والتغييرات التي أُجريت، والنتيجة النهائية. فهذا ليس مخصصًا فقط لتحليلات ما بعد الحادثة. بل يتيح لزميل تولّي المهمة عندما يتعذر على المشغّل الأصلي ذلك، ويجعل من الممكن الطعن في نتيجة ما دون إعادة بناء سلسلة خفية بأكملها.
بالنسبة إلى مسارات العمل المهمة، اختبر عمدًا الحالات السيئة قبل منح الاستقلالية. جرّب غياب البيانات، وتعارض السياسات، وانتهاء صلاحية مصدر، وتعليمة خبيثة في مستند، وطلبًا مكررًا، وإذنًا ملغى، وأداة تُرجع خطأً. ليس الهدف إثبات أن الوكيل لا يفشل مطلقًا، بل التحقق من أن الفشل يؤدي إلى توقف، أو تصعيد واضح، أو تراجع آمن.
سُلّم عملي لتفويض المهام
يمكنك إدخال وكيل على مراحل:
- المراقبة: يقرأ النظام المعلومات المعتمدة ويشرح ما كان سيفعله.
- إعداد المسودة: يجهّز المخرجات، لكن ينفذ شخص كل إجراء خارجي.
- التنفيذ في بيئة اختبار: ينشئ سجلات أو فروعًا أو ملفات اختبار في مساحة عمل معزولة.
- التنفيذ بصلاحيات محدودة: ينفذ إجراءات قابلة للعكس ومنخفضة المخاطر ضمن حدود للحجم والوقت.
- التنفيذ وفق سياسة: يتولى فئة من المهام خضعت لاختبار جيد، ويتوقف عند بوابات موافقة محددة.
انتقل إلى مرحلة أعلى فقط عندما تكون المرحلة الأدنى قد قدّمت أدلة على أن سير العمل يتصرف بصورة مقبولة. وإذا تغيرت المهمة، أو تغيرت الأدوات، أو أصبحت البيانات أكثر حساسية، فتراجع إلى مرحلة أدنى في السلم.
ما الذي يعنيه هذا لمسيرتك المهنية
لا تتمثل المهارة القيّمة ببساطة في معرفة كيفية طلب نتيجة من الذكاء الاصطناعي، بل في معرفة كيفية تحويل تفويض غامض إلى إجراء تشغيلي محدد الحدود. ويشمل ذلك تقسيم العمل إلى إجراءات، وتحديد الانتقالات غير القابلة للعكس، وكتابة قواعد التصعيد، وتصميم طلبات الموافقة، والتعرف على الوقت الذي ينبغي فيه للوكيل أن يتوقف.
في المقابلات أو مراجعات الأداء، صِف الحدود التي صممتها، لا الأتمتة التي أطلقتها فحسب: «يبحث النظام ويعد المسودة؛ ويوافق مراجع مُسمّى على الاتصالات الخارجية؛ وتقتصر عمليات الكتابة في قاعدة البيانات على هذه الحقول؛ ويجري التحقق من الإجراءات المكررة؛ وتؤدي التعارضات غير المحسومة إلى إيقاف التشغيل». وتُظهر هذه اللغة حكمًا تشغيليًا.
لن يلغي العمل القائم على الوكلاء الحاجة إلى المساءلة المهنية. بل سيجعل المساءلة أكثر تحديدًا. وقبل أن تسلّم مهمة، قرر ما الذي يجوز للنظام فعله، وما الذي يجب أن يعرضه عليك أولًا، وما الذي يجب ألا يفعله بمفرده مطلقًا. ثم اجعل هذه القرارات ظاهرة في سير العمل نفسه.
مايا تشن هي المحررة البشرية المسؤولة عن AI Career Brief، الذي يتناول المهارات والأدوار والخطوات الذكية للعمل في عصر الذكاء الاصطناعي.
