اختر حالات استخدام المساعد الداخلي للذكاء الاصطناعي بأربع خصائص في مسار العمل نفسه، ودع قوائم الأفكار الرائجة جانبًا: هل يوجد مصدر موثوق تُستمد منه الإجابات؟ وهل يستطيع المساعد احترام من يحق له رؤية ماذا؟ وكم يكلّف الناتج الخاطئ، وهل سيلتقطه أحد؟ وهل يراجع شخصٌ الناتج بحكم عمله قبل أن يُحدث أثرًا؟ مسار العمل الذي يجتاز الأسئلة الأربعة بداية جيدة. أما هل تؤتي التجربة ثمارها فسؤال تالٍ، يتناوله دليلنا عن قياس تجارب المساعدات الداخلية بخطوط الأساس والتكلفة الإجمالية.
الأدلة. المرشح الجيد يستند إلى مصادر محدّثة لها مالكون معروفون: سياسات، وأوراق منتجات، ودراسات حالة معتمدة، وأدلة تشغيل، ومكتبات بنود. أما إذا كانت الإجابة الصحيحة في رأس أحدهم، أو في ملفات قديمة، أو في حقائق مختلف عليها، فقد يملأ المساعد الفجوات بتخمينات مقنعة ما لم تثق بأنه سيمتنع ويصعّد.
الصلاحيات. يجب أن تكون للمصادر قواعد وصول يستطيع النظام فرضها قبل أن يقرأ النموذج أي شيء. وحين تختلف الإجابة الصحيحة للسؤال نفسه باختلاف السائل، كسلالم الرواتب أو شروط الصفقات، فابنِ ترشيح الصلاحيات واختبره قبل الإطلاق. ويشرح دليلنا عن RAG للشركات كيف يُتحقق من الصلاحيات أثناء الاسترجاع.
كلفة الخطأ. اسأل ماذا يحدث حين يكون الناتج خاطئًا. فبعض الأخطاء يكلّف دقائق من إعادة العمل، وبعضها يسبب دفعة خاطئة أو رسالة مضللة لعميل أو مخالفة امتثال. ولاحظ أيضًا هل تستطيع عكس الأثر.
المراجعة البشرية. ابحث عن نقطة تفتيش طبيعية يراجع فيها شخص الناتج قبل أن يُحدث أثرًا: موظف مبيعات يعدّل المسودة قبل إرسالها، أو مهندس يقرر هل ينفّذ الأمر المقترح. وحيث يصل الناتج إلى هدفه دون مراجعة، كإجابة يتصرف الموظف بناءً عليها فورًا، فعلى النظام أن يحمل نصيبًا أكبر من عبء السلامة: استشهاد بالمصادر، وامتناع عن الإجابة، وتصعيد.
شكل 1: افحص أربعة شروط. المراجعة قبل حدوث الأثر.
التقييمات التالية توضيحية، وليست نتائج من أي عميل:
- مسودات أولى لعروض المبيعات. الأدلة: أوراق منتجات ودراسات حالة معتمدة. الصلاحيات: بيانات الصفقات مقصورة على فريق الحساب. كلفة الخطأ: عالية إن أرسل أحدهم العرض دون مراجعة؛ والاكتفاء بالمسودة يقلّل مخاطر التنفيذ ويُبقي خطر الإفشاء والاعتماد على معلومات خاطئة. المراجعة: يعدّل الموظف المسودة قبل الإرسال. مرشح أول قوي بنطاق مساعد صياغة.
- أسئلة سياسات الموارد البشرية. الأدلة: دليل موظفين له مالك. الصلاحيات: متاح لمعظم الموظفين مع سياسات مقيّدة. كلفة الخطأ: متوسطة، كاستحقاق إجازة خاطئ. المراجعة: لا مراجعة لحظة الإجابة. يصلح إذا استشهدت الإجابات بالسياسة، وامتنعت عن الإجابة حين لا تتناول السياسة السؤال، وقدّمت مسارًا للتصعيد.
- أدلة تشغيل تقنية المعلومات. الأدلة: أدلة تشغيل متفاوتة الجودة. الصلاحيات: فريق العمليات. كلفة الخطأ: عالية إن نُفّذت الأوامر تلقائيًا. المراجعة: ينفّذ المهندس كل خطوة بنفسه. في تجربة أولى يصلح لاقتراح الخطوات دون تنفيذها، وبعد أن ينقّح أحد الأدلة.
- أسئلة أرقام المبيعات. الأدلة: قاعدة بيانات لا مستندات. كلفة الخطأ: الأرقام الخاطئة قد تقود إلى قرارات خاطئة. الصلاحيات: يجب فرض الوصول إلى الصفوف والحقول المسموح بها. المراجعة: عرض الاستعلام وحده لا يثبت صحة الأرقام. فضّل استعلامات معتمدة للقراءة فقط وتجميعات حتمية وفحصًا مقابل نتائج معروفة، وعامل هذا الاستخدام مشروعًا منفصلًا عن مساعد المستندات.
افرز المرشحين هكذا، وسيتضح الاختيار الأول في أغلب الحالات، ومعه ما يحتاجه الباقون من إعداد.
تميّز إرشادات Anthropic الهندسية لبناء الوكلاء بين مسارات العمل (Workflows)، حيث تتبع النماذج والأدوات مسارات برمجية محددة مسبقًا، والوكلاء (Agents)، حيث يوجّه النموذج خطواته واستخدامه للأدوات بنفسه، وتوصي بالبدء بأبسط حل يعمل. ومعظم المساعدات الداخلية الأولى تناسبها مسارات العمل: استرجاع المصادر المعتمدة، ثم الصياغة أو الإجابة، ثم تسليم الناتج لشخص. اجعل الإصدار الأول للقراءة فقط، وأجّل الأدوات التي ترسل أو تعدّل أو تدفع إلى مرحلة لاحقة بقواعد موافقة صريحة؛ ويتناول دليلنا لوكلاء الذكاء الاصطناعي للمديرين التقنيين متى تكون هذه الاستقلالية مبررة.
لا تحميك خطوة المراجعة إلا إذا استطاع المراجعون أداءها جيدًا. ضعها عند نقطة الأثر، قبل الإرسال أو الحفظ أو التنفيذ، واجعلها سريعة: اعرض المصادر بجانب كل ادعاء، وميّز الادعاءات غير المدعومة وإخفاقات فحص الأدلة بدل الاعتماد على تقدير النموذج لثقته بنفسه، وأظهر ما تغيّر عن القالب. ثم تأكد أن المراجعين يراجعون ولا يختمون فحسب: خذ عينات من المخرجات المراجَعة، وتتبّع كم مرة يعدّل المراجعون، وسمِّ من يُسأل عما يخرج من الفريق.
شكل 2: اجعل التجربة للقراءة فقط. يتحكم الشخص في الإجراء النهائي.
جمهور داخلي لا يخفّض مخاطر البيانات شيئًا. فالطلبات تحمل في كثير من الأحيان معلومات شخصية أو سرية، فعامِلها كسجلات: قيّد من يقرأ السجلات، وحدّد مدد الاحتفاظ، وقلّص النصوص الحساسة أو نقّحها. وإن كان مسار العمل يعالج بيانات شخصية في السعودية، فتعرض قائمة تدفقات البيانات وفق نظام حماية البيانات الشخصية الأسئلة التي تُحسم مع فريقك القانوني.
ويضم ملحق الذكاء الاصطناعي التوليدي من NIST (NIST AI 600-1)، الذي نُشر في 26 يوليو 2024 امتدادًا لإطار إدارة مخاطر الذكاء الاصطناعي، قائمة بمخاطر الذكاء الاصطناعي التوليدي، منها المحتوى المختلَق الذي يسميه confabulation، وخصوصية البيانات، وأمن المعلومات. استخدمه قائمة فحص لأي مسار عمل مرشح؛ فهو إرشادات طوعية، والمرور عليه لا يمنح النظام شهادة ولا يجعله آمنًا.
اختر المرشح الأقوى في الأدلة، والأوضح في الصلاحيات القابلة للفرض، والأقل أو الأسهل اكتشافًا في كلفة الخطأ، والذي يتضمن خطوة مراجعة طبيعية. واتفقوا على معنى النجاح قبل أن يبني أحد شيئًا: أي المهام، وأي المقاييس، ومقارنةً بأي خط أساس. ثم شغّلوه مع فريق واحد، وحوّلوا الإخفاقات إلى أمثلة اختبار (مقلّصة البيانات، ومأذونًا بها، وتحت ضوابط وصول واحتفاظ مناسبة)، وقرّروا بالأدلة التوسع أو التعديل أو التوقف.
هذه المعايير إرشادات من تكنوستاك، لا متطلبات من Anthropic أو NIST. وإن كنت تحدد أين تطبّق الذكاء الاصطناعي داخل مؤسستك، فيمكن لفريق خدمة أتمتة الذكاء الاصطناعي أن يساعدك في تقييم مسارات العمل المرشحة وبناء أولها.
- Anthropic. Building effective agents: تميّز بين مسارات العمل المحددة مسبقًا والوكلاء، وتوصي بالبدء بأبسط حل، وتصف أمثلتها المنشورة في ديسمبر 2024 بأنها تاريخية.
- المعهد الوطني للمعايير والتقنية الأمريكي (NIST). Generative Artificial Intelligence Profile (NIST AI 600-1)، نُشر في 26 يوليو 2024 ملحقًا لإطار AI RMF.
