استكشف الوسم
قياس مخاطر الإجابات غير المدعومة وإدارتها: إعداد أسئلة اختبار وقواعد تصنيف، وتحليل النتائج حسب الشرائح، ثم استخدام شروط الإصدار والإطلاق التدريجي والمراقبة والتراجع لإدارة المخاطر المتبقية أثناء التشغيل.
نتائج التصفح · #سلامة الذكاء الاصطناعي
لتقييم هلوسة تطبيق مبني على نموذج لغوي، اختبره بأسئلة حقيقية لها إجابات مرجعية متفق عليها، وتحقق من كل ادعاء مقابل مصادره، وقِس الاسترجاع والإجابة كلًّا على حدة، ثم اقرأ النتائج حسب الشرائح لا بمتوسط واحد.
لا يستطيع الاختبار إزالة الهلوسة تمامًا، لذلك تعتمد السلامة في الإنتاج على ما يحيط بكل إطلاق: بوابة متفق عليها مسبقًا، وإطلاق على مراحل، ومراقبة للإجابات الحية، واحتواء للحوادث، وتراجع جرى التدرّب عليه.
