الاختبار المرجعي هو في الواقع كتابة القيم كمبرمجيات.

كل توقعاتنا ومخاوفنا من الذكاء الاصطناعي تم دفعها بقوة إلى تلك الأدوات التي يمكنها تقييم الأداء — ما هو التقدم، ما الذي يجب أن نخاف منه، ما الذي يجب تحسينه، وفي النهاية يجب أن نتظاهر بأن هذه الأشياء يمكن قياسها بدقة. المشكلة هي أن بعض الأشياء لا يمكن قياسها أصلاً. وراء المعايير المختارة، غالبًا ما تكمن افتراضات المصمم نفسه. اختيارك لمعيار معين يعادل تحديد شكل الذكاء الاصطناعي الذي يجب أن يكون عليه. وبالعكس، الأشياء التي لم تُختَر قد تكون الأهم حقًا.