La prueba de referencia en realidad consiste en convertir los valores en código.

Todas nuestras expectativas y miedos sobre la IA se han insertado de manera forzada en esas cosas que pueden ser calificadas: qué significa progreso, qué merece ser temido, qué debe ser optimizado, y al final, hay que hacer como si estas cosas pudieran ser cuantificadas con precisión. El problema es que algunas cosas simplemente no se pueden medir. Detrás de los indicadores seleccionados, a menudo se esconden las suposiciones del diseñador. Lo que eliges como criterio equivale a definir cómo debería ser la IA. En cambio, lo que no se selecciona, podría ser lo más importante.