Google DeepMind anunció el 27 de agosto un piloto de evaluación en un entorno criptográfico: el evaluador no ve los parámetros internos de Gemini y Google no ve las preguntas reservadas del evaluador. Busca reducir la contaminación del examen sin exigir que alguna parte entregue sus secretos a la otra. Presentación del piloto.
Para quien compra un sistema, una puntuación permite comparar sin repetir personalmente todo el trabajo del evaluador. Esa división de tareas puede ahorrar recursos y ampliar el acceso a conocimientos especializados. Pero obliga a mantener una cadena de preguntas contestables: qué se comprobó, quién pudo observarlo y por qué el resultado sirve para este uso. Delegar la medición tiene sentido si se conservan medios para discutir sus conclusiones, incluso cuando parte de la información debe permanecer reservada.
Una caja cerrada no elige un buen examen
La confidencialidad resuelve una parte del problema; la pertinencia de las preguntas sigue abierta. Imaginemos que una institución evalúa un asistente para atender reclamaciones. La prueba podría medir si redacta respuestas claras o si identifica correctamente el motivo de la queja. Ambas capacidades importan, pero una puede mejorar sin la otra. Un sistema excelente para explicar una negativa equivocada podría recibir una buena puntuación en el primer examen y prestar un mal servicio.
Una comprobación debe responder a la función y al riesgo que justifican realizarla. Por eso importa declarar qué permite concluir un resultado y qué queda fuera. Una puntuación sobre tareas individuales no describe automáticamente el comportamiento de un agente conectado a herramientas durante horas. Cambian los medios disponibles, la secuencia de acciones y las consecuencias de un error.
NIST trabaja también en pruebas con datos reservados mediante AITE. Su presentación describe un entorno de evaluación independiente con datos, métricas y puntuaciones comunes, destinado a reducir la contaminación entre entrenamiento y examen. No es el mismo mecanismo criptográfico de Google ni una validación de ese piloto. Descripción de AITE.
La independencia tiene más de una puerta
Una organización externa puede mantener secretas sus preguntas y depender del fabricante para ejecutar todas las pruebas. Eso no invalida su trabajo, pero hace necesario saber qué configuración se evaluó, qué resultados recibió y qué libertad tenía para investigar un resultado extraño. La independencia depende también de accesos, recursos y capacidad de publicar conclusiones incómodas. Un candado protege información; no decide el contrato entre las partes ni quién paga el tiempo de comprobar una anomalía.
Hay además una diferencia entre mantener reservadas las preguntas exactas y esconder el significado de la evaluación. Un comprador puede necesitar conocer los tipos de tareas, la población representada, las condiciones de ejecución y los límites del resultado sin recibir el cuestionario completo. Esa información permite discutir si el examen guarda relación con su uso. Publicar una puntuación aislada obliga a confiar en la selección realizada por otros, precisamente cuando se intenta reducir la confianza sin respaldo.
El examen puede equivocarse también. Una respuesta válida podría quedar marcada como incorrecta por una regla de puntuación demasiado estrecha; una salida convincente podría recibir aprobación aunque contenga un error decisivo. Debe existir una vía para revisar esos casos sin entregar permanentemente todo el material reservado. De lo contrario, proteger el test impediría corregirlo. La evaluación necesita conservar tanto su capacidad de discriminar como la posibilidad de reconocer que discriminó mal.
La repetición introduce otra condición. Cuando un proveedor aprende qué tipos de errores penaliza una prueba, puede mejorar justamente en ellos. Eso es deseable si representan problemas reales; menos informativo si termina dominando una convención particular del examen. Renovar tareas y contrastar usos distintos ayuda a distinguir ambas situaciones, siempre que las nuevas pruebas sigan midiendo una capacidad reconocible y permitan explicar las diferencias entre resultados.
La protección técnica adquiere valor público cuando permite exámenes exigentes, relevantes y discutibles. Guardar el cuestionario en una caja fuerte puede impedir que alguien copie. Saber si aprobó algo que merece la pena sigue siendo trabajo del evaluador.