Un municipio quiere imaginar nuevos servicios para un barrio que siempre ha recibido menos atención. Consulta una herramienta entrenada con descripciones de lo que otros municipios ya hicieron. La respuesta puede ser útil y, a la vez, dejar intacto un problema: las experiencias disponibles quizá reflejan prioridades que precisamente se quiere cambiar. La escena es hipotética, pero plantea una dificultad reconocible. Disponer de más propuestas no asegura haber ampliado lo que se considera deseable.
The AI Mirror, de Shannon Vallor, presenta la IA mediante la imagen de un espejo del pasado y propone recuperar capacidad moral e imaginación sobre el futuro. La sinopsis de Oxford subraya que una tecnología útil puede reproducir errores y limitaciones presentes en nuestros datos. Esa tesis abre una pregunta sobre los fines: qué queremos hacer con las posibilidades técnicas, además de preguntar cuáles están disponibles. Fuente: Oxford University Press
Cuando la recomendación define la pregunta
El municipio del ejemplo podría usar el modelo para comparar costos, organizar experiencias y descubrir alternativas que sus funcionarios desconocían. El problema surgiría si tratara ese repertorio como el límite de una decisión razonable. Una práctica puede ser infrecuente porque carece de valor, porque encontró obstáculos políticos o porque nunca se financiaron sus primeras pruebas. La frecuencia de un antecedente no permite elegir entre esas explicaciones sin investigación adicional.
La institución necesita escuchar propuestas que no encajan en las categorías del sistema si pretende conocer necesidades desatendidas. Una vecina podría pedir horarios compatibles con trabajos nocturnos aunque el conjunto de ejemplos favorezca atención diurna. Su demanda introduce conocimiento y una razón que la disponibilidad de antecedentes no agota.
La imaginación moral necesita entonces una organización que le conceda efectos. Reservar un espacio para ideas distintas sirve de poco si todas se evalúan mediante un indicador que ya favorece las soluciones habituales. Podría ser necesario comparar beneficios distribuidos de manera desigual, ensayar una alternativa a pequeña escala o explicar por qué cierta necesidad merece prioridad. Eso supone decisiones discutibles y costos; la originalidad de una propuesta tampoco la vuelve automáticamente justa.
Innovar no garantiza mejorar
La metáfora del espejo admite un límite importante para el análisis: una combinación nueva de materiales conocidos puede producir una idea valiosa. El origen histórico de los datos no demuestra que toda respuesta reproduzca literalmente el pasado ni que una persona sin herramientas vaya a imaginar algo mejor. Conviene examinar qué alternativas aparecen, cuáles desaparecen y cómo se escoge entre ellas. La pregunta normativa conserva su fuerza incluso si el sistema produce novedades técnicas sorprendentes.
También sería insuficiente repartir toda la responsabilidad entre usuarios individuales. Un funcionario puede querer explorar otras opciones y carecer de presupuesto para probarlas. Un proveedor puede ofrecer un instrumento flexible dentro de un contrato que sólo remunera rapidez. Las posibilidades de imaginar y de actuar se separan cuando la institución premia resolver antes de discutir el objetivo. Cambiar la interfaz no modifica necesariamente ese incentivo.
La invitación de Vallor resulta fértil como punto de entrada a esas preguntas. La decisión concreta empieza donde termina la lista de sugerencias: qué necesidad merece atención, qué alternativa puede ponerse a prueba y quién responde si sus costos recaen sobre otros. Un municipio puede servirse de la memoria acumulada sin encargarle que decida qué futuro tienen derecho a pedir sus habitantes.