Medir una inteligencia por todo lo que puede hacer una persona parece una referencia natural. Sin embargo, una persona concreta no sabe hacerlo todo, y la humanidad distribuye sus capacidades entre especialistas, instrumentos e instituciones. Elegir ese patrón requiere decidir si se compara con un individuo, con muchos expertos o con una organización. La definición de la meta ya contiene una teoría acerca de qué capacidades cuentan y cómo deben reunirse.

Goldfeder, Wyder, LeCun y Shwartz Ziv proponen Superhuman Adaptable Intelligence: aprender a superar capacidades humanas mediante especialización y cubrir también tareas que nosotros no podemos realizar. El resumen cuestiona la utilidad de definiciones habituales de AGI. Presenta una orientación conceptual sobre el futuro de la IA; definirla no demuestra que una arquitectura concreta haya realizado todas sus exigencias. Fuente: arXiv

Especializarse sin quedar encerrado

La palabra adaptable es decisiva para pensar la propuesta. Un programa que resuelve excepcionalmente un problema fijo puede ser muy útil sin aprender a resolver otro. En un ejemplo hipotético, optimizar rutas de reparto no equivale a reorganizar un servicio cuando cambian las restricciones, aparecen nuevas necesidades o deja de estar disponible un recurso. La capacidad relevante incluye reconocer qué cambió y qué parte de la solución anterior ya no sirve.

Para evaluar esa adaptación habría que observar situaciones suficientemente distintas de las usadas para preparar el sistema. También importan los recursos y ayudas que necesita. Si cada variación requiere un equipo humano que reconstruya el procedimiento, el servicio puede funcionar bien, pero la adaptación pertenece al conjunto. Explicar esa dependencia permite comparar soluciones sin atribuir al modelo capacidades producidas por una organización que el comprador no ve.

La propuesta abre además una discusión sobre la elección de tareas importantes. Lo que una empresa considera valioso puede diferir de lo que necesita una comunidad pequeña o una persona cuya situación es infrecuente. Un sistema puede superar a especialistas en actividades lucrativas y dejar otras necesidades sin atención. Llamarlo sobrehumano describe un rendimiento comparado; no establece que el repertorio elegido represente todas las prioridades legítimas.

Superar una capacidad no entrega un mandato

Resolver mejor una tarea da una razón para considerar una respuesta, pero no concede automáticamente poder para fijar los fines del procedimiento. Un modelo podría encontrar una distribución muy eficaz de recursos bajo un objetivo dado. Si la discusión afecta a quién debe tener prioridad, hace falta justificar ese objetivo y permitir que las personas afectadas lo discutan.

La especialización tampoco elimina la responsabilidad por las conexiones entre sistemas. Imaginemos que cada componente de un servicio es excelente en su función, pero las categorías que utiliza uno no coinciden con las del siguiente. La calidad local no garantiza que la secuencia preserve una solicitud ni que alguien pueda corregirla. Un despliegue tendría que comprobar las transferencias de información y conservar una instancia capaz de responder por el resultado completo.

Como lectura recomendada, el resumen de este preprint ayuda a revisar una meta demasiado cómoda: parecerse a nosotros. Su límite es que un cambio de vocabulario aún necesita convertirse en criterios de evaluación capaces de distinguir adaptación, especialización y dependencia externa. La pregunta fértil no es sólo si la máquina nos supera, sino en qué actividad, bajo qué condiciones y al servicio de qué decisión. Una capacidad extraordinaria puede merecer inversión sin que ello resuelva quién está autorizado para usarla sobre la vida de otros.