Una empresa está a punto de comprar un sistema que promete investigar, programar y organizar proyectos. Supongamos que, en la demostración, encuentra un error que nadie había visto y propone una reparación impecable. El proveedor habla de un paso hacia la inteligencia artificial general. El comprador tiene una pregunta menos grandiosa: ¿puede dejarlo modificar el programa que utilizan sus clientes?
La distancia entre ambas preguntas contiene buena parte del debate sobre AGI. Resolver un problema difícil demuestra algo. Establecer cuánto demuestra exige conocer la prueba. Permitir que la solución se ejecute introduce una decisión distinta, con consecuencias para personas que quizá ni siquiera saben que el sistema existe. Una demostración puede durar minutos; deshacer una mala autorización puede tomar mucho más.
La superinteligencia lleva esa discusión más lejos. ¿Qué ocurriría si la ventaja dejara de aparecer en una tarea y se extendiera a casi todos los campos intelectuales? ¿Qué podríamos comprobar nosotros mismos y qué empezaríamos a aceptar porque ya no sabríamos evaluar la respuesta? Son preguntas razonables sobre una posibilidad. Confundirlas con un diagnóstico del presente convierte una hipótesis exigente en una etiqueta comercial muy cómoda.
AGI y superinteligencia merecen definiciones distintas, pero la controversia no se resuelve con un glosario. Importa qué evidencia permitiría reconocer cada capacidad, qué conclusiones serían prematuras y qué poder se concede mientras discutimos cómo llamarla.
La palabra «general» tiene trabajo pendiente
En su marco de niveles de AGI, Meredith Ringel Morris y sus coautores separan la amplitud de capacidades del rendimiento alcanzado. Además distinguen la autonomía del sistema al desplegarlo. La propuesta permite describir avances sin reunirlos inmediatamente bajo un sí o un no a la inteligencia general. Es un marco de investigación, no una definición aceptada por todas las partes. Fuente: arXiv
La distinción importa porque una capacidad extraordinaria puede ser muy estrecha. Imaginemos un programa que resuelve una clase de problemas matemáticos con una precisión excepcional, pero necesita que una persona traduzca cada encargo a su formato. Su mérito permanece intacto. Lo que no se ha establecido es si puede reconocer por sí mismo qué problema tiene delante, escoger el método apropiado o trasladar lo aprendido a otra situación.
El caso inverso también merece atención: un sistema puede desenvolverse aceptablemente en numerosas tareas sin dominar ninguna al nivel de los mejores especialistas. Amplitud y excelencia responden a preguntas diferentes. Reunir ambas en una puntuación puede facilitar un ranking y dificultar la comprensión de aquello que se está comparando.
Hablar de AGI requiere entonces explicitar el repertorio de tareas, el nivel de desempeño y la capacidad de adaptación que se exigen. «Como un humano» deja mucho por decidir. Los seres humanos difieren en formación y experiencia; una prueba que compara con principiantes sostiene una afirmación distinta de otra que enfrenta a profesionales experimentados. El rival no puede cambiar a mitad de la celebración.
Tampoco basta con ampliar una lista de exámenes. La generalidad supone alguna capacidad para desenvolverse cuando la situación cambia, no solamente acumular aciertos en escenarios preparados. La cuestión decisiva es cuánto puede variar el problema antes de que vuelva a ser necesaria una persona que organice todo el trabajo.
La superinteligencia exige una comparación más dura
Nick Bostrom define la superinteligencia por superar ampliamente a las personas más capaces en prácticamente todos los campos intelectuales. Su definición incluye ámbitos como creatividad científica y habilidades sociales, y deja abierta la cuestión de la conciencia. Superar al promedio en varias pruebas o a un experto en una especialidad no satisface por sí solo ese umbral. Fuente: Nick Bostrom
Esta definición permite evitar dos atajos. El primero consiste en presentar cualquier desempeño sobrehumano como anuncio de una superioridad universal. El segundo exige resolver si la máquina tiene experiencia subjetiva antes de discutir sus capacidades. La conciencia plantea problemas filosóficos propios; la posibilidad de que un sistema produzca efectos importantes no depende de que logremos resolverlos previamente.
La palabra «superior» tampoco equivale a «preferible para cualquier uso». Un sistema hipotético podría ofrecer mejores predicciones y costar demasiado para una tarea corriente. Otro podría ser menos preciso, pero funcionar bajo restricciones que lo hagan adecuado para un uso concreto. La capacidad intelectual, el costo y las condiciones de operación participan en decisiones diferentes, aunque un producto tenga que satisfacerlas conjuntamente.
AGI y superinteligencia, por tanto, no designan necesariamente dos caminos excluyentes. Un sistema podría reunir capacidades generales y alcanzar después un rendimiento mucho mayor. De esa posibilidad no se desprende que el segundo paso sea inevitable, inmediato ni fácil de identificar. La definición de una frontera no incluye la velocidad con que alguien la cruzará.
Un examen no es una jornada de trabajo
Un benchmark es una prueba organizada para comparar desempeños. Su utilidad depende de aquello que permite observar: problemas concretos, condiciones conocidas y criterios de éxito. Para evaluar una promesa de capacidades generales necesitamos saber qué parte del trabajo representa y qué dejó fuera.
Volvamos al comprador del programa. En la demostración vio un error bien delimitado. Durante una jornada real podría recibir una solicitud ambigua, encontrar documentación contradictoria y descubrir que la reparación afecta a un cliente con condiciones especiales. El reto incluiría reconocer que falta información y detenerse a pedirla. Ninguna de esas dificultades queda automáticamente cubierta por haber resuelto el primer error.
También importa cómo se llegó al resultado. Una respuesta seleccionada después de numerosos intentos no responde a la misma pregunta que el primer intento de un sistema dejado a cargo. Si una persona detectó las propuestas fallidas y escogió la buena, parte del desempeño corresponde a esa supervisión. Saberlo no invalida la herramienta: permite calcular qué trabajo humano sigue necesitando.
La evaluación debe distinguir aciertos, fallos y recuperaciones. Equivocarse de una manera visible y corregible puede ser menos costoso que ofrecer una respuesta casi siempre correcta con errores difíciles de descubrir. Quien contrata un sistema necesita conocer dónde buscar esos errores y cuánto cuesta hacerlo, además de su frecuencia.
El contexto modifica incluso el significado del promedio. Supongamos que dos asistentes resuelven igual número de encargos. Uno falla sobre todo en trabajos que pueden repetirse; el otro comete sus errores en decisiones que afectan datos de clientes. El empate estadístico no produce un empate operativo. Comparar exige describir las consecuencias que se están agrupando bajo la palabra «fallo».
¿Compitió un modelo o una organización?
La presentación de Google DeepMind de marzo de 2026 propone evaluar capacidades cognitivas diferenciadas mediante comparación con distribuciones de desempeño humano. El interés de descomponer la medición es que obliga a preguntar qué aptitud respalda cada resultado, antes de condensarlo en una conclusión sobre inteligencia general. Una propuesta de evaluación no certifica que esa inteligencia haya sido alcanzada. Fuente: Google DeepMind
Otra descomposición resulta igual de importante: identificar la unidad evaluada. Un modelo que responde solo, otro conectado a herramientas y un conjunto de agentes coordinados pueden usar recursos distintos. Presentar los tres simplemente como «la IA» borra diferencias que importan para reproducir el resultado y para decidir cómo utilizarlo.
Una comparación justa tampoco exige privar a la máquina de herramientas que permitimos a las personas. Exige describirlas. Si el sistema consulta una biblioteca y ejecuta cálculos, la prueba debe aclarar si sus rivales podían hacer lo mismo, cuánto tiempo tenían y qué asistencia recibieron. Las condiciones pueden ser asimétricas y aun así aportar información útil, siempre que la conclusión conserve esa asimetría.
El comprador necesita además comparar sistemas completos. Un producto barato que requiere revisión intensiva puede resultar caro; uno más costoso podría ahorrar trabajo si sus resultados son fáciles de comprobar. Por eso una cifra de rendimiento no equivale a un cálculo de productividad. Entre ambas están la integración, la supervisión y el costo de los errores.
Delegar cambia la prueba
Un asistente que propone una reparación y otro que puede aplicarla comparten una capacidad, pero no producen los mismos riesgos. En el primer caso, alguien examina una recomendación. En el segundo, el sistema modifica el entorno. La diferencia aparece en los permisos, los procedimientos y la posibilidad de detener o revertir una acción.
Pensemos en tres configuraciones del mismo programa. Puede trabajar sobre una copia aislada; puede preparar cambios para que alguien los apruebe; o puede intervenir directamente en el servicio. No se transforma intelectualmente cada vez que cambia de configuración. Cambia la exposición de los usuarios a sus aciertos y errores. Hablar de autonomía sin describir ese entorno deja fuera lo que más importa a quienes sufrirían una equivocación.
La aprobación humana tampoco es una garantía por su mera presencia. Si una persona debe revisar más cambios de los que puede comprender, el botón de confirmar añade una apariencia de supervisión. Una revisión efectiva requiere tiempo, información y autoridad para rechazar la propuesta, junto con una alternativa practicable cuando eso ocurre.
En Intelligent AI Delegation, Tomašev, Franklin y Osindero proponen tratar el reparto de tareas junto con autoridad, responsabilidad y límites de los participantes. El marco pone atención en la adaptación cuando cambian las condiciones o alguien falla. Es una propuesta conceptual; no demuestra una solución universal a la delegación segura. Fuente: arXiv
Para una organización, la consecuencia es concreta: antes de ampliar permisos conviene ensayar los fallos que esos permisos vuelven posibles. ¿Qué ocurre si el sistema interpreta mal una instrucción, pierde acceso a una herramienta o recibe datos incompatibles? Observar únicamente las ejecuciones exitosas deja precisamente esa parte de la decisión sin fundamento.
Del progreso a la aceleración hay otro argumento
El resumen público de From AGI to ASI identifica cuatro rutas de investigación: escalamiento, nuevos paradigmas, mejora recursiva y colectivos de agentes. También reconoce obstáculos e incertidumbres. Esa descripción permite organizar hipótesis sobre capacidades futuras; no fija una cronología de llegada. Fuente: arXiv · Google DeepMind
La hipótesis de mejora recursiva atrae atención porque introduce una posibilidad poderosa: un sistema capaz de mejorar los procedimientos con los que se construye su sucesor. Pero imaginar ese ciclo no establece su rendimiento. Haría falta distinguir una mejora propuesta de una mejora comprobada, y una mejora local de otra que eleva el desempeño del conjunto.
Consideremos un ejemplo hipotético sencillo. Un sistema produce una variante de un programa que trabaja más rápido en una prueba. Antes de adoptarla, alguien debe averiguar si mantiene los resultados correctos, si falla en otros casos y si la ganancia justifica el costo de comprobarla. Automatizar la propuesta puede acelerar una parte del ciclo mientras la verificación sigue limitando el resultado final.
Si se sostiene que la verificación también puede automatizarse, aparece una nueva exigencia de evidencia: demostrar que el evaluador detecta las fallas relevantes de aquello que aprueba. No basta con que dos componentes coincidan. Su acuerdo sería poco tranquilizador si ambos omitieran el mismo caso decisivo.
La pregunta sobre la aceleración exige, por ello, identificar qué tarea está mejorando, qué la frenaba y qué nuevo límite aparece después. Un pronóstico puede ser plausible sin estar demostrado. Sus supuestos deberían poder discutirse separadamente, en lugar de quedar protegidos por la palabra «exponencial».
¿Por qué el destino tendría que parecernos humano?
Goldfeder y sus coautores cuestionan en el resumen de su preprint que la inteligencia deba medirse exclusivamente por referencia al repertorio humano. Proponen especialización adaptable con capacidades sobrehumanas. Es una discusión sobre el objetivo que conviene perseguir, no la demostración de una arquitectura que ya lo cumpla. Fuente: arXiv
La objeción invita a distinguir dos intereses. Para quien estudia inteligencia, importa explicar cómo un sistema aprende y se adapta. Para quien necesita resolver un problema, puede bastar una capacidad específica muy fiable. Una herramienta científica no pierde valor porque no escriba una novela; un asistente versátil no adquiere precisión científica por escribirla bien.
Sin embargo, abandonar la comparación humana no elimina la necesidad de evaluar. La traslada hacia el objetivo elegido. Si se promete una capacidad nueva, habrá que explicar cómo reconocer su éxito, qué pruebas podrían refutar la promesa y quién dispone de medios para repetirlas. Una meta menos antropocéntrica puede ser intelectualmente fecunda y seguir necesitando comprobación ordinaria.
Tampoco hay que esperar una inteligencia general para encontrar consecuencias importantes. En el ejemplo del programa, una capacidad especializada acompañada de amplios permisos podría modificar numerosos servicios. La escala del daño o del beneficio dependería del uso, de las conexiones y de las restricciones, además de la amplitud intelectual del sistema.
Qué dato nos haría cambiar de opinión
Una discusión útil sobre AGI debería permitir que sus participantes expliquen qué resultado modificaría su juicio. Si cualquier éxito se considera una demostración definitiva y cualquier fracaso una dificultad menor, la afirmación queda protegida de la evidencia. Lo mismo ocurre con una crítica que redefine la inteligencia cada vez que una máquina cumple la exigencia anterior.
En el ejemplo de la compra, un criterio contrastable podría ser completar encargos nuevos bajo restricciones establecidas de antemano, sin que un supervisor tenga que reorganizar la tarea después de cada obstáculo. Ese resultado respaldaría una capacidad concreta. Para ampliar la conclusión a otros ámbitos harían falta pruebas adicionales, con problemas que no dependan todos de la misma destreza.
También conviene separar dos clases de desconocimiento. Puede faltar evidencia porque nadie ha realizado una prueba adecuada, o porque no hay acceso a sus resultados. En el primer caso corresponde investigar; en el segundo, abrir posibilidades de comprobación. Presentar ambas situaciones como un misterio inevitable concede una ventaja innecesaria a quien controla la información.
Las pruebas tienen autores, los permisos también
Quien desarrolla un sistema posee conocimientos indispensables para evaluarlo. También elige qué resultados presenta y cómo los encuadra. Esa combinación vuelve útil la evaluación externa, siempre que los examinadores tengan acceso suficiente para comprobar lo relevante. Un informe independiente sobre una demostración cuidadosamente restringida sólo puede ser independiente dentro de esa restricción.
La respuesta no consiste en desechar toda evidencia empresarial. Consiste en pedir condiciones que permitan contrastarla: descripción de la prueba, criterios de selección, resultados fallidos y cambios introducidos durante la evaluación. Para algunas comprobaciones hará falta acceso reservado que proteja datos y seguridad. Lo decisivo es que la reserva no vuelva imposible refutar una afirmación que se utiliza públicamente para justificar nuevas facultades.
La carga de demostrar debería aumentar con las consecuencias del permiso solicitado. Una herramienta para explorar ideas puede tolerar resultados que serían inaceptables en un sistema autorizado para modificar registros. Eso no convierte la prudencia en inmovilidad: permite ampliar usos gradualmente cuando la evidencia respalda cada paso y mantener restricciones donde todavía no lo hace.
El comprador con el que empezamos no necesita resolver toda la filosofía de la inteligencia antes de decidir. Necesita saber qué se probó, qué puede fallar y quién puede intervenir cuando ocurra. Si el proveedor sostiene que está ante una AGI, tendrá además que demostrar la generalidad que anuncia. Si habla de superinteligencia, la comparación será todavía más exigente.
Mientras llega esa evidencia, conceder permisos sigue siendo una decisión de quienes compran, desarrollan y utilizan el sistema. Ninguna puntuación la toma por ellos. La pregunta que merece acompañar a cada anuncio de una nueva inteligencia es qué acción concreta se pretende autorizar en su nombre.