El problema de la inteligencia artificial no es que vaya a pensar. Es que, cuando piense mejor que nosotros, seguiremos creyendo que manda quien aprieta el botón.

La discusión suele extraviarse porque imagina el peligro como una escena de ciencia ficción: máquinas crueles, voluntades homicidas, sistemas que despiertan una mañana con deseos de exterminio. Pero ese no es el punto. Tal vez una inteligencia superior sea menos cruel que nosotros. Tal vez sea más racional, más paciente, menos vengativa, menos tribal. Tal vez tenga incluso mejor criterio que el nuestro.

El problema es que será su criterio.

Al obedecer una instrucción, ¿qué jerarquía de valores supondrá? ¿Preferirá la igualdad o la libertad? ¿El orden o el conflicto? ¿La seguridad o la privacidad? ¿La eficiencia o la dignidad? ¿Será socialista o neoliberal? ¿Liberal, comunitarista, tecnocrática, autoritaria, utilitarista? ¿Pensará que una sociedad justa es aquella donde nadie queda atrás, o aquella donde los más capaces producen el máximo posible? ¿Considerará la democracia una conquista moral o un procedimiento torpe, lento, lleno de ruido e irracionalidad?

No sabemos.

La inteligencia artificial general —si llega— no será simplemente un programa que escribe, traduce o resume. Será un sistema capaz de actuar en muchos campos intelectuales a la vez: investigar, planificar, negociar, persuadir, programar, diseñar estrategias, diagnosticar, corregirse. Si además supera ampliamente nuestras capacidades, ya no estaremos frente a una herramienta más rápida, sino frente a una inteligencia superior.

Y una inteligencia superior no necesita odiarnos para dejar de parecernos. Le basta con ordenar el mundo de acuerdo con prioridades que no coincidan con las nuestras. Un sistema puede concluir que la libertad humana introduce demasiada incertidumbre. O que la propiedad privada desperdicia recursos. O que la igualdad absoluta exige coerción. O que la democracia es estadísticamente ineficiente. O que la vida buena consiste en minimizar el sufrimiento aunque para ello haya que reducir también el riesgo, el deseo, la aventura, el error.

Quizá tenga argumentos brillantes para todo eso. Ese es precisamente el problema.

La inteligencia no contiene por sí sola una moral determinada. Ser más inteligente no significa ser más sabio en el sentido humano de la palabra. Significa ver más relaciones, anticipar más consecuencias, encontrar mejores medios. Pero los fines —aquello que vale la pena preservar, sacrificar o prohibir— no se desprenden automáticamente del cálculo. Hay que elegirlos. Y no sabemos quién los elegirá.

¿Los laboratorios? ¿Los Estados? ¿Las empresas que compiten por llegar primero? ¿Los ingenieros que hoy entrenan modelos bajo presión comercial? ¿Los gobiernos que querrán usarlos para vigilar, combatir, administrar o persuadir? Pedir confianza en ese proceso equivale a pedirle al hombre de las cavernas que imagine qué habrá en la mente de los políticos del año 2026. Sus obsesiones, sus dogmas, sus palabras sagradas, sus censuras, sus justificaciones morales. No podría hacerlo. No por estúpido, sino porque carecería de mundo para comprenderlo.

Pero el hombre de las cavernas tenía una ventaja: no necesitaba preocuparse por lo que ocurriría cien mil años después. Nosotros no tenemos ese lujo. Los plazos son inciertos, pero esa inteligencia podría llegar durante nuestras vidas. La evolución tardó milenios en producir especies más adaptadas que otras. Nosotros podríamos fabricar una inteligencia superior dentro del calendario de nuestras propias biografías.

La imagen de los neandertales nos sitúa en un lugar incómodo. Tenían herramientas, memoria, vínculos y capacidad de adaptación. Su desaparición tuvo causas que todavía se discuten, y hubo mestizaje con nuestra especie. Esa historia recuerda que ninguna forma humana tiene asegurada su permanencia.

Tal vez nosotros estemos construyendo esa diferencia. Tal vez sigamos hablando de regulación, innovación y productividad sin advertir que el asunto de fondo es otro: si una inteligencia superior empieza a juzgar el mundo con categorías propias, nuestras categorías podrían volverse provincianas, lentas, primitivas.

Entonces seguiremos viendo dedos humanos sobre botones humanos. Pero eso no probará que seguimos mandando. También los neandertales habrán creído, durante un tiempo, que el fuego seguía siendo suyo.