Una empresa puede pedir reglas más estrictas para la inteligencia artificial y recibir exactamente lo que desea. También pueden recibirlo sus clientes. La dificultad empieza cuando ambos beneficios dejan de coincidir: una certificación que reduce daños puede resultar tan costosa que solo los proveedores instalados consigan pagarla. El consumidor gana una garantía y pierde alternativas. Averiguar si el intercambio merece la pena exige algo más que contar páginas de regulación o escuchar quién aplaude al terminar una audiencia.

Imaginemos dos empresas que ofrecen un sistema para clasificar solicitudes. La primera distribuye el costo de evaluarlo entre millones de operaciones; la segunda acaba de conseguir sus primeros clientes. Una prueba externa de calidad puede ser necesaria para ambas. Sin embargo, cobrarles lo mismo por una evaluación diseñada alrededor de la arquitectura de la primera cambia sus posibilidades de competir. El estándar aparentemente neutral ya ha elegido parte del paisaje comercial. La seguridad no tiene por qué ser un disfraz, pero tampoco vuelve inocente cualquier medio empleado en su nombre.

El debate público suele presentar dos cajas: regular y dejar innovar. Dentro de la primera aparecen derechos, formularios y sanciones; dentro de la segunda, inventores pacientes a quienes alguien impide trabajar. La descripción omite que las reglas determinan quién puede vender, qué información debe revelar y cuánto cuesta abandonar un proveedor. Omite también que un mercado sin determinadas garantías puede expulsar a quienes invierten en calidad que el comprador no sabe reconocer. Hay varias maneras de estropear la competencia, incluidas algunas que no requieren redactar una ley.

Rodrigo Castillo sostiene en su trabajo sobre los fundamentos de la regulación que identificar una falla no basta para elegir el instrumento adecuado: hace falta explicar cómo actúa y comparar instituciones que realmente puedan funcionar. En la IA, esa comparación obliga a observar quién conserva la ventaja técnica, quién dispone de información y quién soporta las cargas. Los derechos aportan razones propias de protección; no se convierten por eso en otra partida negociable de la planilla.

El riesgo necesita un apellido

Regular según riesgos permite concentrar recursos donde una falla importa más. Una recomendación musical equivocada y una clasificación que impide acceder a un servicio esencial no justifican necesariamente las mismas exigencias. La diferencia comprende gravedad, duración, posibilidad de corregir y personas expuestas. También importa la función concreta del sistema: el mismo modelo puede resumir un documento para un profesional o alimentar directamente una decisión sobre alguien que ni siquiera sabe que fue evaluado.

La palabra «riesgo», por sí sola, no determina cuál de esas consecuencias es aceptable. Para calcular una pérdida esperada hace falta definir qué cuenta como pérdida y para quién. Si una regla reduce el gasto de una institución trasladando horas de reclamación a ciudadanos, la contabilidad del organismo mejorará sin que desaparezca el costo. Si esos ciudadanos carecen de tiempo o dinero para reclamar, el perjuicio registrado puede incluso disminuir. La ausencia de expedientes no demuestra la ausencia de problemas; a veces describe el precio de hacerlos visibles.

En un ejemplo hipotético, un sistema rechaza por error una pequeña proporción de solicitudes. El porcentaje podría parecer tolerable a quien administra miles de casos. Para quienes quedan fuera de una prestación indispensable, la comparación pertinente incluye la duración de la exclusión y la disponibilidad de otra vía. La autoridad debe explicar qué protección debe proporcionar a cada persona antes de decidir cuánto esfuerzo merece detectar el error. Una media ayuda a organizar la vigilancia; no concede permiso para ignorar a quienes la componen.

Una ley también tiene calendario

La regulación europea muestra por qué importa separar la arquitectura de una norma de sus obligaciones ya aplicables. Según el calendario oficial de la Comisión, el AI Omnibus entró en vigor el 27 de julio de 2026 y desplazó las reglas para determinados usos de alto riesgo al 2 de diciembre de 2027; las relativas a sistemas integrados en productos regulados, al 2 de agosto de 2028. Otras obligaciones siguieron su propio calendario. Fuente: European Commission

Esos plazos afectan decisiones económicas antes de vencer. Un proveedor necesita saber cuándo probar su producto y qué prueba se aceptará. Un comprador necesita distinguir una obligación futura de una garantía disponible. Anunciar controles exigentes sin preparar a quienes los ejecutarán puede producir una extraña combinación: incertidumbre durante la inversión y verificación débil cuando llega la fecha. La demora puede facilitar la adaptación; también puede prolongar la exposición al problema que justificó la regla. Su valor depende de lo que ocurra durante ella.

La estabilidad que necesitan los participantes tampoco equivale a congelar las exigencias para siempre. Si aparece una forma nueva de daño, mantener una regla inadecuada por respeto al calendario puede resultar costoso. La previsibilidad razonable consiste en conocer cómo se revisan las obligaciones, qué evidencia provoca el cambio y qué transición corresponde. Permite invertir en cumplir sin prometer a nadie que sus costos actuales le darán un derecho permanente a conservar el mercado.

El comprador no siempre compra calidad

La competencia disciplina con mayor facilidad aquello que el cliente puede observar. Si dos herramientas hacen lo mismo y una cuesta menos, comparar parece sencillo. Pero una aplicación puede ahorrar en pruebas, conservación de antecedentes o protección de personas afectadas sin empeorar su demostración comercial. El comprador ve la velocidad; los problemas aparecen meses después, en otra oficina o en la vida de alguien que no participó en el contrato.

Consideremos una clínica que compara sistemas capaces de ordenar citas. El precio por operación es visible. Resulta más difícil saber si el producto falla al interpretar una situación poco frecuente, si permitirá investigar esa falla o si la actualización siguiente alterará sus resultados. Una empresa que invierte en detectar esos problemas necesita convencer al comprador de que esa calidad existe. Si no puede acreditarla, su rival puede parecer igualmente bueno por menos dinero. La reducción de costos termina seleccionando un producto inferior precisamente en el atributo que nadie sabe medir.

Una evaluación independiente puede ayudar a romper esa relación. Hace visible una cualidad antes oculta y permite pagar por ella. Su utilidad depende de que examine algo relacionado con el uso real, distinga niveles de desempeño y pueda ser discutida. Un sello que certifica únicamente la existencia de documentos quizá facilite comparar expedientes, pero no distingue qué servicio responderá mejor cuando cambien las condiciones. La facilidad para comprobar un requisito no demuestra su importancia para el usuario.

Los costos que no aparecen en la oferta

Las externalidades surgen cuando una decisión impone consecuencias a terceros que no quedan reflejadas en el acuerdo entre comprador y vendedor. En la IA, el afectado por una clasificación puede no ser cliente de ninguno. Un empleador adquiere una herramienta; el postulante soporta una exclusión equivocada. Una administración compra una solución; la persona evaluada carga con el tiempo necesario para corregir datos. El precio que ambos contratantes aceptan puede omitir parte del costo que su transacción produce.

El problema no se resuelve exhortando a todos a ser más prudentes. Hay que cambiar lo que los participantes pueden ganar, perder o conocer. Exigir pruebas antes de un uso delicado, obligar a comunicar incidentes o facilitar una reclamación actúa sobre mecanismos distintos. La primera medida intenta prevenir; la segunda permite descubrir patrones; la tercera puede hacer que una pérdida deje de recaer exclusivamente sobre quien la padece. Su combinación debe responder al perjuicio identificable, no al deseo de exhibir una caja llena de instrumentos.

También hay beneficios que una empresa no puede cobrar íntegramente. Una prueba compartida que identifica una debilidad puede mejorar productos rivales. Una infraestructura de evaluación abierta puede favorecer a desarrolladores que nunca financiaron su construcción. Si el rendimiento privado de crear ese conocimiento resulta menor que su valor social, esperar a que cada proveedor lo pague por separado puede dejar una inversión insuficiente. La intervención pública tiene allí otra función posible: producir evidencia útil para competir en calidad, en lugar de escoger de antemano al competidor ganador.

El formulario y la fábrica de formularios

Los costos fijos merecen atención porque no crecen al mismo ritmo que las ventas. Preparar un expediente, contratar una revisión jurídica o configurar una prueba puede exigir un desembolso importante antes del primer ingreso. Una empresa grande lo reparte entre numerosos clientes. Una pequeña debe recuperarlo con pocos contratos. El efecto sobre la entrada depende tanto del monto como de la posibilidad de reutilizar evidencia, compartir instalaciones o acreditar la misma protección mediante un procedimiento menos oneroso.

De allí no se sigue que las empresas pequeñas deban poder causar los daños que se prohíben a las grandes. Una persona afectada no pierde sus derechos porque el proveedor atraviese una etapa emprendedora. La proporcionalidad exige distinguir el nivel de protección de la manera de demostrarlo. Un formato común, asistencia técnica o una evaluación compartida pueden reducir costos sin rebajar la garantía. Una exención que elimina precisamente la prueba necesaria hace otra cosa: traslada al público una parte del financiamiento de la empresa.

El diseño también puede favorecer a consultores, certificadores y vendedores de herramientas de cumplimiento. Su trabajo puede aportar conocimiento indispensable. Pero una obligación cuya complejidad impide entender qué resultado se exige crea demanda de intermediación incluso cuando añade poca protección. Antes de celebrar el nacimiento de una nueva industria de cumplimiento conviene preguntar si está resolviendo una dificultad técnica o cobrando entrada para atravesar un laberinto normativo. La cantidad de empleos que produce el laberinto no demuestra su utilidad.

Captura sin caricaturas

La captura regulatoria describe una desviación de la decisión pública hacia los intereses de quienes deberían quedar sometidos a ella. Puede operar mediante información seleccionada, acceso desigual a la autoridad o dependencia de conocimientos que solo un grupo consigue proporcionar. No hace falta imaginar una maleta de dinero para investigar esos mecanismos. Tampoco basta encontrar una empresa beneficiada para declarar probado el caso: una regla sensata puede beneficiar a quien ya cumple sus exigencias.

La señal relevante aparece cuando una alternativa capaz de proteger igual queda descartada sin una razón suficiente, mientras la elegida coincide con las capacidades exclusivas de los incumbentes. Habría que examinar quién definió la prueba, qué evidencia se aceptó y qué participantes pudieron impugnarla. También debe observarse el resultado: cuántas soluciones técnicamente distintas pueden demostrar que cumplen. Una consulta pública extensa puede recibir muchas páginas y pocas objeciones capaces de cambiar la decisión si participar exige recursos que solo una parte posee.

Por eso la independencia no se agota en declarar que una agencia es autónoma. Necesita conocimientos propios, acceso a pruebas y procedimientos que obliguen a explicar sus elecciones. Financiar la participación de especialistas sin relación comercial con los regulados puede ampliar la información disponible. Publicar argumentos y respuestas permite identificar qué se consideró. La rotación de personas, por sí sola, aporta poco si todas dependen de los mismos documentos y ninguna puede comprobarlos.

Cuando el proveedor sabe más

Una empresa conoce aspectos de su producto que la autoridad no observa directamente. Puede reconocer una limitación y temer que comunicarla provoque sanciones, pérdida de clientes o una investigación desproporcionada. Puede afirmar que una obligación es extremadamente costosa porque así obtiene una excepción. El regulador debe reunir información sin suponer que las declaraciones describen desinteresadamente el mundo. La asimetría informativa que examina Castillo tiene esa consecuencia: una regla cambia también las razones para revelar u ocultar.

Un sistema de reporte puede proteger la comunicación temprana de problemas y mantener consecuencias por encubrirlos o incumplir deberes. Para funcionar, debe distinguir el descubrimiento honesto de una falla de la conducta que la produjo o permitió persistir. Castigar cada revelación como si fuera una confesión de negligencia puede reducir la evidencia disponible. Perdonar cualquier conducta cuando alguien entrega un informe, en cambio, puede volver conveniente arriesgar primero y explicar después. La precisión del diseño importa más que la severidad de su anuncio.

Algo parecido ocurre con las métricas que condicionan pagos. Si un comprador remunera solo el número de expedientes resueltos, incentiva velocidad. Si agrega una tasa de errores, debe explicar cómo los detectará; contar únicamente las reclamaciones aceptadas premia a quien dificulta reclamar. Si exige revisión exhaustiva de todos los casos, puede destruir la ventaja de automatizar. Elegir métricas requiere observar qué decisiones inducen y qué trabajo dejan sin recompensa, incluidos los casos que desaparecen antes de llegar a la estadística.

Competir también exige poder salir

En julio de 2024, la Comisión Europea y las autoridades de competencia del Reino Unido y Estados Unidos identificaron conjuntamente riesgos para la competencia en IA generativa: restricciones a insumos esenciales, uso del poder existente para extender posiciones y acuerdos que pueden alterar la rivalidad. Era una declaración de preocupaciones y principios de supervisión, no una condena conjunta de todas las asociaciones entre empresas. Fuente: European Commission · CMA · DOJ · FTC

La cuestión comercial no termina con permitir que otro proveedor exista. Para cambiarse, un cliente necesita trasladar datos, reconstruir integraciones y comprobar que la alternativa conserva prestaciones importantes. Esos costos pueden hacer que una oferta inicialmente barata termine siendo difícil de abandonar. Una obligación de seguridad mal diseñada puede agravarlo: si la evidencia de cumplimiento pertenece al proveedor y no acompaña al proceso que utiliza el cliente, migrar obliga a comprar nuevamente toda la comprobación.

La portabilidad útil comprende más que exportar archivos. Requiere identificar qué información permite reconstruir el servicio, qué dependencias no podrán trasladarse y cuánto costará operar durante la transición. En ciertos usos será razonable exigir formatos documentados o derechos contractuales de acceso. La exigencia debe ser técnicamente concreta: prometer interoperabilidad entre cualquier sistema y cualquier otro podría generar un costo enorme sin ofrecer una alternativa efectiva. La pregunta comercial es qué necesita un comprador real para elegir nuevamente.

Innovación bajo condiciones comprobables

Los espacios de prueba supervisada pueden permitir aprender antes de autorizar una expansión. Su valor consiste en limitar exposición, identificar a los afectados y reunir evidencia sobre un uso concreto. Un entorno de prueba debería tener condiciones de entrada, criterios para detenerse y una decisión reconocible al terminar. Si el participante recibe una excepción indefinida y el público soporta consecuencias ordinarias, el nombre experimental no reduce el riesgo: solo mejora el relato de quien lo asume en nombre ajeno.

Conviene distinguir ese instrumento de un marco voluntario de gestión. El AI Risk Management Framework 1.0 del NIST, publicado en 2023, se presenta como una guía voluntaria para organizaciones y usos diversos. Puede ordenar el trabajo sobre riesgos; su adopción no equivale, por sí misma, a una autorización legal ni demuestra que una aplicación concreta sea segura. Fuente: NIST

La innovación que interesa proteger incluye mejores modos de probar, revisar y documentar. Una regla que impone una única solución técnica puede congelar ventajas conocidas e impedir alternativas superiores. Otra que exige un resultado sin establecer cómo comprobarlo puede dejar toda la discusión para después del daño. Un estándar funcional necesita pruebas aceptables, vías para presentar métodos nuevos y autoridad capaz de compararlos. De otro modo, «neutralidad tecnológica» se convierte en una elegante manera de no decidir quién evalúa.

La autoridad también necesita presupuesto

Un régimen puede exigir miles de informes y no contar con personas capaces de distinguir lo importante. La producción de documentos crece, la probabilidad de descubrir un problema permanece baja y las empresas aprenden que presentar a tiempo vale más que explicar bien. El costo público de supervisar debe formar parte de la decisión inicial. La ley que distribuye obligaciones sin financiar su evaluación ofrece protección sobre el papel y compra desconfianza cuando esa protección se pone a prueba.

Priorizar inspecciones ayuda, siempre que la selección pueda corregirse con nueva información. Si la autoridad concentra todos sus recursos en quienes reportan incidentes, puede terminar vigilando a los más transparentes y dejando tranquilos a quienes callan. Necesita fuentes alternativas: controles por muestra, denuncias accesibles, investigación técnica y comparación entre organizaciones. La señal debe interpretarse según cómo se produce. Muchos reportes pueden reflejar un producto peligroso, una vigilancia cuidadosa o ambas cosas; el número aislado no permite elegir.

El aprendizaje institucional exige conservar lo necesario para relacionar una intervención con su resultado. ¿Disminuyeron las fallas pertinentes? ¿Los afectados obtuvieron respuesta antes? ¿La entrada de proveedores distintos sigue siendo posible? ¿Se produjo un costo que la regla no había previsto? Formular esas preguntas desde el comienzo permite revisar el instrumento con evidencia. Una evaluación que solo cuenta sanciones convierte la actividad del supervisor en medida de su éxito, aunque el problema que debía atender siga intacto.

El Estado puede comprar mejores condiciones

La compra pública ofrece una oportunidad que suele aparecer tarde en la discusión. Una institución puede exigir, desde la licitación, acceso a antecedentes de evaluación, conservación de versiones y asistencia para trasladar el servicio a otro proveedor. Si negocia esas condiciones después de contratar e integrar el sistema, su posición será más débil: cambiar ya implica rehacer trabajo, interrumpir prestaciones o justificar un gasto adicional. El poder de compra tiene mayor utilidad cuando todavía es posible decir que no.

Esa exigencia contractual debe guardar relación con la necesidad de la institución. Pedir toda la propiedad intelectual para una función acotada puede excluir ofertas útiles y elevar el precio sin mejorar el servicio. Pedir únicamente una promesa de colaboración puede dejarla indefensa ante una controversia. Definir accesos, usos permitidos, tiempos de respuesta y costos de asistencia transforma una aspiración general en una prestación comparable. También permite que una empresa pequeña compita ofreciendo mejores condiciones de salida, aunque no pueda igualar el presupuesto comercial de su rival.

La factura completa

Para elegir una regla hay que comparar el beneficio de prevenir daños con los recursos que consume y las alternativas que excluye, respetando las obligaciones de protección que correspondan. Esa comparación necesita un escenario realista: qué pasaría con las instituciones disponibles si no se adoptara la medida. Contrastar un mercado imperfecto con un regulador omnisciente produce una victoria demasiado fácil; enfrentar una autoridad torpe con empresas siempre honestas logra el mismo truco en dirección contraria.

Una exigencia puede ser costosa y estar plenamente justificada. Puede ser barata y no servir para nada. El juicio depende de si actúa sobre el mecanismo relevante y de si existe una alternativa practicable que proporcione la protección debida con menos sacrificios. Cuando la evidencia sea incompleta, resulta razonable acotar el uso, reunir información y revisar condiciones. La incertidumbre tampoco es gratuita: alguien vive con sus consecuencias mientras otro decide que todavía no sabe suficiente.

Volvamos a las dos empresas del comienzo. La mejor regulación no tiene por qué permitir que ambas sobrevivan. Si una vende un producto que no puede demostrar seguridad suficiente para su uso, perder clientes puede ser precisamente el resultado buscado. Pero si la otra queda protegida porque el procedimiento exige comprar su misma arquitectura, reunir su escala o contratar a sus propios verificadores, la norma habrá cobrado al público dos veces: por la garantía anunciada y por la competencia perdida. Antes de aceptar la factura, conviene exigir el detalle.