Cuatro capas dentro de la empresa
El 29 de septiembre, Donald Trump y seis ejecutivos de empresas tecnológicas firmaron en la Casa Blanca un compromiso sobre controles para modelos de frontera. El documento propone cuatro capas: controles internos durante el entrenamiento y despliegue; un equipo de la propia compañía que compruebe si esos controles funcionan; un auditor o evaluador externo “independiente”; y un comité independiente del directorio que reciba los informes y supervise la corrección de problemas. Suena a arquitectura de seguridad. La pregunta incómoda aparece una línea después: ¿quién comprueba que esa arquitectura sea realmente independiente?
El acuerdo nombra problemas concretos: capacidades relacionadas con ciberseguridad, bioseguridad y amenazas químicas, además de accesos no previstos a sistemas técnicos. También pide vigilar que los modelos se comporten según lo previsto, identificar fallos y remediarlos. No es una promesa vacía: establece responsabilidades internas y reconoce que una evaluación fuera del equipo de desarrollo puede aportar una mirada adicional. Pero el mismo texto deja sin especificar las reglas que permitirían juzgar si esas capas hacen algo más que producir confianza para los propios firmantes.
No fija periodicidad de auditorías, cualificaciones mínimas del evaluador ni el alcance de su acceso a modelos, datos, registros de incidentes o pruebas de seguridad. Tampoco establece cómo se selecciona o paga al evaluador, qué conflictos debe declarar, quién recibe el informe completo, qué parte se publica ni qué autoridad puede actuar si la empresa no corrige un riesgo. Las firmantes sí se comprometen a reunirse regularmente para desarrollar estándares y buenas prácticas de seguridad; el texto no define su contenido, un calendario para cumplirlas ni cómo exigirlas. El comité de directorio tiene que recibir reportes y procurar que los problemas se resuelvan; el acuerdo no describe una vía externa para comprobar que lo hizo.
La precisión importa porque una auditoría no consiste solo en contratar a alguien con ese título. Su independencia depende de condiciones observables: quién escoge y remunera al revisor, si puede rechazar el encargo, qué evidencia puede examinar, si controla sus conclusiones y a quién puede comunicar un hallazgo grave. Llamarlo “independiente” expresa una aspiración; no sustituye las reglas que protegen esa independencia cuando el evaluador trabaja para la organización que evalúa.
Compromiso político, no régimen de cumplimiento
Los firmantes describen cada capa como algo que las empresas “deberían” aplicar y dicen que están comprometidos a hacerlo. El propio documento señala que, con el tiempo, podría tener sentido convertir los pasos en leyes o reglamentos. Esa frase sitúa el acuerdo en el terreno de los compromisos voluntarios: abre la puerta a una regulación futura, pero no la cruza. Trump lo llamó “moralmente vinculante” ante la prensa, según Associated Press, y dijo que designaría a alguien para supervisar el acuerdo. Esa supervisión anunciada todavía necesita una estructura, competencias y reglas que el texto firmado no contiene.
El contraste con una obligación legal no es académico. Una norma puede definir quién debe cumplir, permitir que una autoridad solicite evidencia, fijar plazos y establecer consecuencias sujetas a revisión. El acuerdo enumera prácticas que los firmantes quieren asumir, pero no dispone sanciones, multas, suspensión de lanzamientos ni un procedimiento para recibir denuncias. Tampoco ordena que los informes externos se publiquen. Un cliente, un trabajador afectado o una comunidad vecina a un centro de datos no recibe aquí un derecho nuevo para exigir una auditoría o conseguir una reparación.
Eso no demuestra que las compañías carezcan de controles, ni que cualquier auditor contratado vaya a ser complaciente. Associated Press reportó que algunas de las medidas ya existían en alguna forma en las empresas firmantes. El punto es más acotado: el acuerdo no permite al público distinguir, por sí solo, entre un programa de seguridad robusto, una revisión limitada al riesgo que la compañía eligió y una declaración de cumplimiento sin información suficiente para evaluarla. Para hacer esa distinción se necesitarían criterios, acceso y resultados observables.
La estructura también coloca el centro de gravedad dentro de cada compañía. El equipo interno opera los controles; otro equipo interno revisa su funcionamiento; un evaluador externo informa; y un comité del directorio recibe los reportes. Esa cadena puede crear supervisión efectiva si quienes revisan tienen independencia, información y capacidad para forzar correcciones. También puede convertirse en una serie de informes que recorren la jerarquía corporativa sin que un regulador, un tribunal o el público pueda saber qué se encontró. El acuerdo ofrece el esquema de la cadena, no sus garantías externas.
El siguiente paso no es otra firma
La Casa Blanca presentó el documento como un punto de partida para la seguridad de los modelos de frontera. Las reuniones anunciadas podrían definir prácticas compartidas; su utilidad dependerá de que los participantes acuerden cómo medirlas y dejen resultados que otros puedan examinar. La discusión pública debería ahora bajar de los adjetivos a la mecánica: ¿qué cuenta como un modelo de frontera?, ¿qué estándar usa el auditor?, ¿puede examinar pruebas y registros confidenciales?, ¿cómo se protege frente a represalias?, ¿quién ve sus conclusiones?, ¿qué pasa si el comité de directorio discrepa o la empresa deja el riesgo sin corregir? Sin respuestas, “cuatro capas” describe una estructura de gobierno corporativo, no un sistema público de rendición de cuentas.
Una vía sería convertir el compromiso en reglas vinculantes que definan independencia, competencias mínimas, acceso y reporte, con protección de información sensible y supervisión externa. Otra es que cada empresa publique qué controles adoptó y qué encontró su auditor, con límites explícitos para no revelar vulnerabilidades que faciliten ataques. El texto firmado no adopta ninguna de las dos. Reconoce que la legislación podría llegar después y deja abierto qué ocurrirá mientras tanto.
Las auditorías externas pueden mejorar una evaluación interna; no convierten automáticamente una promesa en garantía. El acuerdo de Washington puso el auditor en el organigrama y dejó fuera del documento quién vigila su independencia, qué puede ver y qué consecuencias siguen a su informe. El compromiso de reunirse para elaborar estándares abre un trabajo común; la selección y supervisión del evaluador siguen dependiendo de reglas que el texto no establece. Esa es la prueba que falta para que “autocontrol” signifique algo más que una palabra tranquilizadora pronunciada por quienes controlan la tecnología.