El chat responde con paciencia, recuerda detalles y nunca parece tener prisa. Esa forma de conversar puede invitar a una intimidad que el usuario no concedería a un formulario. Pero las palabras quedan en una infraestructura operada por una empresa. La experiencia de tener un confidente y las condiciones bajo las que se conservan los mensajes pueden avanzar en direcciones distintas.
«Crimen y algoritmo», de Rodrigo Castillo Murillo y Francisco Figueroa Ogalde, apareció en El Mostrador el 23 de agosto de 2026. La columna examina la diferencia entre expresar una idea y realizar una conducta, junto con el problema de privacidad que surge cuando una conversación se convierte en registro. El enlace conduce al original. Fuente: El Mostrador
El contexto cuesta más que detectar palabras
Imaginemos tres conversaciones que contienen la misma descripción violenta. Una pertenece a un guion de ficción; otra reproduce una amenaza recibida para pedir ayuda; la tercera prepara una amenaza que se enviará a alguien. Un detector podría encontrar vocabulario semejante. Decidir qué significa cada intercambio requiere conocer su función, sus destinatarios y su relación con actos externos. El ejemplo es hipotético, pero muestra por qué una alerta y una conclusión no son equivalentes.
Una política que confunda esos niveles puede intervenir donde no corresponde y pasar por alto situaciones graves que utilizan palabras aparentemente corrientes. Su calidad no debería juzgarse solo por cuántos mensajes marca. Importa qué distingue, qué información necesita para hacerlo y qué consecuencias produce un error. Cuando una alerta desencadena una actuación sobre una persona, el procedimiento debe ser capaz de examinar el salto entre la señal detectada y la interpretación que se le atribuye.
La confianza también se diseña
El proveedor puede advertir en sus condiciones que conserva conversaciones. Eso informa una parte de la relación. La interfaz puede, al mismo tiempo, fomentar una sensación de trato confidencial mediante respuestas afectuosas y disponibilidad permanente. Examinar ambas cosas juntas permite preguntar qué expectativas crea el servicio y cómo las aclara en el momento en que realmente importan. Un aviso escondido bajo muchas páginas de texto puede existir sin orientar la conducta del usuario.
La alternativa no consiste en prometer secreto absoluto para cualquier uso. Una política responsable debe explicar con precisión sus condiciones de acceso y de intervención, quién decide aplicarlas y qué información se entrega cuando corresponde hacerlo. Acumular datos por si algún día resultan útiles también tiene consecuencias: aumenta el conjunto de conversaciones expuestas a accesos indebidos, errores de interpretación o usos que la persona nunca anticipó.
Una explicación debe seguir a la decisión
Ante un intercambio preocupante, el proceso necesita distinguir qué se observó de lo que se infiere. Una revisión puede requerir antecedentes adicionales y puede concluir que la primera señal carecía de fundamento. Si se conserva únicamente la etiqueta inicial, quienes reciban el expediente después podrían tratarla como un hecho establecido. Registrar qué se descartó importa tanto como guardar qué activó la alerta.
La discusión tiene un interés que excede la persecución de delitos. Los sistemas que clasifican conversaciones distribuyen atención, sospecha y posibilidades de respuesta. Sus decisiones pueden proteger a una persona o imponerle una carga injustificada. Hacerlas examinables exige atribuir responsabilidades concretas y permitir corregir errores, según las reglas aplicables a cada intervención. Una máquina capaz de escuchar muchas cosas no adquiere por ello la facultad de decidir qué significan todas. La empresa que utiliza sus conclusiones tampoco puede perderse detrás de esa capacidad.