Serie DemocracIA. Nº 3 Vigilancia algorítmica: ¿protección o control?

Introducción

1. De la vigilancia tradicional a la vigilancia algorítmica
2. Tecnologías clave: reconocimiento facial, biometría y análisis predictivo
3. Casos globales: del control autoritario al uso en democracias
4. El dilema seguridad vs. libertad
5. Impacto en derechos fundamentales
6. La economía de la vigilancia: datos como capital
7. Propuestas para una vigilancia compatible con la democracia
8. Conclusión

Bloque 1: Introducción

La vigilancia siempre ha existido como una función inherente a los Estados: proteger fronteras, prevenir delitos, controlar el cumplimiento de leyes. Sin embargo, la irrupción de la inteligencia artificial ha transformado la escala, la velocidad y la profundidad de esa vigilancia. Lo que antes requería agentes, tiempo y recursos humanos hoy puede realizarse en tiempo real, de forma masiva y con un alcance prácticamente ilimitado.

Los sistemas de vigilancia algorítmica combinan bases de datos gigantescas, sensores distribuidos en espacios físicos y digitales, y modelos de IA capaces de identificar patrones, predecir conductas y tomar decisiones automáticas. El resultado es un ecosistema donde la observación no es ocasional ni localizada, sino permanente y ubicua.

Este nuevo paradigma plantea un dilema central para las democracias: ¿puede la vigilancia masiva ser compatible con la libertad individual y colectiva? En nombre de la seguridad, los gobiernos (y las corporaciones) justifican la recolección constante de datos, pero a menudo sin límites claros ni control ciudadano. Y la historia demuestra que todo instrumento de vigilancia, tarde o temprano, puede ser usado para el control político.

Bloque 2: De la vigilancia tradicional a la vigilancia algorítmica

I. La vigilancia en el modelo clásico

En las sociedades pre-digitales, la vigilancia era selectiva, localizada y costosa. Requería presencia física, observación directa, documentación manual y, por lo general, una orden judicial o una causa justificada para su ejecución. Este modelo establecía límites naturales: el Estado y sus fuerzas de seguridad no podían observarlo todo, todo el tiempo, debido a las limitaciones materiales, logísticas y legales.

Además, en la tradición de las democracias liberales, la vigilancia estaba regulada por principios de proporcionalidad y necesidad, buscando un equilibrio entre seguridad y libertad. La privacidad se concebía como un derecho básico, y cualquier intromisión debía estar justificada y supervisada por instancias judiciales.

II. La transición al paradigma digital

Con la expansión de internet, los teléfonos inteligentes y las redes sociales, la vigilancia comenzó a adquirir una dimensión permanente y descentralizada. La digitalización de la vida cotidiana generó un rastro constante de datos: ubicación GPS, interacciones en redes, registros de compras, historiales de búsqueda, patrones biométricos, grabaciones de cámaras de seguridad.

La llegada de la inteligencia artificial y el big data potenció esta transformación. Ya no se trataba solo de almacenar información, sino de analizarla en tiempo real para extraer patrones, correlaciones y predicciones sobre el comportamiento humano. El paso de la vigilancia pasiva a la vigilancia predictiva cambió el eje del control: ahora no solo se observa lo que haces, sino lo que es probable que hagas.

III. Características distintivas de la vigilancia algorítmica

A diferencia de la vigilancia tradicional, el modelo algorítmico presenta varias características que lo hacen mucho más invasivo y poderoso:

1. Escala masiva: millones de personas pueden ser monitoreadas simultáneamente.
2. Velocidad y automatización: el análisis y la respuesta son instantáneos, sin intervención humana directa.
3. Integración de datos heterogéneos: combina información de múltiples fuentes (cámaras, redes sociales, sensores, bases de datos estatales y privadas).
4. Predicción y clasificación: no se limita a observar, sino que etiqueta, categoriza y anticipa comportamientos.
5. Opacidad: las personas vigiladas desconocen el alcance, el propósito y los criterios de la vigilancia.

IV. De la vigilancia puntual al panóptico digital

El filósofo Michel Foucault utilizó el concepto de panóptico para describir un sistema de control donde los vigilados nunca saben cuándo están siendo observados, lo que induce una autocensura constante. La vigilancia algorítmica lleva esta lógica al extremo: el panóptico ya no es una prisión física, sino una red digital que abarca todos los espacios y tiempos de la vida.

Hoy, cada interacción digital –desde un pago con tarjeta hasta un like en redes sociales– puede ser registrada y analizada. La vigilancia deja de ser un acto excepcional para convertirse en la condición permanente de la vida conectada.

Bloque 3: Tecnologías clave – reconocimiento facial, biometría y análisis predictivo

I. Reconocimiento facial: la identificación permanente

El reconocimiento facial es una de las tecnologías más emblemáticas y polémicas de la vigilancia algorítmica. Funciona mediante la captura de imágenes (en cámaras públicas o privadas) y su comparación con bases de datos de rostros previamente registrados. Utiliza redes neuronales profundas para identificar similitudes con un alto grado de precisión… en teoría.

En la práctica, presenta serios problemas:

• Sesgos raciales y de género: estudios del MIT y NIST han demostrado que el reconocimiento facial es menos preciso con personas de piel oscura y con mujeres, aumentando el riesgo de identificaciones erróneas.
• Uso sin consentimiento: en muchos países se instalan cámaras y sistemas de reconocimiento facial sin que la ciudadanía sea informada ni se establezcan mecanismos claros de control.
• Efecto disuasorio en la participación ciudadana: saber que tu rostro puede ser identificado en una protesta o reunión pública puede inhibir la participación política.

China ha desarrollado una de las redes de reconocimiento facial más extensas del mundo, integrada a su sistema de crédito social, mientras que en democracias como el Reino Unido o Estados Unidos se han generado debates intensos sobre su uso por parte de la policía.

II. Biometría: el cuerpo como contraseña

La biometría es el uso de características físicas o comportamentales únicas para identificar personas. Esto incluye huellas dactilares, iris, patrones de voz, ritmo de tecleo, e incluso formas de caminar (gait recognition). A diferencia de una contraseña, los datos biométricos no se pueden cambiar: si son vulnerados, la persona queda expuesta de forma permanente.

Los riesgos son múltiples:

• Centralización de datos sensibles: una base de datos biométricos mal protegida es un objetivo atractivo para el cibercrimen.
• Uso cruzado sin autorización: datos entregados para un fin (por ejemplo, acceder a un servicio) pueden ser reutilizados para vigilancia policial o comercial.
• Erosión del anonimato: en el espacio físico, el anonimato es una forma de libertad; la biometría lo hace prácticamente imposible.

Incluso organismos internacionales como la ONU han advertido que la expansión de la biometría sin límites claros puede derivar en prácticas de control incompatibles con los derechos humanos.

III. Análisis predictivo: prevenir… ¿o predecir para controlar?

El análisis predictivo utiliza modelos de IA para anticipar comportamientos futuros en base a datos históricos. En el ámbito de la seguridad, esto incluye:

• Predicción de delitos: programas como PredPol en Estados Unidos intentan identificar zonas y horarios con mayor probabilidad de incidentes criminales.
• Evaluación de riesgo individual: sistemas que puntúan la “peligrosidad” de personas en base a su historial y perfil social.
• Prevención sanitaria: modelos que predicen brotes de enfermedades a partir de datos de movilidad y salud.

Aunque estas herramientas pueden ser útiles para asignar recursos preventivos, tienen efectos colaterales:

• Pueden reforzar estereotipos y criminalizar comunidades enteras.
• Tienden a actuar como una profecía autocumplida: más patrullajes en un área → más arrestos en esa área → el sistema “confirma” que es peligrosa.
• Reducen la complejidad humana a patrones estadísticos, sin considerar contextos o motivaciones.

IV. La convergencia tecnológica: vigilancia total

Lo más inquietante no es cada tecnología por separado, sino su integración en ecosistemas de vigilancia: cámaras con reconocimiento facial, enlazadas a bases de datos biométricos, combinadas con análisis predictivo, geolocalización en tiempo real y monitoreo de redes sociales.

En este modelo, el ciudadano deja un rastro constante que puede ser reconstruido y analizado para fines de seguridad… o para control político y económico. En ausencia de límites claros y mecanismos democráticos de supervisión, esta convergencia transforma la vigilancia en una infraestructura permanente de control social.

Bloque 4: Casos globales – del control autoritario al uso en democracias

I. China: el laboratorio del control total

China es probablemente el ejemplo más avanzado y sistemático de vigilancia algorítmica centralizada. Su red nacional de cámaras de alta resolución, combinada con reconocimiento facial, análisis de matrículas, sensores en transporte público y monitoreo masivo de internet, permite al Estado seguir casi cualquier movimiento de sus ciudadanos.

El sistema de crédito social añade una capa más: las conductas “positivas” (pagar impuestos, cumplir contratos) y “negativas” (participar en protestas, publicar críticas) se registran y puntúan, afectando el acceso a empleos, préstamos o viajes. Aunque el discurso oficial lo presenta como una herramienta para “fomentar la confianza social”, en la práctica funciona como un mecanismo de disciplina política y control de disidencias.

II. Estados Unidos: seguridad nacional y vigilancia descentralizada

En Estados Unidos, la vigilancia algorítmica se ha expandido bajo el paraguas de la seguridad nacional, especialmente después del 11 de septiembre de 2001. La Agencia de Seguridad Nacional (NSA) y otras agencias han desarrollado sistemas de interceptación masiva de comunicaciones y análisis predictivo de amenazas.

A diferencia de China, el sistema estadounidense es descentralizado: múltiples agencias y empresas privadas operan en paralelo, muchas veces sin una supervisión unificada. Casos como el escándalo de Edward Snowden revelaron programas de recolección de datos a gran escala (PRISM, XKeyscore), que operaban con un alcance mucho mayor al reconocido públicamente.

Además, policías locales han adoptado software como PredPol para predicción criminal, y Clearview AI para reconocimiento facial, lo que ha generado debates sobre discriminación y violaciones a la privacidad.

III. Unión Europea: control regulado… en teoría

En la Unión Europea, la vigilancia algorítmica convive con uno de los marcos regulatorios de protección de datos más estrictos del mundo: el Reglamento General de Protección de Datos (RGPD) y las propuestas del AI Act. En teoría, esto establece límites claros al uso de tecnologías intrusivas, como el reconocimiento facial en espacios públicos.

Sin embargo, hay brechas importantes: algunos países, como Francia y España, han experimentado con vigilancia biométrica en eventos deportivos o en el transporte público; otros han impulsado leyes que amplían el monitoreo digital en nombre de la lucha contra el terrorismo. Las excepciones previstas en la normativa permiten que, en situaciones de “seguridad nacional”, se activen sistemas muy invasivos.

IV. América Latina: vigilancia con baja transparencia

En varios países de América Latina se han implementado tecnologías de vigilancia sin marcos regulatorios sólidos ni debates públicos amplios. Ejemplos:

• México: uso de software Pegasus para espiar periodistas, activistas y opositores políticos, oficialmente destinado a la lucha contra el crimen organizado.
• Argentina: sistemas de reconocimiento facial en la Ciudad de Buenos Aires con bases de datos incompletas y errores documentados en la identificación de personas.
• Brasil: integración de vigilancia biométrica en grandes eventos deportivos, como el Mundial y los Juegos Olímpicos, con escasa supervisión posterior sobre el destino de esos datos.

El riesgo en la región es doble: por un lado, la falta de transparencia y control institucional; por otro, la importación de tecnología de países con modelos autoritarios sin adaptaciones ni salvaguardas democráticas.

V. Aprendizajes comparados

El análisis de estos casos permite identificar patrones:

1. La vigilancia algorítmica crece en todos los modelos políticos, aunque con fines declarados distintos: “control social” en autoritarismos, “seguridad” en democracias.
2. Las justificaciones cambian, pero la infraestructura es similar: cámaras, biometría, análisis de datos masivos.
3. Las salvaguardas democráticas funcionan solo si hay control real y sanciones efectivas frente a abusos.
4. Una vez desplegada la tecnología, es difícil revertirla, incluso si su uso inicial estaba limitado a circunstancias excepcionales.

Bloque 5: El dilema seguridad vs. libertad

I. Una tensión constitutiva de la democracia

La seguridad es condición de posibilidad para el ejercicio de derechos; la libertad es la razón de ser del orden democrático. La historia constitucional moderna oscila entre ambas exigencias: proteger sin dominar. En la era algorítmica, esta tensión se reactualiza porque las tecnologías permiten intervenciones preventivas y masivas con costos marginales cercanos a cero: ya no es excepcional vigilar a muchos, todo el tiempo. La tentación política es convertir lo excepcional en regla bajo la retórica de la “prevención”. El riesgo: naturalizar la sospecha como principio de gobierno.

II. Principios rectores: necesidad, proporcionalidad y última ratio

Las democracias han elaborado criterios para legitimar restricciones a derechos:

• Necesidad: ¿existe un peligro concreto e identificado que requiera la medida?
• Proporcionalidad: ¿el impacto sobre derechos es el mínimo indispensable frente al objetivo?
• Idoneidad: ¿la medida es efectiva para alcanzar el fin?
• Última ratio: ¿no hay alternativas menos intrusivas (mejor policía comunitaria, políticas sociales, transparencia)?
  La vigilancia algorítmica suele fallar en estas pruebas por generalidad (no se dirige a sospechas individualizadas) y opacidad (impide evaluar idoneidad y proporcionalidad).

III. Falsos positivos, presunción de inocencia y “efecto enfriador”

Todo sistema de detección masiva produce falsos positivos. En materia de derechos, cada falso positivo es una persona. Cuando reconocimiento facial o scoring de “riesgo” etiquetan injustamente, se erosiona la presunción de inocencia y se habilitan consecuencias materiales (detenciones, negación de servicios) difíciles de reparar. Además, la conciencia de ser observado genera chilling effect: menos protestas, menos periodismo incómodo, menos participación. Democracia más silenciosa ≠ democracia más segura.

IV. Prevención vs. predicción: la profecía autocumplida

La retórica de “prevenir” se desliza a predecir. Si el modelo etiqueta barrios “calientes”, aumenta el patrullaje allí; subirán registros y detenciones, “probando” que el modelo tenía razón. La retroalimentación valida la expansión de la vigilancia, no porque capte mejor la criminalidad, sino porque produce los datos que confirman su hipótesis. El círculo se cierra sobre los mismos grupos y territorios.

V. La lógica de la excepción permanente

Estados de excepción, emergencias sanitarias o picos de inseguridad amplían potestades. En tecnología, lo que nace como transitorio queda: infraestructuras de vigilancia rara vez se desmantelan. El costo político de retirarlas es alto; el costo invisible de mantenerlas, difuso. La democracia necesita cláusulas de caducidad (sunset clauses), evaluaciones periódicas y pruebas públicas de eficacia para toda medida intrusiva.

VI. Seguridad inteligente: cambiar la pregunta

El dilema se formula mal cuando se opone “más seguridad” a “menos libertad”. La alternativa democrática es seguridad con derechos:

• Foco en amenazas concretas, no vigilancia general.
• Supervisión independiente y judicial ex ante, no solo controles internos.
• Trazabilidad y auditorías externas de los algoritmos usados por el Estado.
• Explicabilidad y derecho de apelación individual ante decisiones automatizadas.
• Evaluaciones de impacto en derechos humanos (EIDH) obligatorias antes de desplegar sistemas.
• Datos minimizados y descentralizados, con retención limitada y propósitos específicos.
• Reglas de “humano en el circuito” para decisiones de alto impacto.

VII. Éticas en conflicto: utilitarismo, deontología y republicanismo cívico

• Utilitarismo: prioriza el mayor bien para el mayor número; justifica vigilancia si reduce riesgo agregado. Problema: invisibiliza daños a minorías.
• Deontología de derechos: ciertos límites no pueden cruzarse, aun si hay ganancias agregadas (no perfilado masivo, no vigilancia sin causa).
• Republicanismo: libertad como no-dominación; incluso si no hay abuso actual, la mera capacidad de interferir arbitrariamente ya reduce la libertad. La vigilancia algorítmica amplia y opaca aumenta la dominación potencial.

VIII. Criterios operativos para políticas públicas

Para políticas compatibles con democracia:

1. Tipificar usos prohibidos (p.ej., reconocimiento facial en espacios públicos salvo orden judicial y situaciones acotadas).
2. Listas de alto riesgo con requisitos reforzados (EIDH, registro público, auditoría anual).
3. Comités ciudadanos y expertos con poder real de veto/recomendación.
4. Pruebas piloto con evaluación abierta antes del escalado.
5. Métricas de éxito plurales (no solo delitos reportados: percepción de legitimidad, errores, sesgos, debido proceso).
6. Reparación efectiva: vías simples y rápidas para corregir y compensar afectaciones.

Bloque 6: Impacto en derechos fundamentales

I. Privacidad: de derecho básico a lujo digital

En el marco de los derechos humanos, la privacidad no es un capricho individual, sino una condición estructural para el ejercicio de otras libertades. Sin un ámbito libre de observación constante, las personas adaptan su conducta para evitar llamar la atención, debilitando su capacidad crítica y creativa.
La vigilancia algorítmica erosiona este derecho de tres maneras:

1. Recolección masiva sin consentimiento real (términos de uso extensos y opacos).
2. Interconexión de bases de datos que, combinadas, reconstruyen perfiles exhaustivos.
3. Seguimiento ubicuo, en entornos físicos y digitales, que hace inviable “desconectarse” sin quedar fuera de la vida social y económica.
   En este contexto, la privacidad deja de ser un derecho universal para convertirse en un privilegio reservado a quienes pueden pagar por herramientas y entornos seguros.

II. Libertad de reunión y asociación: el efecto disuasorio

El derecho a reunirse y asociarse pacíficamente se ve amenazado cuando los participantes saben que serán grabados, identificados y potencialmente vigilados en el tiempo.
En contextos de protesta o movilización social, la vigilancia algorítmica:

• Disuade la participación por miedo a represalias futuras.
• Permite elaborar listas de participantes, activistas o líderes, incluso si no han cometido delitos.
• Facilita el perfilado político y la vigilancia prolongada de organizaciones críticas.
  El resultado es un enfriamiento del debate público y una reducción del pluralismo político.

III. Libertad de expresión: autocensura invisible

La vigilancia no solo afecta lo que hacemos, sino lo que decimos y pensamos. Estudios en psicología social muestran que la mera percepción de ser observado cambia el comportamiento comunicativo: se evita opinar sobre temas sensibles, se moderan críticas y se omite compartir contenido polémico.
En democracias frágiles o contextos polarizados, esto crea un terreno fértil para:

• Uniformidad discursiva forzada.
• Dominio del relato oficial.
• Marginación de voces disidentes.
  La inteligencia artificial amplifica este efecto al etiquetar y priorizar contenidos en redes, moldeando qué opiniones se difunden y cuáles se invisibilizan.

IV. Igualdad y no discriminación: sesgo sistemático

La vigilancia algorítmica, alimentada con datos históricos sesgados, refuerza desigualdades estructurales. Esto se traduce en:

• Mayor control policial en comunidades racializadas o pobres.
• Mayor riesgo de identificación errónea en mujeres y personas no blancas (reconocimiento facial).
• Menor acceso a beneficios sociales o empleo por perfilado automático.
  Al automatizar el sesgo, se normaliza la discriminación como si fuera un resultado objetivo, borrando la posibilidad de cuestionar su legitimidad.

V. Debido proceso y presunción de inocencia

El debido proceso exige que cualquier persona pueda conocer la acusación contra ella, acceder a pruebas y defenderse en condiciones de igualdad. Sin embargo:

• Los algoritmos usados para decidir medidas preventivas o sanciones muchas veces son opacos y no permiten entender por qué se clasificó a alguien como “riesgoso”.
• No siempre existe instancia de apelación humana.
• El peso de la prueba se invierte de facto: la persona debe demostrar que el sistema se equivocó, frente a una “decisión técnica” que goza de una falsa presunción de infalibilidad.
  Esto erosiona la presunción de inocencia y crea una justicia de caja negra incompatible con el Estado de derecho.

VI. Interdependencia de derechos y riesgo sistémico

Estos impactos no ocurren de forma aislada. La vigilancia algorítmica puede erosionar simultáneamente varios derechos:

• Un perfilado injusto (igualdad) basado en datos sensibles (privacidad) puede restringir la movilidad o la reunión (libertad de asociación), sin juicio previo (debido proceso).
  Este encadenamiento de vulneraciones configura un riesgo sistémico para la democracia: no es solo la suma de afectaciones individuales, sino la transformación de la relación entre ciudadano y Estado/mercado.

Bloque 7: La economía de la vigilancia – datos como capital

I. Del recurso natural al recurso digital

En el siglo XX, el petróleo fue considerado el recurso estratégico por excelencia. En el siglo XXI, ese lugar lo ocupa el dato. Como señaló Shoshana Zuboff, vivimos en la era del capitalismo de vigilancia, un modelo en el que las interacciones humanas son convertidas sistemáticamente en datos que luego se utilizan para predecir y modificar conductas, generando beneficios económicos.

Los sistemas de vigilancia algorítmica funcionan como máquinas extractivas: cada movimiento, búsqueda, compra, interacción o desplazamiento se registra y se transforma en un activo comerciable. La seguridad es muchas veces la justificación inicial, pero el flujo de datos resultante alimenta también mercados publicitarios, sistemas de segmentación política, comercio de perfiles y predicciones de comportamiento.

II. El ciclo de extracción de valor

Podemos describir la economía de la vigilancia en cinco pasos:

1. Captura: recolección masiva de datos en tiempo real desde múltiples fuentes (cámaras, sensores, apps, redes sociales, dispositivos IoT).
2. Agregación: integración de datos heterogéneos en grandes repositorios, combinando información pública y privada.
3. Procesamiento: aplicación de algoritmos de IA para clasificar, correlacionar y predecir comportamientos.
4. Monetización: venta o uso interno de los datos para publicidad segmentada, manipulación política, gestión de riesgos o evaluación de clientes.
5. Retroalimentación: uso de los nuevos datos generados para afinar los modelos y hacerlos más predictivos… y más intrusivos.

En este ciclo, la vigilancia no es un subproducto, sino el corazón del modelo de negocio.

III. La fusión entre vigilancia estatal y corporativa

En la práctica, las fronteras entre vigilancia gubernamental y corporativa son cada vez más difusas:

• Gobiernos que compran datos a empresas privadas para eludir restricciones legales sobre recolección directa.
• Empresas que ceden datos a autoridades a cambio de contratos, beneficios fiscales o licencias preferenciales.
• Plataformas que actúan como intermediarios entre ambos mundos, facilitando la transferencia de información bajo cláusulas poco transparentes.

Esta convergencia crea una infraestructura híbrida de control donde el ciudadano queda atrapado entre el interés comercial y el interés de seguridad, sin espacios claros de soberanía sobre sus propios datos.

IV. Mercados secundarios y opacidad comercial

Gran parte del negocio de la vigilancia no ocurre en la relación directa empresa-usuario, sino en mercados secundarios: data brokers que compran, venden e intercambian bases de datos personales sin que las personas afectadas lo sepan ni lo autoricen.

Estos mercados:

• Operan globalmente, escapando a las jurisdicciones nacionales.
• Son opacos incluso para los reguladores.
• Alimentan un ecosistema de segmentación política, crédito, seguros y marketing hiperpersonalizado.

El valor de un dato no reside solo en su singularidad, sino en su capacidad de ser combinado con otros para producir inferencias sobre comportamiento futuro.

V. Incentivos perversos: cuanto más se vigila, más se gana

Cuando la vigilancia es rentable, los incentivos se alinean para expandirla, no para limitarla.

• Cada nueva cámara, sensor o punto de captura genera más datos y, por tanto, más valor económico.
• Cada mejora en la predicción aumenta la dependencia de clientes y gobiernos hacia el sistema, reforzando su poder de mercado.
• Los errores o sesgos que afectan derechos no necesariamente reducen la rentabilidad; a veces incluso segmentar por sesgo es más lucrativo.

En este contexto, la seguridad ciudadana se convierte en coartada para una economía extractiva que prioriza la acumulación de datos sobre la protección de derechos.

Bloque 8: Propuestas para una vigilancia compatible con la democracia

I. Principios rectores para una vigilancia legítima

Cualquier sistema de vigilancia en democracia debe cumplir mínimo con estos principios:

1. Legalidad: la base jurídica debe ser clara, pública y aprobada democráticamente.
2. Necesidad: debe existir un objetivo legítimo y concreto, no genérico, que justifique la medida.
3. Proporcionalidad: el nivel de intrusión debe ser el mínimo indispensable.
4. Supervisión independiente: organismos externos con capacidad real de auditar y sancionar abusos.
5. Temporalidad: uso limitado en el tiempo, con caducidad automática salvo renovación justificada.
6. Derecho de recurso: posibilidad de apelación y revisión por autoridad judicial o administrativa.

II. Mecanismos institucionales de control

Para garantizar que los principios anteriores no sean letra muerta, se requieren estructuras de control efectivas:

• Auditorías algorítmicas periódicas realizadas por equipos independientes, con publicación de resultados.
• Comités ciudadanos de vigilancia tecnológica, integrados por representantes de organizaciones civiles, académicas y de derechos humanos.
• Evaluaciones de impacto en derechos humanos (EIDH) obligatorias antes de implementar cualquier sistema de vigilancia masiva.
• Registros públicos de las tecnologías y algoritmos utilizados por agencias de seguridad, incluyendo proveedores, criterios de uso y costos.

III. Limitaciones tecnológicas y de propósito

La compatibilidad entre vigilancia y democracia exige limitar:

• Tipos de datos: prohibir la recolección de información biométrica masiva salvo orden judicial y circunstancias excepcionales.
• Ámbitos de uso: prohibir el reconocimiento facial en manifestaciones, actos políticos o lugares de culto.
• Finalidad exclusiva: los datos recopilados solo pueden usarse para el fin específico autorizado; cualquier reutilización requiere nuevo consentimiento o autorización judicial.
• Retención mínima: eliminación de datos no vinculados a investigaciones concretas en plazos breves y auditables.

IV. Transparencia hacia la ciudadanía

La confianza pública depende de la transparencia:

• Informes anuales públicos sobre el alcance y resultados de la vigilancia tecnológica, incluyendo errores, falsos positivos y medidas correctivas.
• Notificación posterior a las personas vigiladas, cuando no exista riesgo para investigaciones, garantizando derecho a revisión.
• Educación ciudadana sobre el funcionamiento, riesgos y derechos asociados a las tecnologías de vigilancia.

V. Alternativas menos intrusivas

Antes de desplegar tecnologías de vigilancia masiva, deben evaluarse y priorizarse alternativas menos invasivas, como:

• Refuerzo del trabajo policial comunitario y programas de prevención social del delito.
• Mejora en la gestión y análisis de datos ya disponibles, en lugar de capturar más datos de forma indiscriminada.
• Tecnologías de anonimización que permitan monitoreo agregado sin identificar personas, salvo cuando se cumplan requisitos legales estrictos.

VI. Cooperación internacional para límites globales en vigilancia algorítmica

La vigilancia algorítmica es un fenómeno transnacional por diseño.
Los datos viajan sin barreras físicas, las empresas que desarrollan estas tecnologías operan en múltiples jurisdicciones y las infraestructuras de procesamiento —nubes, centros de datos, redes de telecomunicaciones— están distribuidas globalmente. Esto significa que ningún país, por sí solo, puede garantizar la protección de derechos frente a los riesgos de un ecosistema así.

I. Razonamiento estratégico: por qué la cooperación es inevitable

1. Evitar el “forum shopping” tecnológico: sin estándares comunes, empresas y gobiernos buscarán las jurisdicciones más permisivas para instalar sus sistemas, evadiendo restricciones más estrictas.
2. Regular cadenas de suministro globales: desde el hardware (chips, sensores, cámaras) hasta el software, el desarrollo y ensamblaje suelen implicar múltiples países.
3. Intercambio de inteligencia y datos: muchos acuerdos bilaterales actuales permiten compartir datos personales sin estándares mínimos de protección, lo que debilita garantías nacionales.
4. Prevención de abusos extraterritoriales: una tecnología exportada a un régimen autoritario puede ser utilizada para reprimir, generando responsabilidad ética y política en el país proveedor.

II. Principios para un marco internacional de límites

Un sistema de cooperación democrática debería basarse en:

• Universalidad de derechos humanos: la vigilancia no puede justificar violaciones al Pacto Internacional de Derechos Civiles y Políticos (PIDCP) ni a la Declaración Universal de Derechos Humanos (DUDH).
• Transparencia intergubernamental: intercambio de información sobre tecnologías en uso, proveedores y evaluaciones de impacto.
• Responsabilidad compartida: tanto el país que produce/exporta como el que importa/usa la tecnología deben rendir cuentas.
• Mecanismos de sanción efectiva: exclusión de licitaciones internacionales, sanciones comerciales o embargos tecnológicos a quienes incumplan estándares.

III. Mecanismos multilaterales posibles

1. Tratado internacional sobre vigilancia y derechos digitales
   • Similar a la Convención de Ginebra en materia de guerra, pero aplicado a cibertecnologías y vigilancia.
   • Incluiría definiciones claras de prácticas prohibidas (p.ej., reconocimiento facial masivo sin orden judicial).
   • Establecería un sistema de verificación y auditorías cruzadas.
2. Marco dentro de Naciones Unidas
   • Consejo de Derechos Humanos como órgano impulsor de estándares.
   • Relatoría especial sobre vigilancia algorítmica, con capacidad de inspección en terreno.
   • Integración con la Oficina del Alto Comisionado para los Derechos Humanos (OACDH).
3. Acuerdos regionales reforzados
   • Unión Europea: expandir el RGPD y el futuro AI Act como norma de referencia para exportaciones.
   • OEA: desarrollar una Carta Interamericana de Derechos Digitales, vinculante para los Estados miembros.
   • Mercosur: incorporar cláusulas de protección de datos y límites de vigilancia en acuerdos comerciales.
4. Coaliciones de democracias tecnológicas
   • Al estilo de la “Alianza por el Gobierno Abierto” (OGP) pero enfocada en IA y vigilancia.
   • Compromisos voluntarios pero auditables, con incentivos en comercio y cooperación tecnológica.

IV. Herramientas para supervisión y cumplimiento

• Auditorías transfronterizas conjuntas: equipos internacionales revisando infraestructuras y software en países miembros.
• Lista negra de proveedores: prohibir a nivel multilateral la compra de tecnología de empresas implicadas en abusos.
• Certificación internacional de tecnologías: sello que acredite cumplimiento con derechos humanos antes de exportar o importar.
• Observatorios regionales: centros académicos y de la sociedad civil que publiquen reportes anuales con hallazgos y alertas tempranas.

V. Ejemplos y antecedentes útiles

• Wassenaar Arrangement: acuerdo multilateral para controlar exportaciones de tecnologías de doble uso (incluye software de vigilancia).
• Convenio de Budapest sobre Ciberdelincuencia: marco internacional para cooperación legal transfronteriza en delitos informáticos, que podría ampliarse para abarcar vigilancia algorítmica.
• Propuesta de UNESCO sobre ética de la IA: aunque no es vinculante, marca principios globales de protección de derechos y podría evolucionar hacia compromisos obligatorios.

VI. Desafíos y resistencias

• Resistencia de potencias tecnológicas que usan la exportación de vigilancia como herramienta geopolítica.
• Presión de corporaciones para evitar regulación estricta que limite mercados.
• Fragmentación de estándares: riesgo de tener “bloques regulatorios” incompatibles que favorezcan la desigualdad de protección.
• Implementación asimétrica: países con menos recursos pueden carecer de capacidad técnica para auditar y supervisar.

VII. El rol de las redes democráticas

Frente a estas resistencias, las democracias con vocación de proteger libertades deben construir redes activas de cooperación:

• Compartir tecnologías de auditoría y cifrado de datos.
• Financiar a países con menos recursos para adoptar estándares de alto nivel.
• Establecer foros permanentes de intercambio de casos, jurisprudencia y mejores prácticas.
• Integrar a la sociedad civil y a la academia como observadores con derecho a intervenir en procesos de evaluación.

 Bloque 8: Propuestas para una vigilancia compatible con la democracia

I. Principios rectores para una vigilancia legítima

En un Estado democrático, cualquier sistema de vigilancia debe cumplir, como mínimo, con estos principios:

1. Legalidad: contar con una base jurídica clara, pública y aprobada mediante procesos democráticos.
2. Necesidad: justificarse solo frente a objetivos legítimos y concretos, no genéricos.
3. Proporcionalidad: limitar el nivel de intrusión al mínimo indispensable.
4. Supervisión independiente: contar con organismos externos con capacidad real de auditar y sancionar abusos.
5. Temporalidad: establecer un uso acotado en el tiempo, con caducidad automática salvo renovación justificada.
6. Derecho de recurso: permitir a las personas afectadas apelar y obtener revisión por autoridad judicial o administrativa.

II. Mecanismos institucionales de control

Para que estos principios no queden en el plano declarativo, es imprescindible:

• Auditorías algorítmicas periódicas por equipos independientes, con publicación obligatoria de resultados.
• Comités ciudadanos de vigilancia tecnológica, integrados por representantes de la sociedad civil, academia y organizaciones de derechos humanos.
• Evaluaciones de impacto en derechos humanos (EIDH) previas a la implementación de cualquier sistema de vigilancia masiva.
• Registros públicos de las tecnologías y algoritmos utilizados por el Estado, con información sobre proveedores, criterios de uso y costos.

III. Limitaciones tecnológicas y de propósito

Para evitar la deriva autoritaria, deben imponerse límites claros:

• Datos restringidos: prohibir la recolección masiva de información biométrica salvo orden judicial y en circunstancias excepcionales.
• Ámbitos protegidos: vetar el reconocimiento facial en manifestaciones, actos políticos o lugares de culto.
• Finalidad exclusiva: utilizar los datos únicamente para el fin autorizado; cualquier reutilización requiere nuevo consentimiento o autorización judicial.
• Retención mínima: eliminar datos no vinculados a investigaciones concretas en plazos breves y verificables.

IV. Transparencia hacia la ciudadanía

La confianza pública solo es posible con transparencia:

• Informes anuales públicos sobre alcance, resultados, errores y medidas correctivas.
• Notificación posterior a las personas vigiladas, cuando no exista riesgo para investigaciones, garantizando derecho de revisión.
• Programas de educación ciudadana sobre funcionamiento, riesgos y derechos relacionados con la vigilancia tecnológica.

V. Alternativas menos intrusivas

Antes de optar por la vigilancia masiva, evaluar opciones como:

• Fortalecer el trabajo policial comunitario y políticas de prevención social.
• Optimizar la gestión de datos ya disponibles, evitando capturas indiscriminadas.
• Tecnologías de anonimización que permitan análisis agregados sin identificar personas.

VI. Cooperación internacional para límites globales en vigilancia algorítmica

1. Razonamiento estratégico

La vigilancia algorítmica es transnacional: los datos fluyen por redes globales, las empresas operan en múltiples jurisdicciones y la infraestructura es distribuida. Sin cooperación internacional:

• Se facilita el “forum shopping” tecnológico, donde actores buscan las jurisdicciones más permisivas.
• Las cadenas de suministro globales quedan fuera de control regulatorio.
• Se abren vacíos para abusos extraterritoriales, como exportar tecnología a regímenes represivos.

2. Principios para un marco internacional

• Universalidad de derechos humanos como base no negociable.
• Transparencia intergubernamental en uso, proveedores y evaluaciones.
• Responsabilidad compartida entre países productores y usuarios de tecnología.
• Sanciones efectivas para infractores, como embargos tecnológicos o exclusiones de licitaciones.

3. Mecanismos multilaterales

• Tratado internacional sobre vigilancia y derechos digitales con prácticas prohibidas y auditorías cruzadas.
• Marco de Naciones Unidas con relatoría especial y supervisión desde el Consejo de Derechos Humanos.
• Acuerdos regionales como una Carta Interamericana de Derechos Digitales en la OEA o la integración en normativas del Mercosur.
• Coaliciones de democracias tecnológicas al estilo de la Alianza para el Gobierno Abierto, pero centrada en IA y vigilancia.

4. Herramientas de supervisión

• Auditorías transfronterizas conjuntas para revisar tecnologías desplegadas.
• Listas negras de proveedores implicados en abusos.
• Certificación internacional previa a exportación o importación.
• Observatorios regionales que publiquen reportes y alertas tempranas.

5. Ejemplos y antecedentes

• Wassenaar Arrangement para control de exportaciones de tecnologías de doble uso.
• Convenio de Budapest sobre ciberdelincuencia como marco de cooperación legal.
• Recomendación de UNESCO sobre ética de la IA como base de principios globales.

6. Desafíos y resistencias

• Oposición de potencias que usan la exportación de vigilancia como herramienta geopolítica.
• Presiones corporativas para evitar regulaciones que limiten mercados.
• Fragmentación de estándares que genere zonas grises.
• Falta de capacidades técnicas en países con menos recursos.

7. Rol de las redes democráticas

• Compartir tecnología de auditoría y cifrado.
• Financiar capacidades regulatorias en países con menos recursos.
• Crear foros permanentes para intercambio de jurisprudencia y mejores prácticas.
• Integrar a sociedad civil y academia como observadores con poder de intervención.

Bloque 9: Conclusión

La vigilancia algorítmica se presenta, en la narrativa oficial, como un escudo frente a amenazas contemporáneas: terrorismo, crimen organizado, ciberataques o desórdenes públicos. Sin embargo, a lo largo de este capítulo hemos visto que, sin marcos jurídicos claros, controles efectivos y una ciudadanía informada, ese escudo puede transformarse en una espada que erosiona silenciosamente los fundamentos democráticos.

Hemos identificado que el problema no radica únicamente en la tecnología en sí, sino en el modelo de gobernanza y en los incentivos que lo sostienen. Cuando la vigilancia se convierte en un motor económico —alimentado por la extracción masiva de datos— y cuando la infraestructura de control se fusiona con intereses políticos o corporativos, el riesgo de abuso se multiplica. En este escenario, la libertad individual, la privacidad, la igualdad y el debido proceso dejan de ser garantías sólidas y pasan a depender de la voluntad de quienes controlan los sistemas.

La defensa de la democracia exige, por tanto, un cambio de paradigma:

• Adoptar principios rectores que limiten la vigilancia a lo estrictamente necesario, con proporcionalidad y temporalidad definidas.
• Establecer mecanismos institucionales robustos de supervisión y rendición de cuentas.
• Impulsar una cooperación internacional vinculante, capaz de cerrar vacíos legales y evitar que la vigilancia se convierta en una herramienta de represión global.
• Fomentar una cultura ciudadana consciente de sus derechos digitales, que no vea la privacidad como un lujo, sino como una condición para ejercer plenamente la libertad.

La Serie DemocracIA, algoritmos y humanos en la defensa de la Libertad, impulsada por LIBERTAS, reafirma en este punto su compromiso con la defensa de la Libertad, la Democracia y la República. Este capítulo ha dejado en claro que la vigilancia algorítmica no es un destino inevitable, sino una decisión política y social. Está en nuestras manos definir si será una herramienta de protección o de control.

En el próximo capítulo, avanzaremos hacia un fenómeno estrechamente relacionado: la desinformación digital, la posverdad y su capacidad para manipular el debate público.

Si la vigilancia condiciona nuestras acciones y percepciones de seguridad, la desinformación condiciona lo que creemos que es verdad. Juntas, estas dos fuerzas pueden remodelar el tejido democrático… o, si se regulan y contrarrestan de forma adecuada, pueden convertirse en desafíos superados que fortalezcan nuestras sociedades.