Ciencia y Tecnología

Inteligencia Artificial: La expansión global de la vigilancia

Por Steven Feldestein (*)

En el plano mundial, continúa en constante aumento el despliegue y la utilización por parte gubernamental de sistemas de vigilancia mediante inteligencia artificial (IA) y datos masivos (big data). Al menos en 77 países están desplegando activamente sistemas públicos de reconocimiento facial, ciudades seguras o técnicas de vigilancia policial inteligente. Quizá resulte difícil determinar con exactitud qué es lo que lleva a ese aumento. Una explicación metodológica es que a medida que crece el número de periodistas y grupos de la sociedad civil familiarizados con esa tecnología, su escrutinio se amplía y se dan a conocer nuevos ejemplos de su uso. En otras palabras, quizá no sea que los gobiernos se hayan lanzado a adoptarla, sino que ha aumentado de modo significativo la conciencia mundial sobre ella. Otra explicación se refiere a la difusión de las normas. Los investigadores han documentado el modo en que “las tendencias mundiales tienden a arrastrar a los países; en particular, cuando los países grandes e influyentes se mueven en la misma dirección”. En este terreno, es verosímil que los países que marcan el paso, encabezados por China y Estados Unidos, sean los responsables de influir en otros a la hora de adoptar dichas técnicas.

Con la aparición de la pandemia del coronavirus, quizá estemos presenciando un nuevo impulso mundial en este ámbito a medida que una serie de países (China, Israel, Taiwán, Rusia, Corea del Sur y Singapur) incorporan herramientas de vigilancia avanzada para seguir la propagación de la epidemia y mantener una atenta vigilancia sobre sus ciudadanos. Si bien los individuos pueden acceder a que el Gobierno utilice semejantes métodos por razones de salud pública, no está claro que los estados vayan a renunciar voluntariamente a esas herramientas una vez pasada la pandemia. Sobre todo en los países autoritarios que obtienen desmesuradas ventajas del despliegue de sistemas de vigilancia masiva, resulta difícil imaginar que sus dirigentes vayan a abandonarlos fácilmente. Por lo tanto, quizá nos estemos acercando a una nueva normalidad en lo que se refiere al uso de la tecnología de vigilancia mediante IA y datos masivos. Como dejó claro mi anterior documento de trabajo citado más arriba (y como confirman las investigaciones posteriores), el uso de esos sistemas no se limita a las autocracias. También las democracias y los regímenes híbridos recurren a ellos de modo abundante. No preveo que esa tecnología retroceda. Más bien, incumbirá a la opinión pública establecer unos límites responsables y transparentes a su forma de utilización; por ejemplo, a la forma en que los gobiernos almacenan, utilizan y comparten datos personales. La lucha por encontrar un equilibrio entre los intereses de la vigilancia estatal y la protección de las libertades políticas no ha hecho más que empezar.

El Índice de Vigilancia Global mediante IA (VGIA)*

La tecnología de la IA estuvo antaño relegada al mundo de la ciencia ficción, pero hoy nos rodea. Hace funcionar nuestros teléfonos inteligentes, se ocupa de nuestras preferencias musicales y guía los contenidos de nuestras redes sociales. Tal vez el rasgo más notable de la IA sea su repentina ubicuidad.

- 01-08-02 I.S.B. 2- CAMARA DE SEGURIDAD INTALADA EN LA CALLE D'ESCUDELLERS, DESTROZADA -
Una cámara de seguridad en las calles de Barcelona, destrozada.  Propias

En términos generales, el objetivo de la inteligencia artificial es “hacer que las máquinas sean inteligentes” automatizando o replicando el comportamiento que “permite a una entidad funcionar de forma adecuada y con previsión en su entorno”, según el científico informático Nils Nilsson. La IA no es una tecnología específica. Más bien, es más exacto pensar en ella como un sistema integrado que incorpora objetivos de adquisición de información, principios de razonamiento lógico y capacidades de autocorrección. Un subcampo importante de la IA es el aprendizaje automático, un proceso estadístico que analiza una gran cantidad de información con objeto de detectar un patrón para explicar los datos actuales y predecir usos futuros. Varios avances están haciendo posible nuevos logros en este campo: la madurez del aprendizaje automático y la aparición del aprendizaje profundo; la computación en la nube y la recopilación de datos en línea; una nueva generación de microchips y equipos informáticos avanzados; un mejor rendimiento de los algoritmos complejos; y unos incentivos surgidos del mercado para nuevos usos de la tecnología de la IA.

Sin que constituya sorpresa alguna, las consecuencias de la IA se extienden mucho más allá de las elecciones de los consumidores individuales. Está empezando a transformar las pautas básicas de la gobernanza, y no sólo porque proporciona a los gobiernos unas capacidades sin precedentes para vigilar a sus ciudadanos y moldear sus elecciones, sino también porque les proporciona una nueva capacidad para alterar elecciones, difundir información falsa y deslegitimar el discurso democrático más allá de las fronteras.

Los hallazgos y tres ideas

Los hallazgos del estudio indican que al menos 75 de un conjunto de 176 países del mundo utilizan de modo activo las tecnologías de IA con propósitos de vigilancia. Eso incluye: plataformas de ciudades inteligentes/ciudades seguras (56 países), sistemas de reconocimiento facial (74 países) y vigilancia policial inteligente (52 países). Tres ideas se desprenden de los hallazgos del índice de VGIA.

A raíz del coronavirus, países como China, Israel, Taiwán, Rusia, Corea del Sur y Singapur han incorporado herramientas para seguir su propagación y mantener una atenta vigilancia sobre sus ciudadanos

En primer lugar, la adopción global de la vigilancia mediante IA aumenta a un ritmo rápido en todo el mundo. Ya sea de forma legal como ilícita, la están desplegando 75 países, un 43% del total evaluado. El conjunto de países es heterogéneo: proceden de todas las regiones y los sistemas políticos y van desde las autocracias cerradas hasta las democracias avanzadas. El informe Freedom on the Net 2018 provocó alzamientos de cejas cuando reveló que 18 de los 75 países evaluados utilizaban tecnología de vigilancia mediante IA procedentes de empresas chinas. El período de estudio de dicho informe se extendió desde el 1 de junio del 2017 hasta el 31 de mayo del 2018. Un año más tarde, el índice de VGIA constata que son 47 los países de ese mismo grupo los que están desplegando ahora tecnología china de vigilancia mediante IA.

No es de extrañar que los países con sistemas autoritarios y bajos niveles de derechos políticos estén realizando grandes inversiones en técnicas de vigilancia mediante IA. Muchos gobiernos del Golfo, Asia oriental y Asia central y meridional están adquiriendo sistemas analíticos avanzados, cámaras de reconocimiento facial y sofisticadas capacidades de vigilancia. Por su parte, las democracias liberales de Europa también se han lanzado a instalar controles fronterizos automatizados, vigilancia policial predictiva, ciudades seguras y sistemas de reconocimiento facial. De hecho, resulta sorprendente la cantidad de estudios de casos de vigilancia de ciudades seguras publicados en el sitio web de Huawei y relacionados con municipios de Alemania, Italia, Países Bajos y España.

En términos regionales, hay claras disparidades. Las regiones de Asia oriental-Pacífico y Oriente Medio-África del norte han adoptado decididamente esas herramientas. Asia meridional y central y América también ponen de manifiesto una considerable utilización de los instrumentos de vigilancia mediante IA. El África subsahariana está rezagada: menos de una cuarta parte de sus países invierten en la vigilancia mediante IA. La causa más probable es el subdesarrollo tecnológico (los países africanos se esfuerzan por ampliar el acceso de banda ancha a sus poblaciones; la región posee 18 de los 20 países con los niveles más bajos de penetración de internet). Dada la agresividad de las empresas chinas para penetrar en los mercados africanos por medio de la Iniciativa de la Franja y la Ruta (BRI, Belt and Road Initiative), es probable que esas cifras aumenten en los próximos años.

A person films a screen showing traffic data of Hangzhou city during a media tour of City Brain, an AI-powered traffic-management system by Alibaba Cloud, in Hangzhou, Zhejiang province, China April 10, 2018. Picture taken April 10, 2018. REUTERS/Stringer ATTENTION EDITORS - THIS IMAGE WAS PROVIDED BY A THIRD PARTY. CHINA OUT.
La inteligencia artificial gestiona en China parte del tráfico rodado.  Reuters

En segundo lugar, China es un importante proveedor de vigilancia mediante IA. Encontramos tecnología vinculada a empresas chinas en, como mínimo, 63 países de todo el mundo. Sólo Huawei es responsable de proporcionarla al menos a 50 países. También hay un considerable solapamiento entre la BRI y la vigilancia mediante IA: 36 de los 86 países de la BRI cuentan también con una importante tecnología de vigilancia mediante IA. Sin embargo, China no es el único país que suministra tecnología de vigilancia avanzada. Alemania, Francia, Japón y Estados Unidos son también importantes agentes en ese ámbito. Las empresas estadounidenses, por ejemplo, tienen una presencia activa en 32 países.

En tercer lugar, las democracias liberales son importantes usuarias de vigilancia mediante IA. Según el índice, un 51% de las democracias avanzadas la despliega. En cambio, lo hacen un 37% de los estados autocráticos cerrados, un 41% de los estados autocráticos electorales/competitivos y un 41% de las democracias electorales/democracias iliberales. Los gobiernos democráticos liberales están utilizando agresivamente las herramientas de la IA para vigilar fronteras, detener a potenciales delincuentes, vigilar el mal comportamiento de ciudadanos e identificar a sospechosos de terrorismo entre las multitudes. Eso no significa necesariamente que las democracias estén usando la tecnología de modo ilícito. El factor más importante que determina si los gobiernos aprovecharán esa tecnología con fines represivos es la calidad de su gobernanza: ¿existe ya un patrón de violaciones de los derechos humanos?, ¿existe una fuerte tradición del Estado de derecho e instituciones independientes de rendición de cuentas? Eso es lo que debe proporcionar cierto grado de tranquilidad a los ciudadanos que residen en los estados democráticos.

Ahora bien, las democracias avanzadas se esfuerzan por equilibrar los intereses de seguridad y la protección de las libertades civiles. En Estados Unidos, un número cada vez mayor de ciudades han adoptado sistemas avanzados de vigilancia. Por ejemplo, una investigación realizada en el 2016 por Kim Hart, de Axios, reveló que la policía de Baltimore había desplegado en secreto drones aéreos para realizar la vigilancia diaria de los residentes de la ciudad: “Desde un dron que sobrevuela las calles, potentes cámaras captan imágenes aéreas de toda la ciudad. Las fotos se toman cada segundo, y el dron puede estar dando vueltas en el aire hasta diez horas al día”. La policía de Baltimore también desplegó cámaras de reconocimiento facial para vigilar y detener a los manifestantes; en particular, durante los disturbios del 2018. La Unión Americana para las Libertades Civiles (ACLU) condenó esas técnicas como el “equivalente tecnológico de poner un GPS en el tobillo en todos los habitantes de Baltimore”.

Países con sistemas autoritarios y bajos niveles de derechos políticos están realizando grandes inversiones en técnicas IA de vigilancia. Sin embargo, también las democracias liberales las están implementando

Asimismo, en la frontera entre México y Estados Unidos, una serie de empresas de alta tecnología suministra equipos de vigilancia avanzados. El contratista de defensa israelí Elbit Systems ha construido “decenas de torres en Arizona para detectar personas desde una distancia que puede llegar hasta los 12 kilómetros”, según Olivia Solon, periodista de The Guardian. Se trata de una tecnología perfeccionada en Israel a partir de un contrato para construir una “valla inteligente” entre Jerusalén y Cisjordania. Otra compañía, Anduril Industries, “ha desarrollado torres equipadas con una cámara mejorada con láser, un radar y un sistema de comunicaciones” que escanea un radio de tres kilómetros para detectar movimientos. Las imágenes captadas “se analizan utilizando inteligencia artificial para distinguir a las personas de la fauna y de posibles objetos en movimiento”. No está claro hasta qué punto estos despliegues de vigilancia están cubiertos por la legislación estadounidense, y mucho menos si esas acciones cumplen con el criterio de necesidad y proporcionalidad.

Estados Unidos no es la única democracia que adopta la vigilancia mediante IA. En Francia, la ciudad portuaria de Marsella inició en el 2016 una asociación con ZTE para establecer el proyecto Big Data of Public Tranquility. El objetivo del programa es reducir la delincuencia creando una amplia red de vigilancia pública con un centro de operaciones de inteligencia y cerca de mil cámaras inteligentes de circuito cerrado de televisión (CCTV) (el número se duplicará a lo largo del 2020). Las autoridades locales proclaman que dicho sistema hará de Marsella “la primera ciudad segura de Francia y Europa”. Asimismo, en el 2017, Huawei regaló un sistema de vigilancia de escaparates a la ciudad francesa de Valenciennes para demostrar su modelo de ciudad segura. El paquete incluía vigilancia mejorada CCTV de alta definición y un centro de mando inteligente basado en algoritmos capaces de detectar movimientos inusuales y formación de multitudes.

El hecho de que tantas democracias, no sólo las autocracias, adopten esa tecnología significa que el tipo de régimen no es un buen indicador para determinar qué países adoptarán la vigilancia mediante IA.

Puerto viejo en Marsella, Francia
El Puerto Viejo en Marsella, en Francia.  Terceros

El gasto militar es un indicador más preciso de si un Gobierno acabará por adquirirla. El desglose de los gastos militares en el 2018 pone de manifiesto que 40 de los 50 países con mayores gastos militares disponen también de tecnología de vigilancia mediante la IA. Esos países abarcan desde democracias plenas hasta regímenes dictatoriales (y todas las posibilidades intermedias). Incluyen economías punteras como Francia, Alemania, Japón y Corea del Sur, y estados más pobres como Pakistán y Omán.

Distinción entre la vigilancia legítima y la ilícita

La vigilancia del Estado no es intrínsecamente ilícita. Los gobiernos tienen razones legítimas para llevar a cabo una vigilancia que no se base en el deseo de imponer la represión política y limitar las libertades individuales. Por ejemplo, los instrumentos de seguimiento desempeñan un papel fundamental en la prevención del terrorismo. Ayudan a las fuerzas de seguridad a disuadir que se cometan actos perjudiciales y a resolver casos problemáticos. Dan a las autoridades la capacidad de vigilar las amenazas críticas y reaccionar de modo adecuado. Sin embargo, la tecnología ha cambiado la naturaleza de la forma en que los gobiernos llevan a cabo la vigilancia y lo que deciden vigilar. Internet ha hecho proliferar la cantidad de datos transaccionales o metadatos disponibles sobre las personas, como la información relacionada con los correos electrónicos enviados y recibidos, la identificación de la localización, el seguimiento en la web y otras actividades en línea. Como señaló Frank La Rue, antiguo relator especial de las Naciones Unidas, en un importante informe sobre vigilancia del 2013: “Los datos sobre comunicaciones son almacenables, accesibles y buscables, y su acceso y uso por parte de las autoridades estatales no está en gran medida reglamentado. El análisis de esos datos puede ser a la vez muy revelador e invasivo; en particular, cuando los datos se combinan y agregan. Por ello, los estados recurren cada vez más a los datos sobre comunicaciones para apoyar el cumplimiento de la ley o las investigaciones de seguridad nacional. Los estados están también obligando a la conservación y el almacenamiento de datos sobre comunicaciones para poder llevar a cabo una vigilancia histórica”.

Ni que decir tiene que esas intrusiones afectan profundamente al derecho de una persona a la intimidad, al derecho a no verse sometida a lo que la Oficina del Alto Comisionado de las Naciones Unidas para los Derechos Humanos (ACNUDH) denominó “injerencia arbitraria o ilícita en su intimidad, familia, hogar o correspondencia”. La vigilancia también puede infringir el derecho de una persona a la libertad de asociación y expresión. En virtud de las normas internacionales sobre derechos humanos, tres son los principios fundamentales para evaluar la legalidad de una acción concreta de vigilancia.

La disminución de los costes de la tecnología y del almacenamiento de datos ha propiciado que los estados tengan ahora más capacidad que nunca para realizar una vigilancia simultánea, invasiva, selectiva y a gran escala

En primer lugar, ¿permite la legislación nacional la vigilancia? El sucesor de La Rue, David Kaye, publicó un informe en el 2019 en el que afirmaba que las normas jurídicas deben “formularse con suficiente precisión para permitir que un individuo regule su conducta teniéndolas en cuenta y deben ser accesibles de modo público”. Los requisitos legales no deben ser “vagos ni demasiado amplios”, lo que permitiría una discrecionalidad ilimitada por parte de los funcionarios gubernamentales. El propio marco jurídico debería ser “accesible de modo público, claro, preciso, completo y no discriminatorio”.

En segundo lugar, ¿satisface la acción de vigilancia el criterio jurídico internacional de “necesidad y proporcionalidad” que restringe la vigilancia a las situaciones que son “estricta y demostrablemente necesarias para lograr un objetivo legítimo”?

En tercer lugar, ¿son legítimos los intereses que justifican la acción de vigilancia? Abundan los desacuerdos a la hora de determinar qué es vigilancia legítima y qué es abuso de poder. Si bien los gobiernos suelen justificar la vigilancia basándose en motivos de seguridad nacional o de orden público, el ACNUDH advierte que semejantes restricciones pueden restringir “injustificada o arbitrariamente” los derechos de los ciudadanos a la libertad de opinión y de expresión. Según sostiene el ACNUDH, la vigilancia legítima exige que los estados “demuestren el riesgo que una expresión concreta plantea para un interés definido en la seguridad nacional o el orden público” y es necesario un “sistema de supervisión sólido e independiente” que confíe a los poderes judiciales la autorización de las medidas de vigilancia pertinentes y ponga remedio a los casos de abuso. Kaye añade que la vigilancia legítima sólo debe aplicarse cuando esté en juego el interés de “todo el país” y debe excluir la vigilancia realizada “en único interés de un Gobierno, régimen o grupo de poder”.

La inteligencia artificial usa procesos lógicos para obtener comportamientos similares a los de un celebro humano.
La inteligencia artificial usa procesos lógicos para obtener comportamientos similares a los de un celebro humano.  Otras Fuentes

Las normas jurídicas necesarias para llevar a cabo una vigilancia legítima son exigentes, y los gobiernos tienen dificultades para cumplirlas. A menudo, ni siquiera las democracias con fuertes tradiciones de Estado de derecho y sólidas instituciones supervisoras protegen adecuadamente los derechos individuales en sus programas de vigilancia. Los países con débil aplicación de la ley o con sistemas autoritarios “eluden rutinariamente esas obligaciones”. Como concluye el primer informe del ACNUDH sobre privacidad en la época digital, los estados con “ausencia de una legislación nacional y/o una aplicación de la ley adecuadas, débiles garantías procesales y una supervisión ineficaz” conllevan una menor rendición de cuentas y un aumento de las condiciones favorecedoras de una vigilancia digital ilícita.

La vigilancia mediante IA exacerba esas condiciones y hace más probable que gobiernos democráticos y au-toritarios lleven a cabo una vigilancia que contravenga las normas internacionales sobre derechos humanos. Según expuso Frank La Rue: “Los avances tecnológicos suponen que la eficacia del Estado en la realización de la vigilancia ya no está limitada por la escala o la duración. La disminución de los costes de la tecnología y el almacenamiento de datos ha eliminado los desincentivos económicos o prácticos para ejercer la vigilancia. De este modo, el Estado tiene ahora más capacidad que nunca para realizar una vigilancia simultánea, invasiva, selectiva y a gran escala”.

¿En qué medida impulsa China la difusión de la vigilancia mediante IA?

En términos empíricos, el índice de VGIA muestra que las compañías chinas (encabezadas por Huawei) son las principales proveedoras de vigilancia mediante IA en todo el mundo. En conjunto, China lleva a cabo un esfuerzo sostenido por el liderazgo y la primacía en IA. Un consenso creciente señala a ese país motor global de la tecnología autoritaria. Según los expertos, las compañías chinas trabajan directamente con las autoridades estatales para exportar tecnología autoritaria a los gobiernos de ideas afines con objeto de difundir su influencia y promover un modelo de gobierno alternativo. Pero ¿es así?

¿De verdad es efectiva a día de hoy la inteligencia artificial en los procesos de selección laboral?
Un consenso creciente señala aChina como motor global de la ‘tecnología autoritaria’.  Otras Fuentes

Hay algo de verdad en semejante afirmación: un subconjunto de exportaciones chinas va directamente a países como Zimbabue y Venezuela, que tienen un historial de graves violaciones de los derechos humanos y que de otra manera no podrían acceder a dicha tecnología. Ahora bien, la vigilancia mediante IA no va solamente de un país autoritario (China) a otros estados autoritarios. En realidad, las transferencias se producen de un modo mucho más heterogéneo. Las exportaciones chinas de tecnología de vigilancia se dirigen tanto a las democracias liberales como a los mercados autoritarios. Y también las compañías con sede en democracias liberales (por ejemplo, Alemania, Francia, Israel, Japón, Corea del Sur, Reino Unido y Estados Unidos) venden activamente equipos sofisticados a regímenes indeseables.

Arabia Saudí es un buen ejemplo. Huawei está ayudando a su Gobierno a construir ciudades seguras, pero Google está estableciendo servidores en la nube, el fabricante de armas británico BAE ha vendido sistemas de vigilancia masiva, NEC vende cámaras de reconocimiento facial, y Amazon y Alibaba tienen en el país centros de computación en la nube y pueden apoyar un gran proyecto de ciudad inteligente. El índice muestra que los países represivos rara vez adquieren esa tecnología de una sola fuente. En Tailandia, los funcionarios del Gobierno han subrayado muchas veces la importancia de “equilibrar la política exterior” y de no afiliarse demasiado con ninguna de las partes: “Siempre ha sido así. Por eso seguimos siendo un reino. Llegamos a un compromiso, negociamos y alcanzamos un equilibrio”.

Una vez dicho esto, hay razones especiales que explican que los expertos ejerzan un mayor escrutinio sobre las empresas chinas. Huawei es, de lejos, el principal proveedor de sistemas avanzados de vigilancia en todo el mundo. En el índice, su tecnología está ligada a más países que cualquier otra compañía. Busca de manera muy dinámica nuevos mercados en regiones como África subsahariana. No sólo proporciona equipo avanzado sino que también ofrece un continuo apoyo tecnológico para establecer, operar y administrar los sistemas.

FILED - 15 October 2019, Duesseldorf: View of the Huawei Germany headquarters. Chinese Huawei giant Liang Hua revealed that the company's research team has started exploring the sixth generation technology as countries compete to implement 5G networks. Photo: Rolf Vennenbernd/dpa(Foto de ARCHIVO)15/10/2019 ONLY FOR USE IN SPAIN
La sede de Huawei en Dusseldorf, Alemania.  EP

Un reciente trabajo de investigación de The Wall Street Journal proporciona un ejemplo revelador. Los reporteros descubrieron que los técnicos de Huawei, tanto en Uganda como en Zambia, ayudaban a los funcionarios gubernamentales en su espionaje a opositores políticos. Eso incluía “la interceptación de sus comunicaciones cifradas y redes sociales, así como el uso de datos de los teléfonos móviles para rastrear su localización”. Los empleados de Huawei no sólo desempeñaron un “papel directo en los esfuerzos del Gobierno por interceptar las comunicaciones privadas de los opositores”, sino que también alentaron a los funcionarios de seguridad de Uganda a que viajaran a Argelia para estudiar el “sistema inteligente de videovigilancia” de Huawei en funcionamiento en Argel. Posteriormente, Uganda aceptó comprar un sistema de vigilancia por reconocimiento facial similar que costó 126 millones de dólares.

El proyecto del Instituto Australiano de Política Estratégica sobre la cartografía de los gigantes tecnológicos chinos indica que Huawei es responsable de 75 “proyectos de ciudad inteligente-seguridad pública” y ha experimentado un formidable aumento en su línea de negocio: “En el 2017, Huawei enumeró 40 países que tenían sus tecnologías de ciudades inteligentes; en el 2018, según se informa, esa influencia se había duplicado con creces y llegó a 90 países (incluidas 230 ciudades)”. Huawei monta directamente el modelo de ciudad segura a las agencias de seguridad nacional, y el Exim Bank chino parece estar facilitando esos tratos con préstamos subvencionados. El resultado es que un país como Mauricio obtiene del Gobierno chino una financiación a largo plazo que lo obliga a contratar con empresas chinas. A continuación, el Gobierno de Mauricio recurre a Huawei como contratista principal o como subcontratista para crear la ciudad segura y aplicar controles de vigilancia avanzados.

También es cada vez más evidente que compañías como Huawei operan con mucha menos independencia del Gobierno chino de lo que afirman. Huawei fue fundada en 1987 por Ren Zhengfei, un antiguo oficial del Ejército Popular de Liberación que sirvió en su “división de tecnología militar”, según ha señalado Anna Fifield de The Washington Post. Hay continuos informes de que la compañía recibe importantes ayudas del Gobierno chino. También parece haber fuertes conexiones entre los dirigentes de Huawei y el aparato de seguridad e inteligencia chino.

Nota

Tras la publicación del documento de trabajo The Global Expansion of AI Surveillance, he empezado a rastrear una capacidad adicional de vigilancia mediante IA/datos masivos: el despliegue de sistemas de vigilancia en redes sociales que se basan en algoritmos avanzados para monitorear las comunicaciones en línea. A la cabeza en la adopción de semejantes capacidades se encuentran países como Kazajistán (adquisición de una herramienta de vigilancia automatizada suministrada por una empresa vinculada al Servicio de Seguridad Federal de Rusia y basada en el “aprendizaje profundo” para detectar comunicaciones que “desacreditan al Estado”) y Pakistán (contrato de 18,5 millones de dólares con Sandvine para instalar un “sistema de vigilancia en la web” que da a las autoridades la capacidad de mantener una vigilancia constante de las comunicaciones digitales de los ciudadanos).

(*)Steven Feldstein es investigador no residente del programa Democracia, Conflicto y Gobernanza del Fondo Carnegie para la Paz Internacional, donde se centra en la intersección de tecnología, democracia y derechos humanos, la política exterior estadounidense y la política de África.

* A partir de aquí, este artículo es un fragmento de The Global Expansion of AI Surveillance, de Steven Feldstein, publicado por el Fondo Carnegie para la Paz Internacional (Washington, 2019). Está disponible de modo completo y con notas en https://carnegieendowment.org/2019/09/17/global-expansion-of-ai-surveillance-pub-79847.