La inteligencia artificial al servicio de la guerra

Decía Michel Foucault que la biopolítica tiene como característica principal que “el viejo derecho de hacer morir o dejar vivir fue reemplazado por el poder de hacer vivir o de arrojar a la muerte”. 

Parece que, en la actualidad, es la muerte precisamente el objeto de deseo del control biopolítico por parte del Estado. Así lo ha sido en la invasión de Ucrania, en la que se está utilizando la inteligencia artificial para el reconocimiento facial de soldados rusos fallecidos. El programa estadounidense Clearview de reconocimiento facial ha cedido gratuitamente al gobierno de Ucrania como muestra de solidaridad.

Clearview es la red facial más amplia del mundo con más de 10000 millones de fotos procedentes de páginas web y redes sociales, como Twitter, Facebook o Instagram. De ellas, 2000 millones proceden de la red social rusa VKontake. Con esta tecnología, el gobierno ucraniano quiere, por una parte, contrarrestar la opacidad informativa rusa y proporcionar datos fidedignos de los fallecimientos en las tropas rusas, con el fin de poder informar a sus familias. Y, por otra, identificar a los principales autores de matanzas, tales como las de Bucha e Irpin.

No obstante, Clearview es una tecnología más que controvertida, sobre todo en Estados Unidos y la Unión Europea. En dichos territorios, se enfrenta a diversos litigios por el uso no autorizado de imágenes procedentes de Internet, lo que supone una violación de las normas de privacidad y protección de datos. Pero, esto no ha sido obstáculo para que, el pasado año, Estados Unidos concediera a la compañía Clearview AI una patente federal por su software.

Esta patente se ha concedido sin tener en cuenta que el reconocimiento facial no ofrece una garantía del 100% a nivel operativo. Ese es el motivo por el cual las fuerzas armadas estadounidenses no la están utilizando todavía. La realidad es que su implantación en el futuro puede acarrear problemas, tales como, posibles sesgos por razón de género y raza, o errores de reconocimiento que tuvieran como consecuencia arrestos injustificados de ciudadanos.

En la invasión de Ucrania, no se han tenido en cuenta estos escenarios, ni el hecho de que el gobierno ucraniano pueda utilizar este software para identificar espías rusos o personas de interés en puntos estratégicos, lo cual supondría efectivamente “arrojar a estas personas” a una muerte segura.

Nos hallamos ante una encrucijada ética de difícil solución:

• El derecho a la intimidad.
• A la dignidad.
• Al respeto a las personas frente al derecho a la información.
• A la seguridad con los Big Data como punta de lanza.

Sin duda, este es un buen ejemplo del “capitalismo de la vigilancia” al que alude la socióloga Shoshona Zuboff y que enfrenta a las grandes corporaciones tecnológicas que viven de los datos personales. 

Para Zuboff, el capitalismo de la vigilancia es una “mutación” del capitalismo de la información basado en la comercialización de la realidad y su transformación en datos de comportamiento para su análisis y venta. De hecho, sin caer en cuenta, las personas han pasado de ser consumidores de productos, a productores de contenidos para una suerte de “corporatocracia” con sede en Silicon Valley.

En el caso de la guerra, esta situación resulta especialmente perturbadora, ya que incluso la muerte puede ser fuente de “Big Data” y de beneficios económicos de dudosa justificación ética. 

La pandemia del Covid-19 llegó a banalizar la muerte, reduciéndola a un amasijo de cifras diarias de fallecidos y contagiados. La invasión de Ucrania amenaza con convertirla definitivamente en un dato más con el que nutrir las amplias bases de datos de la principales compañías tecnológicas. 

Como decía Foucault, el poder no es una propiedad, sino una estrategia. Ese poder se ejerce más que se posee, no es el privilegio adquirido de la clase dominante, sino el efecto de sus posiciones estratégicas. Es evidente que se viven tiempos en los que las grandes compañías tecnológicas tienen estrategias bien definidas y ejercen el (bio)poder convirtiendo los datos y, por ende, las vidas en simples mercancías. Ahora, parece que incluso la muerte en tiempos de guerra acabará formando parte de las bases de datos de esas empresas que saben más de las vidas de las personas, que ellas mismas. Todo ello, por supuesto, sin el “consentimiento informado”.