19\/12\/2017 – Laura Fern\u00e1ndez de Mosteyr\u00edn (Universidad a Distancia de Madrid, UDIMA)<\/p>\n
Hace un par de semanas recib\u00ed a trav\u00e9s de un grupo de whastap un v\u00eddeo<\/a> con el que tambi\u00e9n me hab\u00eda cruzado en twitter. En \u00e9l se presenta, con un enfoque comercial,\u00a0 el potencial para matar de un peque\u00f1o dron<\/em> exactamente igual al que podr\u00edan pedir nuestras hijas e hijos a los Reyes Magos.<\/p>\n Me sobrecogi\u00f3 y, adem\u00e1s de desvelarme un acr\u00edtico af\u00e1n \u2018reenviatorio\u2019, me provoc\u00f3 dos reflexiones inmediatas.<\/p>\n Primero pens\u00e9: \u201cqu\u00e9 bien y con qu\u00e9 poco sonrojo se venden instrumentos de matar\u201d, seguido de: \u201cesto de la inteligencia artificial va mucho m\u00e1s deprisa de lo que podemos \u00e9ticamente reflexionar, de lo que podemos socialmente digerir, de lo que podemos legalmente regular y de lo que debemos pol\u00edticamente aceptar\u201d.<\/p>\n Lo reenvi\u00e9\u2026 Pero se me hab\u00eda quedado el \u2018aguij\u00f3n\u2019 de la postverdad<\/em> y decid\u00ed dedicar un rato a indagar sobre la procedencia del v\u00eddeo. Encontr\u00e9 la versi\u00f3n larga<\/a>, que es mucho m\u00e1s interesante, aunque requiere 7 minutos que, en la era de la inmediatez, es much\u00edsimo.<\/p>\n Record\u00e9 que el contexto lo es todo para interpretar el sentido de las acciones. El v\u00eddeo no est\u00e1 dise\u00f1ado para vender armas sino, todo lo contrario, para denunciar sus riesgos y demandar a los poderes p\u00fablicos la prohibici\u00f3n de su uso<\/a>.<\/p>\n No me qued\u00e9 mucho m\u00e1s tranquila, pues sea \u2018verdad\u2019 o \u2018fake\u2019, el v\u00eddeo refleja que vivimos tiempos en los que el miedo y el control se han incrustado en todas las esferas de la vida social. Recomiendo que inviertan los siete minuto en verlo: hay muchas cuestiones condensadas en \u00e9l.<\/p>\n Aqu\u00ed solo se\u00f1alar\u00e9 algunas, pues he desarrollado otras en este otro post<\/a> y quiero profundizar algo m\u00e1s en la comprensi\u00f3n de la guerra en nuestra \u00e9poca: de qu\u00e9 manera la convergencia entre la inteligencia artificial y la belicosidad dan forma a nuestra sociedad, igual que lo han hecho en el pasado.<\/p>\n Parece que la tecnolog\u00eda aplicada a armas aut\u00f3nomas no est\u00e1 desarrollada plenamente (es decir, \u00a0que una m\u00e1quina no dispone por completo de la capacidad para actuar en el \u2018campo de batalla\u2019 sin intervenci\u00f3n humana), pero sabemos que est\u00e1 en avance y que su precedente est\u00e1 en la guerra de drones<\/em> que Obama inici\u00f3 como su propia versi\u00f3n de la guerra contra el terror. <\/em><\/p>\n As\u00ed lo ilustran algunos estudios acad\u00e9mico-cient\u00edficos<\/a> y se ve en toda su enjundia en la pel\u00edcula de 2015, Eye in the Sky. <\/em>De manera paralela, en los \u00faltimos a\u00f1os se viene debatiendo a nivel internacional y en el marco de Naciones Unidas la gobernanza de los sistemas de armas aut\u00f3nomas<\/a>.<\/p>\n Sabemos que hay muchos pa\u00edses con altas capacidades militares avanzando en sistemas aut\u00f3nomos de defensa (Estados Unidos, Reino Unido, Israel, Corea, China\u2026). Ello est\u00e1 siendo objeto de investigaciones en centros de referencia como el SIPRI, Stockholm International Peace Research Institute<\/a> y por parte de agentes de la sociedad civil global como\u00a0 Human Rights Watch<\/a>. Hay tambi\u00e9n respuesta de la sociedad, ente ellas las campa\u00f1as \u00a0Ban Autonomous Weapons<\/em><\/a>, <\/em>de la que procede el v\u00eddeo del que hablamos, <\/em>y Stop Killer Robots<\/em><\/a>,<\/em> una coalici\u00f3n no\u00a0 gubernamental que presiona, apoyada por expertos<\/a> del mundo entero, para adoptar una prohibici\u00f3n preventiva sobre el desarrollo LAWs (Lethal Autonomous Weapons).<\/p>\n Pero lo que hay en este v\u00eddeo dist\u00f3pico es una cuesti\u00f3n completamente a\u00f1eja: me refiero a la capacidad de los Estados para utilizar la violencia organizada, el papel de la tecnolog\u00eda en el desarrollo de la guerra y las dos caras hist\u00f3ricas de un mismo proceso: la guerra en el exterior del Estado est\u00e1 directamente relacionada con la \u2018pacificaci\u00f3n\u2019 en el interior del Estado, como nos recuerda Mark Neocleous (2011).<\/p>\n Es el relato de lo que el complejo militar-industrial-securitario<\/em> puede hacer: mejorar la defensa nacional frente a enemigos con perfiles muy concretos, minimizando as\u00ed los \u2018da\u00f1os colaterales\u2019 y seguir haciendo la guerra sin que a las opiniones p\u00fablicas occidentales, que Martin Shaw llama sociedades postmilitares<\/a>, \u00a0se les atragante la cena con el telediario. En otra lectura de este v\u00eddeo dist\u00f3pico, son los \u2018malos\u2019 (\u00bfterroristas?, \u00bfradicales? \u00bfanarquistas?, \u00bfcriminales?, \u00bfpiratas? \u00bfrefugiados?) esto es, -los que desaf\u00edan el monopolio estatal de la violencia-, quienes nos atacan sin la \u2018legitimidad\u2019 ni las \u2018restricciones\u2019\u00a0 que poseen los Estados occidentales.<\/p>\n Pero sigamos especulando\u00a0 que son los Estados pues, al fin y al cabo, son las organizaciones pol\u00edticas m\u00e1s poderosas, las que tienen mayor capacidad de destrucci\u00f3n y la que expanden su poder ante las amenazas. Los Estados pueden controlar a millones de personas a nivel planetario y separar a los \u2018amigos\u2019 de los \u2018enemigos\u2019 con un simple ejercicio de perfilaci\u00f3n. <\/em>Lo pueden hacer con sus enemigos exteriores y lo pueden hacer con sus enemigos interiores.<\/p>\n En esta distop\u00eda, se utilizan las armas aut\u00f3nomas para \u2018neutralizar\u2019 el disenso y pacificar en el interior de la sociedad. Ese mecanismo de expansi\u00f3n hist\u00f3rica del poder del Estado que es la guerra, y la forma que toma en este momento, no es posible sin dos fen\u00f3menos complementarios que, siendo igualmente viejos (pues los Estados siempre han recogido datos de sus poblaciones haciendo uso de la sociedad), adquieren hoy unas dimensiones planetarias y dif\u00edcilmente mesurables: el Big data<\/em> y la vigilancia masiva.<\/p>\n El potencial predictivo del Big data,<\/em> como el valor preventivo de la vigilancia masiva,\u00a0 est\u00e1n en entredicho.<\/a> Sin Thick Data<\/a>\u00a0 -y redundamos aqu\u00ed en el conflicto metodol\u00f3gico cl\u00e1sico entre los hechos y los significados; entre lo cuantitativo y lo cualitativo\u2013 no podemos discernir, por ejemplo, entre los decires y los haceres. Sin embargo, la expansi\u00f3n del poder de\u00a0 vigilar, evidenciada en las revelaciones de Snowden en 2015, depende en buena medida de que los ciudadanos\/as proveamos datos al sistema.<\/p>\n Esos datos permiten la perfilaci\u00f3n, \u2018ense\u00f1an a hablar a los algoritmos\u2019; permiten parametrizan muchos aspectos de la vida cotidiana y, junto con la inteligencia artificial, est\u00e1n entrando en instituciones centrales de la sociedad \u00a0incluyendo las de control, porque permiten \u2018predecir patrones de conducta\u2019 (criminal), \u2018asignar de manera eficiente recursos\u2019 (policiales) y \u2018minimizar riesgos\u2019 (colaterales?).<\/p>\n Precisamente la guerra es una instituci\u00f3n central de todas las sociedades en todos los momentos hist\u00f3ricos. La Inteligencia Artificial y el Aprendizaje Automatizado aplicados a la guerra, nos alertan de la importancia de entrar en el debate sobre su regulaci\u00f3n. En contra de los argumentos neo darwinistas de moda, a los humanos les repulsa matar.<\/p>\n Eso explica que hist\u00f3ricamente los ej\u00e9rcitos hayan recurrido a sustancias para \u2018facilitar\u2019 la tarea de matar y que la ideologizaci\u00f3n sea un elemento central en todos los ej\u00e9rcitos. Eso explica tambi\u00e9n que haya deserciones, motines y desobediencias en la cadena de mando\u2013 como el soldado que opera drones en la\u00a0 pel\u00edcula\u00a0 Eye in the Sky<\/em>-. En un contexto cambiante, \u00bfpuede\u00a0 rehacerse un c\u00e1lculo\u00a0 estrat\u00e9gico y moral? \u00bfFallan los sistemas? \u00bfFallan las m\u00e1quinas? \u00bfQui\u00e9n es responsable? He aqu\u00ed algunos desaf\u00edos \u00e9ticos que plantea la guerra mediada por la Inteligencia Artificial<\/a>\u00a0 sin mencionar, por supuesto, la capacidad de aniquilar al g\u00e9nero humano o, peor, a una \u2018parte designada\u2019 de la humanidad.<\/p>\n Dos grandes soci\u00f3logos de la violencia han mostrado que los humanos \u2018matan mejor en grupo\u2019. Randall Collins y Sini\u0161a Male\u0161evi\u0107, aportan distintos tipos de evidencia que sostienen el argumento de que la violencia es mayor y m\u00e1s efectiva cuando media la organizaci\u00f3n social y la ideolog\u00eda. En la medida en que las sociedades se complejizan y la organizaci\u00f3n de la violencia se sofistica, el potencial para matar es mayor.<\/p>\n Legitimaciones nos sobran en un mundo marcado por una cada vez mayor identificaci\u00f3n del diferente (en nacionalidad, en pertenencia \u00e9tnica, en religi\u00f3n) como enemigo. El avance de la Inteligencia Artificial, combinado con el giro autoritario de los Estados naci\u00f3n, es un desaf\u00edo sobre el que es necesario seguir reflexionando.<\/p>\n Pero el v\u00eddeo me dio para pensar en el poder de los escenarios de futuro. \u00bfPor qu\u00e9 nos gusta tanto elaborar, construir y consumir distop\u00edas (y no utop\u00edas)? La imaginaci\u00f3n de futuro es esencial a la vida social y aunque en la \u2018sociedad del riesgo\u2019 ha quedado clara la dificultad para imaginar una l\u00ednea clara, certera y positiva de futuro, vivimos en una cultura obsesionada con \u2018adelantarse al futuro\u2019 (an\u00e1lisis de riesgos, construcci\u00f3n de escenarios etc…). Sin embargo, a veces olvidamos algo que la Sociolog\u00eda llama \u2018profec\u00eda auto-cumplida\u2019; cuando los individuos piensan algo como real, acaba siendo real en sus consecuencias, pues act\u00faan como si fuera real.<\/p>\n Recuperando al siempre inspirador Charles. W. Mills debemos plantearnos si la principal causa de la guerra es la preparaci\u00f3n para la guerra.<\/p>\n Referencias<\/strong><\/p>\n – Collins, Randall. (2009). Violence: a Micro-sociological Theory.<\/em> Princeton and Oxford: Princeton University Press.<\/p>\n – Male\u0161evi\u0107, Sini\u0161a (2017). The Rise of Organised Brutality: A Historical Sociology of Violence<\/em>. London: Routledge.<\/p>\n – Mills, Charles, W. (1958). The Causes of the Third World War.<\/em> New York: Simon and Schuster.<\/p>\n – Neocleous M (2011) \u201c\u2018A brighter and nicer new life\u2019: Security as pacification\u201d. Social & Legal<\/em> Studies<\/em> 20(2): 191\u2013208.<\/p>\n NOTA: Imagen de portada de Hugo Bononi<\/a> distribuida bajo licencia CC<\/a>