Esta quinta entrega de la serie, “La IA, la puerta de entrada a una nueva etapa histórica”, está destinada a ofrecer el posicionamiento y acciones de los movimientos sociales ante la irrupción de esta cuarta revolución tecnológica, que ha generado un profundo impacto en todos los ámbitos de la sociedad, y que ha centrado la atención y preocupación por parte de los movimientos sociales, es decir, la expresión colectiva de un grupo de ciudadanos que busca transformar o defender aspectos sociales, a través de la movilización, la protesta, la propuesta de alternativas y difusión de los diferentes problemas que afectan a la ciudadanía.

El abordaje que realizamos tiene un carácter general y se distinguen tres fases en función a su evolución con respecto al contexto histórico y, por consiguiente, en relación a los posicionamientos.

Fase pionera

Se extiende desde los orígenes de la IA hasta finales del siglo XX y se caracteriza por su vinculación a la ciencia ficción, el ciberpunk, el hacktivismo y el software libre. Estos movimientos exploraron las posibilidades y los riesgos de la IA, tanto en el plano imaginario como en el práctico. En ese sentido, se puede considerar a estos movimientos como los primeros que plantearon cuestiones sobre la identidad, la ética y el poder de la IA, así como en proponer formas alternativas de desarrollar y usar la tecnología desde una perspectiva crítica y creativa. Algunos ejemplos son las obras de Isaac Asimov, William Gibson o Philip K. Dick, quienes plantearon cuestiones sobre la identidad, la ética y el poder de la IA; o los proyectos de Richard Stallman, Linus Torvalds o Tim Berners-Lee, que promovieron el acceso y la colaboración en el desarrollo de la tecnología.

Fase crítica

Se desarrolla entre principios del siglo XXI hasta mediados de la década de 2010 y tiene como principal acción la denuncia de los efectos negativos de la tecnología en la sociedad (vigilancia, desigualdad, discriminación, deshumanización…). Estos movimientos se basaron en evidencias empíricas, testimonios personales y análisis teóricos para cuestionar el uso y el control de la IA por parte de gobiernos, corporaciones y elites. De modo que, se puede considerar a estos movimientos como los primeros en evidenciar las consecuencias sociales, políticas y económicas de la IA, así como en resistir y desafiar las prácticas abusivas o injustas de los actores dominantes. Algunos ejemplos son las campañas de Edward Snowden, Julian Assange o Chelsea Manning, que revelaron las prácticas de espionaje masivo; o las obras de Evgeny Morozov, Shoshana Zuboff o Cathy O’Neil, que criticaron el capitalismo de vigilancia, el sesgo algorítmico y las armas de destrucción matemática.

Fase actual

Va desde finales de la primera década del siglo XXI hasta la actualidad con propuestas alternativas para el desarrollo y el uso de la tecnología, basadas en principios como la justicia, la democracia, la diversidad o la sostenibilidad. Estos movimientos se apoyan en iniciativas ciudadanas, académicas, artísticas y activistas para generar conocimiento, conciencia y acción sobre la IA y pueden ser definidos como los más propositivos e innovadores en cuanto a ofrecer soluciones para mejorar el diseño, la implementación y el uso de la IA desde una perspectiva socialmente responsable. Al tiempo que denuncian que la IA puede generar o agravar problemas sociales como el desempleo, la desigualdad, la discriminación, la vigilancia, la manipulación, la pérdida de autonomía y la amenaza existencial. Estos movimientos proponen medidas para regular y controlar la IA, así como para garantizar una mayor participación y transparencia de los actores involucrados. Su posición se basa en la idea de que la IA no es neutra ni beneficiosa por sí misma, sino que depende de cómo se diseña, se implementa y se usa. Entre esos movimientos podemos señalar los siguientes:

Stop Killer Robots

Es una coalición global fundada en 2012 que cuenta con más de 180 organizaciones no gubernamentales internacionales, regionales y nacionales y socios académicos que trabajan en 66 países. Su objetivo se centra en la lucha por la prohibición del desarrollo, la producción y el uso de armas autónomas letales, es decir, armas que pueden seleccionar y atacar objetivos sin intervención humana. Su argumento central se basa en la idea de que delegar la decisión de matar a las máquinas es inmoral, ilegal e inaceptable y supone una amenaza para la paz, la seguridad y la dignidad humana. Stop Killer Robots ha logrado poner el tema de las armas autónomas en la agenda internacional y ha impulsado el debate sobre la necesidad de un tratado legalmente vinculante que las prohíba. Su página web oficial es [https://www.stopkillerrobots.org].

Ban Facial Recognition

Fundada en 2012, plantea la prohibición y limitación del uso de tecnologías de reconocimiento facial por parte de gobiernos, empresas y otras entidades. Este movimiento argumenta que estas tecnologías violan la privacidad, la libertad y los derechos humanos de las personas, y que pueden ser utilizadas para fines de vigilancia masiva, control social y discriminación. Su trabajo se apoya en evidencias científicas, jurídicas y sociales que demuestran los peligros y los errores de las tecnologías de reconocimiento facial, especialmente para las personas racializadas, las mujeres y los grupos minoritarios. Ban Facial Recognition ha conseguido algunas victorias legislativas y judiciales en varios países, donde se han prohibido o restringido el uso de estas tecnologías. Su página web oficial es [https://www.banfacialrecognition.com].

Algorithm Watch

Fundado en 2015 por dos periodistas e investigadores alemanes especializados en el campo de la tecnología y la sociedad, es una organización sin fines de lucro que monitorea y evalúa los efectos de los algoritmos y la automatización en la sociedad. Este movimiento busca generar conciencia pública sobre los riesgos y las oportunidades de la IA. Su misión es promover la transparencia, la rendición de cuentas y la participación ciudadana en el uso de la inteligencia artificial y otras tecnologías digitales que afectan a los derechos humanos, la democracia y el estado de derecho. Algorithm Watch se basa en una metodología rigurosa e interdisciplinaria para investigar y documentar casos de uso de algoritmos de IA en diferentes sectores y países, así como para proponer soluciones basadas en principios éticos y legales. Ha publicado varios informes anuales sobre el estado de los algoritmos e IA en Europa y el mundo. Su página web oficial es [https://algorithmwatch.org/en].

AI Now Institute

Es un centro de investigación interdisciplinario estadounidense fundado en 2016 que estudia el impacto social de la IA y propone soluciones para asegurar que la IA sea justa, responsable y sostenible. Analiza temas como la ética, la gobernabilidad, el trabajo, la salud, el medio ambiente y la justicia en relación con la IA. Se apoya en un equipo diverso e inclusivo de expertos, académicos, artistas y activistas que colaboran en proyectos innovadores para generar conocimiento crítico sobre la IA y ha publicado varios informes anuales sobre el estado social de la IA.) Su página web oficial es [https://ainowinstitute.org].

Data Justice Lab

Es un centro de investigación de la Universidad de Cardiff, fundado en 2017, que explora las implicaciones políticas, sociales y éticas de los datos y la IA y promueve una justicia basada en los derechos humanos, la democracia y la equidad en el ámbito digital. Este movimiento se basa en una visión crítica y holística de los datos y la IA, que considera tanto sus aspectos técnicos como sus aspectos sociales, culturales y políticos. Data Justice Lab ha desarrollado varios proyectos sobre temas como la vigilancia, la participación, la sostenibilidad y la solidaridad en relación con los datos y la IA. Su página web oficial es [https://datajusticelab.org].

AlgoRace

Fundada en 2020 en España, investiga y visibiliza casos de discriminación algorítmica, es decir, cuando la IA reproduce o amplifica las desigualdades sociales existentes, además, intenta sensibilizar y movilizar a la ciudadanía sobre este tema. Su objetivo es vincular el movimiento antirracista y anticolonial con el debate sobre la IA y sus implicaciones sociales. Este movimiento se basa en una perspectiva decolonial e interseccional para analizar y denunciar los casos de uso racista de la IA por parte de las administraciones públicas, las empresas y otras entidades. Recientemente ha publicado un informe titulado “(Des)racializando la IA”, donde se analizan los principales riesgos y oportunidades que plantea la IA para las poblaciones racializadas en España. Su página web oficial es [https://algorace.org].

Bing. (2023). La inteligencia artificial [imagen generada por IA].

Por otro lado, diversos autores y colectivos han cuestionado el desarrollo y el impacto de la IA en la sociedad, desde diferentes perspectivas y ámbitos con una visión crítica y alternativa, así como una resistencia y una propuesta frente a sus desafíos. Algunos de los aspectos que han sido objeto de crítica son:

- La IA como una forma de dominación y explotación

Esta crítica se fundamente en que la IA genera nuevas formas de desigualdad, exclusión y violencia. Por ejemplo, Shoshana Zuboff ha acuñado el concepto de capitalismo de vigilancia para referirse al modelo económico basado en la extracción y el análisis de los datos personales de los usuarios por parte de las grandes corporaciones tecnológicas, que los utilizan para manipular su comportamiento y obtener beneficios. Por su parte, Nick Srnicek y Alex Williams, han analizado cómo la IA está transformando el mundo del trabajo, creando una masa de trabajadores precarios, desempleados o sometidos a la automatización. También se ha criticado el uso militar y policial de la IA, que implica el desarrollo de armas autónomas, sistemas de vigilancia masiva y técnicas de control social. Estas críticas ponen en evidencia las consecuencias sociales, políticas y económicas de la IA, así como las prácticas abusivas o injustas de los actores dominantes y plantean la necesidad de regular y controlar la IA, así como de proteger los derechos y los intereses de los ciudadanos frente a las amenazas que supone. Recomendamos al lector los siguientes materiales:

• El documental The Social Dilemma (2020), que explora el impacto negativo de las redes sociales y las plataformas digitales en la sociedad.
• El libro Radical Technologies: The Design of Everyday Life (2017), de Adam Greenfield, que examina cómo las tecnologías emergentes como la IA, el internet de las cosas o la realidad aumentada afectan a nuestra vida cotidiana.
• El informe The State of AI Ethics Report (2021), del Montreal AI Ethics Institute, que recoge los últimos avances e incidentes relacionados con la ética de la IA.

- La IA como una forma de alienación y deshumanización

Esta crítica cuestiona el papel de la IA en la cultura, la comunicación y la subjetividad, señalando los riesgos de perder la identidad, la creatividad y la autonomía frente a las máquinas inteligentes. En ese sentido, Jaron Lanier ha advertido sobre los efectos nocivos de las redes sociales y las plataformas digitales, que reducen la diversidad y la originalidad de las expresiones humanas, y fomentan la adicción, el conformismo y el odio. Mientras Byung-Chul Han reflexiona sobre cómo la IA genera una sociedad del rendimiento, donde los individuos se someten a una presión constante por optimizar su productividad, su eficiencia y su felicidad, sin cuestionar el sentido de sus acciones. Estas críticas ponen en evidencia los efectos psicológicos, emocionales y existenciales de la IA, así como las formas de manipulación o dominación que ejerce sobre los individuos. Estas críticas también plantean la necesidad de recuperar el control sobre nuestros datos, nuestra atención y nuestra creatividad, así como de cuestionar el sentido y el valor de nuestras acciones frente a la IA. En relación a este aspecto, recomendamos los siguientes materiales:

• El libro Homo Deus: A Brief History of Tomorrow (2016), de Yuval Noah Harari, que explora cómo la tecnología puede transformar al ser humano en un dios o en un esclavo.
• El libro The Age of Spiritual Machines: When Computers Exceed Human Intelligence (1999), de Ray Kurzweil, que predice cómo la inteligencia artificial superará a la inteligencia humana y cambiará el destino de la humanidad.
• El documental Do You Trust This Computer? (2018), que analiza los beneficios y los peligros de la inteligencia artificial.

- La IA como una forma de colonización y homogeneización

Esta crítica plantea que la IA impone una visión hegemónica y occidental del mundo, que ignora o margina otras formas de conocimiento, sabiduría y cosmovisión. Así, Arturo Escobar ha propuesto el concepto de ontologías del diseño para referirse a las diferentes maneras de concebir e intervenir en la realidad, que están en conflicto con el paradigma dominante de la modernidad. Y Vandana Shiva defiende la importancia de preservar la diversidad biológica y cultural frente a las amenazas de la biotecnología y la inteligencia artificial. Estas críticas ponen en evidencia las limitaciones y los sesgos de la IA, así como las formas de exclusión o dominación que ejerce sobre los pueblos indígenas, las mujeres y los campesinos. También plantean la necesidad de reconocer y valorar la diversidad ontológica y epistemológica, así como de promover el diálogo intercultural y el pluralismo ecológico. Le ofrecemos los siguientes materiales que podrían ser de su interés:

• El libro The Master Algorithm: How the Quest for the Ultimate Learning Machine Will Remake Our World (2015), de Pedro Domingos, que explica cómo la IA busca encontrar el algoritmo universal que explique y prediga todo lo que ocurre en el mundo.
• El libro The Invention of Nature: Alexander von Humboldt’s New World (2015), de Andrea Wulf, que narra la vida y las ideas del naturalista alemán que descubrió la complejidad y la diversidad de la naturaleza.
• El documental The Seeds of Vandana Shiva (2021), que cuenta la historia y el legado de la activista india que lucha por la soberanía alimentaria y la justicia ambiental.

En conclusión, podemos decir que la IA es un fenómeno complejo y polémico, que genera tanto beneficios como riesgos para la humanidad. La IA ha sido objeto de crítica por parte de diversos autores y colectivos, que han cuestionado su desarrollo y su impacto desde diferentes perspectivas y ámbitos. Estas críticas nos invitan a reflexionar sobre los aspectos éticos, sociales y culturales de la IA, así como sobre las alternativas y resistencias que se pueden generar desde la sociedad civil. Sin embargo, también plantean algunas limitaciones y problemas, como la falta de consenso, la dificultad de implementación o el riesgo de simplificación. Por ello, es necesario seguir investigando y debatiendo sobre la IA, desde una visión crítica, creativa e interdisciplinaria. Algunas preguntas o sugerencias que podrían orientar este proceso serían:

• ¿Qué criterios o principios deberían guiar el diseño, la implementación y el uso de la IA?
• ¿Qué mecanismos o instituciones deberían regular y controlar la IA?
• ¿Qué actores o sectores deberían participar en el desarrollo y el uso de la IA?
• ¿Qué beneficios o riesgos tiene la IA para el bienestar humano y el medio ambiente?
• ¿Qué tipo de educación o formación se necesita para fomentar una ciudadanía crítica y responsable frente a la IA?