Primera entrega:

La IA y las universidades (II): ¿Posicionamiento de las instituciones académicas frente al desarrollo tecnológico de la IA? - por José Manuel Castellano *

"Dedico la publicación de este modesto trabajo en La casa de mi tía, a Fernando Villavicencio asesinado vilmente en Quito. Descansa en paz. Mis condolencias a su familia, amigos y al pueblo ecuatoriano". 

En esta primera entrega de la serie, “La IA, la puerta de entrada a una nueva etapa histórica”, tras el preámbulo de presentación publicado previamente, nos centramos ahora en esbozar el posicionamiento institucional de las universidades con respecto al desarrollo tecnológico de la IA. Para ello, hemos revisado la documentación disponible sobre el posicionamiento de distintas universidades, tanto internacionales como ecuatorianas.

Esta búsqueda ha dado como resultado la inexistencia  de un posicionamiento institucional crítico de las universidades hacia la IA, aunque algunas manifestaciones encierren cierta preocupación por los posibles impactos negativos en el conjunto social.

Estos argumentos, por otra parte, son utilizados muy frecuentemente para justificar la creación de centros o institutos de investigación. De modo que, podemos afirmar que la inmensa mayoría de los centros universitarios apuesta abierta y decididamente por potenciar y desarrollar la IA, con apenas leves matices, como veremos a continuación.

En el caso de algunas universidades, como la de Oxford (Reino Unido), Pekín (China), Pretoria (Sudáfrica), entre otras, han puesto de relieve su preocupación ante los posibles efectos adversos de la IA en la sociedad, la democracia, los derechos humanos y el medio ambiente. En 2021, Oxford publicaba un informe, "El futuro de la IA: oportunidades y desafíos", donde recogía sus riesgos y beneficios. Entre el primer grupo, señalaba su uso para fines malintencionados, como la manipulación de la opinión pública, la vigilancia masiva y la posibilidad de exacerbar desigualdades y discriminaciones, e instaba a adoptar regulaciones que abordasen esos desafíos éticos y sociales, que está generando esta revolución tecnológica; aunque, al mismo tiempo, resaltaba el potencial de la IA en las mejoras de la vida social a través de la promoción de políticas y prácticas responsables. En ese sentido, se creaba el Instituto de Ética con el objetivo de abordar los desafíos éticos y sociales de la IA.

Asimismo, otro estudio de la Universidad de Oxford concluía que una IA muy desarrollada podría llegar a enfrentarse a los humanos, si perciben que éstos se interponen en su camino e intentan frenarla. Este estudio advierte sobre los riesgos de una IA mal diseñada o mal regulada y proponía una serie de principios éticos para evitar escenarios catastróficos. 

Por su parte, la Universidad de Pekín ha manifestado su preocupación por los posibles riesgos y daños de la IA frente a los Derechos humanos, a la diversidad cultural y al equilibrio ecológico. Mientras que un estudio de la Universidad de Stanford (EE.UU.) determinaba que la IA puede crear noticias falsas convincentes y difíciles de detectar.

En esa misma línea, una investigación de la Universidad de Granada (España) señalaba que los lectores tienen dificultades para identificar las noticias falsas, especialmente cuando se trata de temas políticos o sociales. Con un perfil más bajo se alinea la gran mayoría de las universidades, encuadradas dentro de una categorización conceptual generalizada de analizar “desafíos y oportunidades” de la IA.

Sin embargo, no todos los actores sociales comparten esta visión optimista de la IA. De hecho, muchos expertos, desde hace décadas, y algunas organizaciones, como abordaremos específicamente en una colaboración posterior, han alertado sobre los posibles escenarios catastróficos que se podrían derivar del uso de esta tecnología emergente, como el desempleo, los conflictos sociales, la falta de transparencia, el sesgo, la discriminación, la manipulación, la vigilancia, el ciberataque, los daños ambientales, la pérdida de control humano, el desarrollo armamentístico y biológico, la desigualdad, la extinción y un largo etcétera.

Por el contrario, la situación en Ecuador es bien diferente. Después de revisar todo el material al que hemos tenido acceso, podemos decir que tanto las instituciones públicas ecuatorianas (Consejo de Educación Superior, Consejo de Aseguramiento de la Calidad de la Educación Superior, SENESCYT, Ministerio de Educación, Asamblea Nacional y Gobierno ecuatoriano) y los centros universitarios de este país andino parecen vivir descontextualizados y de espaldas a la realidad actual en cuanto al desarrollo e impacto de la IA, pues no hemos detectado ni una sola manifestación, declaración o posicionamiento oficial, como tampoco ninguna propuesta o iniciativa dirigida a la regulación o normativa al respecto.

La única información disponible se reduce esencialmente a la producción de artículos académicos, que todavía se encuentra en una fase primaria, a la ejecución y desarrollo de algunos proyectos de investigación o a la cada vez más intensa oferta de programas de formación universitaria sobre la IA. Unas acciones éstas, que podrían concebirse, supuestamente, como una plena adhesión, sin ningún tipo de cortapisa, a favor de la IA. 

No obstante, desde nuestra perspectiva, podría ser posible que esas acciones estén fundamentadas simplemente en una estrategia de marketing mercantilista, en busca de ingresos complementarios y en una proyección mediática. Sería interesante conocer y evaluar la calidad de esos programas y sus contenidos, además, de indagar sobre posibles nexos con empresas o corporaciones tecnológicas, porque parece responder a una consolidación colonial, tanto interna como foránea, de un proceso de aculturación tecnológica. Unas actividades que están centradas específicamente en la simple promoción de cursos sobre el manejo y uso de la IA. Una fase que podría denominarse como previa, con la intencionalidad de crear “una necesidad básica”, para después proceder al “desembarco” de las tropas operativas de las empresas tecnológicas y, por tanto, continuar con la repavimentación del sendero histórico de la dependencia exterior y el reafianzamiento de desequilibrios en el escenario global, regional y local.

En definitiva, el posicionamiento general de los centros universitarios sobre la IA se podría definir de tibio, ambiguo, parcial y empecinado en “vender” sus bondades, beneficios y en apuntar muy superficialmente sus consecuencias, sin abrir espacios de discusión, reflexión, crítica, difusión y concienciación social. Esta actitud contrasta con el papel que se espera de las universidades como generadoras y transmisoras del conocimiento científico y humanístico, que debe estar al servicio del bien común y no al dictado de los intereses económicos y políticos dominantes. 

En ese sentido, resulta altamente llamativo que los cuestionamientos críticos hacia la IA provengan exclusivamente de los artífices y creadores de la IA y de insignes científicos y académicos independientes, que han planteado las graves consecuencias negativas para la humanidad desde diversos aspectos, como veremos en un número posterior en esta serie. En cambio, las universidades de forma unánime han adoptado una posición favorable a los intereses de las grandes corporaciones y siguen a pie juntilla los lineamientos marcados por UNESCO, el gran valedor de la IA, que la presenta como la tabla de salvación a todos los problemas de la humanidad y que viene a resolver conflictos sociales y a crear políticas públicas efectivas. Es en ese escenario donde la universidad participa en calidad de agente gregario y subordinado, dejando de lado su responsabilidad y compromiso con la sociedad, como espacio de pensamiento crítico e independiente. En definitiva, un ejemplo más, que viene a evidenciar que la universidad y las ciencias conviven a la sombra de los intereses del poder, de las grandes corporaciones, a cambio de prestaciones, migajas presupuestarias, en la creación de esos “kioscos de investigadores”, que vienen a satisfacer egos y personalismos en contra de los intereses generales.

* Gracias a José Manuel Castellano. Publicado originalmente en el blog del autor

http://jmcaste.blogspot.com/2023/08/la-ia-y-las-universidades-ii.html