La UE retoma el viernes la negociación de la ley de IA, tras avanzar en los puntos clave LA VANGUARDIA

Inteligencia Artificial: ¿abierta o cerrada?  Michael Roberts

El impactante despido de Sam Altman, el fundador de OpenAI, por parte de su propia junta directiva revela las contradicciones que surgen en el desarrollo de ChatGPT y otros modelos de "inteligencia artificial generativa" que impulsan la revolución de la IA.

¿La IA y estos modelos de aprendizaje de idiomas (LLM) traerán nuevos y maravillosos beneficios a nuestras vidas, reduciendo las horas de trabajo y elevando nuestro conocimiento a nuevas alturas del esfuerzo humano?; ¿O la IA generativa conducirá a una mayor dominación de la humanidad por las máquinas y a una desigualdad aún mayor de riqueza e ingresos a medida que los propietarios y controladores de la IA se conviertan en "los ganadores se lo llevan todo" mientras que el resto de la humanidad se "queda atrás"?

Parece que la junta directiva de OpenAI despidió a su líder 'gurú' Altman porque tenía 'conflictos de intereses', es decir, Altman quería convertir OpenAI en una enorme operación rentable respaldada por grandes empresas (Microsoft es el patrocinador financiero actual), mientras que el resto de los miembros de la junta continuaron viendo a OpenAI como una operación sin fines de lucro cuyo objetivo es difundir los beneficios de la IA a todos con salvaguardias adecuadas en materia de privacidad, supervisión y control.

El objetivo original de OpenAI era ser una empresa sin fines de lucro creada para beneficiar a la humanidad, no a los accionistas. Pero parece que el incentivo de las enormes ganancias estaba impulsando a Altman a cambiar ese objetivo. Incluso antes, Altman había creado un negocio independiente de chips de IA que lo hizo rico. Y bajo su dirección, OpenAI había desarrollado un brazo empresarial "con fines de lucro", que le permitió a la empresa atraer inversiones externas y comercializar sus servicios.

Como lo expresó el Financial Times : “esta estructura híbrida creó tensiones entre las dos “tribus” en OpenAI, como las llamó Altman. La tribu de la seguridad, liderada por el científico jefe y miembro de la junta directiva Ilya Sutskever, argumentó que OpenAI debe ceñirse a su propósito fundacional y solo implementar la IA con cuidado. La tribu comercial parecía deslumbrada por las posibilidades generadas por el éxito de ChatGPT y quería acelerar (es decir, ganar dinero). La tribu de la seguridad parecía haber ganado por ahora. “

Altman no es un científico, pero parece ser un gran hombre de ideas, un emprendedor en la tradición de Bill Gates (con Microsoft). Bajo Altman, OpenAI se ha transformado en ocho años de un equipo de investigación sin fines de lucro a una empresa que, según se informa, genera mil millones de dólares de ingresos anuales. Los clientes van desde Morgan Stanley hasta Estée Lauder, Carlyle y PwC.

El éxito ha convertido a Altman en el embajador de facto de la industria de la IA, a pesar de su falta de formación científica. A principios de este año, se embarcó en una gira global en la que se reunió con líderes mundiales, empresas emergentes y reguladores en varios países. Altman habló en la cumbre regional Apec Asia-Pacífico en San Francisco apenas un día antes de ser despedido.

Altman aparentemente tiene “una ambición feroz y una capacidad para conseguir apoyo” . Se le ha descrito como “profundamente competitivo” y un “cerebro”, y un conocido dijo que no hay nadie mejor para saber cómo acumular poder. Como resultado, tiene seguidores entre sus más de 700 empleados, la mayoría de los cuales firmaron una carta exigiendo su reintegro y la renuncia de la tribu de seguridad en la junta. 

OpenAI ha perdido 500 millones de dólares en el desarrollo de ChatGPT, por lo que estaba a punto de lanzar una venta de acciones por valor de 86.000 millones de dólares antes de la división en el tablero. Eso habría continuado con el enfoque sin fines de lucro. Ahora que Altman y otros se unen a Microsoft como empleados, parece que Microsoft puede absorber OpenAI por una miseria y así poner fin a la misión "sin fines de lucro" de la compañía.

Lo que todo esto demuestra es que quienes piensan que la revolución de la IA y la tecnología de la información serán desarrolladas por empresas capitalistas para beneficio de todos se están engañando. Las ganancias son lo primero y lo último, cualquiera que sea el impacto que la tecnología de IA tendrá sobre la seguridad y los empleos en la humanidad durante las próximas décadas.

Algunos temen que la IA se convierta en "parecida a Dios", es decir, una superinteligencia que se desarrolle de forma autónoma, sin supervisión humana y que, en última instancia, controle a la humanidad. Hasta ahora, la IA y los LLM no exhiben tal "superinteligencia" y, como he argumentado en publicaciones anteriores, no pueden reemplazar el poder imaginativo del pensamiento humano. Pero pueden aumentar enormemente la productividad, reducir las horas de trabajo y desarrollar nuevas y mejores formas de resolver problemas si se les da un uso social.

Lo que está claro es que el desarrollo de la IA no debería estar en manos de empresarios "ambiciosos" como Altman ni controlado por megagigantes tecnológicos como Microsoft. Lo que se necesita es un instituto de investigación internacional, no comercial, similar al Cern en física nuclear. Si algo requiere propiedad pública y control democrático en el siglo XXI ^, es la IA.

* Gracias a Michael Roberts y a la colaboración de Francisco Morote, de Attac Canarias

https://thenextrecession.wordpress.com/2023/11/21/ai-open-or-closed/