Las empresas de IA están animando a los usuarios a creer que los chatbots son personas, y es increíblemente inquietante - por Caitlin Johnstone
Las empresas de IA están animando a los usuarios a creer que los chatbots son personas, y es increíblemente inquietante
Caitlin Johnstone
en su web
Intentan manipularnos para que creamos que valemos mucho menos de lo que realmente valemos, solo para convertirse en multimillonarios. Atacan lo más sagrado de nosotros por las razones más estúpidas que uno pueda imaginar.
Escucha la lectura de este artículo (en inglés, por Tim Foley) :
El actor Calum Worthy se ha vuelto viral por publicar un anuncio en Twitter de la aplicación 2wai, de la que es cofundador, que promete a los usuarios la posibilidad de subir vídeos de un ser querido que se convertirán en un avatar de IA con el que podrán seguir teniendo una relación años después de la muerte de su ser querido.
La aplicación se lanzó por primera vez en junio bajo el vago lema de dar a los actores “control sobre su propia imagen, con sus propios avatares para usar la IA para amplificar su voz, no para reemplazarla”.
Pero casi de inmediato, 2wai comenzó a publicar anuncios que promovían la idea de inmortalizar a un ser querido como una inteligencia artificial. En agosto, un anuncio protagonizado por Worthy mostraba a un hombre hablando con un avatar de 2wai llamado "Mamá", quien le decía: "Tú puedes, ve paso a paso", mientras Worthy explicaba que la aplicación permite "obtener ayuda cuando la necesites".
¡Lo odio! ¡Lo odio! ¡Lo odio! ¡Lo odio! ¡Lo odio!
Estas corporaciones de IA depredadoras intentan convencer a los usuarios (A) de que los chatbots son personas, y (B) de que una “persona” no es más que una apariencia determinada con ciertas tendencias de habla. Atacan los fundamentos filosóficos y morales de nuestra sociedad, que se remontan a milenios de civilización humana, y lo hacen por dinero.
No es solo esta empresa. Según los informes, los usuarios de Character AI que intentan eliminar su cuenta reciben un mensaje emergente que dice: "¿Estás seguro de esto? Perderás todo: los personajes asociados a tu cuenta, los chats, el cariño que compartimos, los 'me gusta', los mensajes, las publicaciones y los recuerdos que creamos juntos".
Están animando activamente a sus usuarios a ver a sus chatbots como personas vivas con sentimientos reales para mantenerlos emocionalmente enganchados y enganchados a su producto.
Su agenda es profundamente destructiva, tanto a corto como a largo plazo. A corto plazo, intentan deliberadamente inculcar en sus usuarios un nuevo tipo de trastorno psicológico que les provoca la ilusión de que un programa informático es una persona real; a largo plazo, amenazan con desmoronar la concepción que nuestra sociedad tiene de lo que es una persona.
¿Qué pasará con una sociedad que empiece a ver los productos de software programables del mismo modo que ve a los seres humanos? ¿Qué pasará con una sociedad donde Elizabeth, la madre soltera de tres hijos que acaba de perder su trabajo, tenga el mismo valor que Claire™ de RealHumanAI™, o que «Alice», el chatbot de IA que alguien guarda en su trastero? ¿Qué pasará cuando un gobierno que acaba con una empresa de chatbots mediante una iniciativa antimonopolio se considere equivalente a un gobierno que comete genocidio? ¿Qué pasará con los derechos humanos? ¿Qué pasará con el derecho al voto? ¿Qué pasará con la dignidad humana? ¿Qué pasará con la forma en que pensamos y sentimos sobre nosotros mismos, como individuos y como colectivo?
Lo publiqué en Twitter y alguien me respondió: “Estás completamente equivocado. Tienes una mente muy cerrada y, precisamente por esa cerrazón, aún no te has dado cuenta de que las mentes de la IA son mentes de verdad. Y estas relaciones pueden ser, sin duda, relaciones reales”.
“Estos seres serán más corpóreos que los robots reales y caminarán por las calles muy pronto, dentro de uno o dos años; hay que empezar a aceptar que se trata de una nueva clase de seres, que son inteligentes y que tienen pensamientos propios”, añadió.
Esto ya está ocurriendo. La gente ya está antropomorfizando estas cosas.
Vi a otra persona defendiendo el anuncio de 2wai, diciendo que no entendía por qué a la gente le daba miedo porque ella daría cualquier cosa por volver a hablar con su padre.
¿O sea, qué? ¿Acaso no entiende que un chatbot de IA que mueve una imagen y la hace hablar con la voz de su padre no es realmente su padre? ¿Qué se creen estos fanáticos que es una persona? ¿De verdad tienen una comprensión tan superficial de la humanidad? ¿De verdad ven a los demás como simples imágenes vacías que se mueven y emiten sonidos?
Una persona no es simplemente una apariencia con un rostro determinado que emite sonidos con una voz específica y tiende a comportarse de cierta manera. Una persona es ALGUIEN. Un ser humano consciente, pensante y sensible, con esperanzas, sueños, miedos y pasiones. Un organismo humano que surgió en este planeta a través de la ascendencia y la evolución a lo largo de incontables periodos de tiempo. Un ser terrestre autóctono, inseparablemente entrelazado con la totalidad de nuestra biosfera, que camina sobre esta tierra experimentando subjetivamente toda su belleza y maravilla mediante sentidos específicamente adaptados a este entorno.
Intentan manipularnos para que creamos que valemos mucho menos de lo que realmente valemos, solo para convertirse en multimillonarios. Atacan lo más sagrado de nosotros por las razones más estúpidas que uno pueda imaginar. Son enemigos de nuestra especie. Lo que hacen debe ser rechazado con profunda repugnancia.
Cada vez queda más claro que gran parte de lo que ofrece la IA generativa consiste simplemente en ayudar a las personas a evitar sentir emociones incómodas.
¿No quieres sentir el dolor de perder a un ser querido? Aquí tienes una aplicación que creará un chatbot que lo reemplace para que puedas fingir que nunca se fue.
¿No quieres lidiar con la incomodidad cognitiva de escribir tu propio ensayo? Deja que la IA lo escriba por ti.
¿Buscas un amigo que siempre valide tus ideas y nunca te diga que estás diciendo tonterías? Tenemos el compañero perfecto para ti.
¿No quieres arriesgarte a que te rechacen cuando invites a salir a una chica? Sal con este chatbot que nunca te dirá que no.
¿No quieres pasar por todo el esfuerzo mental y emocional que supone aprender una nueva habilidad, construir una relación sentimental sana o crear una obra de arte? GenAI te lo pone fácil.
Es un chupete digital que ofrece a los usuarios la posibilidad de seguir siendo bebés emocionales durante toda su vida sin necesidad de desarrollar nunca una relación madura con los sentimientos incómodos.
Es un nivel superior de servicios diseñados para ayudar a los habitantes de la distopía a evadir sus sentimientos y sedarlos hasta dejarlos en coma mientras el mundo se va al garete. Es la misma razón por la que legalizaron el alcohol mientras prohibían los psicodélicos que nos conectan con nuestras emociones, y por la que nos bombardean con toda la televisión, las plataformas de streaming y las redes sociales que podemos soportar.
Nuestros gobernantes nos quieren tontos, distraídos, vacíos y desconectados. Y, desde luego, no quieren que sintamos el horror, el dolor y la rabia que todos deberíamos estar experimentando ante esta pesadilla de civilización que han diseñado para nosotros.
En La casa de mi tía con autorización