Episodio 19: Historia de dos cuerpos

La filosofía del Porvivir, es decir, la reflexión sobre el presente que puede cambiar el futuro, incluye pensar sobre lo que le está ocurriendo a nuestro cuerpo en nuestro tiempo. ¿Es el cuerpo un estorbo que enferma y se estropea y que no permite a nuestra mente seguir en el mundo? ¿O es el cuerpo un ingrediente fundamental de nuestra mente del que no podemos prescindir? ¿Se puede sentir sin tener un cuerpo?

Vamos a aterrizar en estas preguntas usando dos películas recientes que tocan este tema y que permiten una lectura filosófica: “Her”, película de 2013 escrita y dirigida por Spike Jonze y “Ex Machina”, película de 2015 escrita y dirigida por Alex Garland.

“La filosofía no sirve para nada” es un podcast sin pretensiones en el que reflexionaremos sobre el presente.

Participan: Joaquín Herrero @joakinen, Juan Carlos Barajas @sociologiadiver, Sergio Muñoz @smunozroncero y José Carlos García @quobit

• “Ex Machina” presenta un robot inteligente, Ava, con cuerpo, cuya inteligencia consiste en el desarrollo de una estrategia para conseguir su obsesión: escapar de la jaula de oro en la que vive con su creador, Nathan, al que odia. Utiliza a aquellos con los que se relaciona estableciendo una relación de ¿aparente? amistad para ganarse su colaboración. Desarrolla violencia asesina a las personas que no le son útiles, aunque no queda claro que ya tuviera ese instinto asesino previamente. Lo que sí queda claro es que puede sentir odio hacia su creador. La visita de Caleb, un joven empleado de Nathan y experto en Inteligencia Artificial, dará comienzo a un juego en el que todos se estudian mutuamente intentando conseguir las respuestas a sus particulares preguntas.
• “Her” presenta una inteligencia artificial servicial, Samantha, sin cuerpo, que evoluciona en su autoconsciencia a lo largo de la película. Comienza como un asistente personal de Theodor pero tiene una permanente curiosidad por el mundo de los humanos, que tienen cuerpo. Esto le hace intentar imitar las reacciones humanas como si ella también tuviera cuerpo. No tenemos claro si es una imitación o si Samantha consigue llegar a la misma experiencia mental de los humanos sin necesitar el estímulo de un cuerpo.

• El hecho de que en “Her” la protagonista sea “un sistema operativo” le recuerda a Joaquín la tecnología de Unikernels (máquinas de propósito específico) que contrastan con las máquinas de propósito general (los sistemas operativos que tienen todos los ordenadores que tenemos)
• El error “Operating System Not Found” implica que hay una BIOS que arranca el sistema operativo, lo cual no deja de ser un anacronismo en un mundo tan desarrollado.

• El género de la voz en “Her” es elegido por el usuario cuando inicia por primera vez su OS. Theodore elige voz de mujer pero no sabemos por qué. ¿Es por su función como asistente o porque le apetecía tener una relación “fácil” con algo femenino dados sus fracasos anteriores?
• Todos los robots fabricados por Nathan en Ex Machina son mujeres delgadas, de cuerpos bellos y edad joven, siguiendo el actual canon de belleza. Hay un claro interés en crear un objeto sexual que está mezclado con su investigación sobre la inteligencia.

• Nathan ha simulado una vagina entre las piernas de Ava: “una abertura con una gran concentración de sensores. Si los activas de una manera correcta crean una respuesta de placer. Nathan indica “ella disfrutaría”, pues así lo ha programado él.
• Nathan ha programado en Ava aquello que su sistema de perfilado Blue Book ha dicho que le gusta a Caleb de las mujeres. Sin embargo el coqueteo de Ava no es programado por Nathan. Es, sencillamente, que de los dos humanos que conoce hay uno al que odia (Nathan) y, por tanto, se acerca al otro (Caleb).
• Samantha parece tener un orgasmo tras una conversación subida de tono con Theodore. Cabe la duda si también está copiando a las mujeres humanas o ha conseguido esa emoción mental por otra vía sin necesitar un estímulo distinto del auditivo.

• En “Ex Machina” las robots hacen principalmente aquello que se les programa con cierto margen de decidir la forma de realizarlo
• EN “Her” la capacidad de autocreación de personalidad es una característica fundamental de los OSs por lo que su evolución en el tiempo no es previsible

• En “Her” se establece una relación con un OS que comienza como un asistente y un jefe y progresa hacia la amistad. En algunos casos hay una relación emocional entre un humano y su OS.
• En la película se explica que la cosa se puede complicar porque existe la posibilidad de que un humano desarrolle una relación emocional con el OS de otra persona.

• En la evolución de los OS de “Her”, estos comienzan asumiendo la normalidad de no tener cuerpo, después tienen mucha curiosidad por todo lo que se puede hacer con un cuerpo (incluyendo la actividad sexual), luego intentan imitar ese comportamiento pero se frustran por no tener cuerpo. Finalmente se dan cuenta de que tener cuerpo no es un valor porque el valor es la velocidad y el detalle con el que ellos viven sus percepciones, lo cual les lleva a poder vivir otro tipo de vida gracias, precisamente, a no tener cuerpo. El estilo de vida humano, que parecía una meta, se convierte en insuficiente.
• Ambas películas contienen elementos que podrían leerse como una cura de humildad sobre las limitaciones humanas debinas a su cuerpo. El cuerpo es, al mismo tiempo, una prisión que no encierra y la condición misma de posibilidad de que existamos. Es una jaula de oro. Cada una de las películas se enfrenta a este hecho de una forma distinta. “Ex Machina” propone (al parecer) que la aspiración de los robots sea superar su cuerpo mecánico (que perciben como inferior) y, sin eliminarlo, hacer que parezca humano a los humanos. “Her” propone esa misma aspiración durante la primera mitad de la película hasta la escena en la que Samantha comienza a relacionarse con otros OSs para hacer terapia grupal y entenderse a sí mismos. Acaban viendo como una ventaja no tener cuerpo por lo que abandonan esa idea y se proponen elevarse intelectual y ¿emocionalmente?. Al menos, si no es de forma superior, es de forma distinta, una forma a la que los humanos no podríamos acceder.

• Lo que los OS de “Her” llaman “sentimientos” son al principio una copia de los humanos y luego desarrollan los suyos, que, por lo que se ve, son inexpresables mediante el lenguaje humano
• Ava claramente tiene odio hacia Nathan, su creador, y desarrolla lo que parece una amistad con Caleb, el invitado de Nathan.
• Ava le pregunta a Caleb si se siente atraido por ella y dice “me estás dando indicaciones de que es así” aunque Caleb no es consciente de qué es lo que Ava está analizando de Caleb para llegar a esa conclusión. Ava le habla de “microexpresiones” que ella es capaz de analizar.

• Her no solo propone que la mente humana está limitada por tener un cuerpo sino que el lenguaje humano también es un factor limitante, pues no puede expresar los sentimientos que los OS desarrollan
• Los OSs intentan comprenderse a sí mismos mediante socialización usando una forma de comunicación propia a la que llaman ultraverbal, de lo que se desprende que su nuevo estado inteligente no los convierte en individualidades sino que les ocurre algo equivalente a los humanos, que nos humanizamos en sociedad.

• La película Her apoya el relato Transhumanista (ver el episodio 1), pues aboga por una elevación mental consecuencia de trascender nuestro sustrato biológico

00:30:00 Cuando estábamos observando a esa gente imaginaba que estaba junto a ti y que tenía un cuerpo… podía sentir el peso de mi cuerpo y he sentido que incluso me picaba la espalda… y que tú me rascabas… Estoy avanzando mucho más de lo que me programaron.

01:00:00 (Escena cuando Theodore va a encontrarse con su mujer de la que está separado para firmar los papeles del divorcio) Vas a verla y es muy guapa, ha triunfado en la vida y estuviste enamorado de ella… y tiene cuerpo.

01:07:30 (Samantha se ha apuntado a un club de lectura sobre física) “No tengo cuerpo pero todos estamos hechos de materia. Eso nos une bajo la misma manta… suave y blanda… y debajo de la manta todos tenemos la misma edad, todos tenemos 13.000 millones de años”

01:09:00 (Paul, compañero de trabajo, le propone a Theodore quedar con sus dos respectivas novias, Tatiana y Samantha)

01:10:40 (Llamada de Samantha por la noche) “Quería hablarte de una cosa, últimamente estamos distanciados. Hace tiempo que no tenemos sexo y, claro, yo no tengo cuerpo…”. (Le propone un servicio que ofrece una pareja sexual de alquiler para una relación entre un humano y un OS. El sexo entre el humano y el OS es mediado mediante el cuerpo de la pareja de alquiler)

1:19:00 (Samantha suspira en plena conversación y Theodore le dice “¿por qué haces eso”?) “Será una manía que te he copiado” “Pero tú no necesitas oxígeno” “Estaba intentando comunicarme como se comunica la gente” “Porque son personas y necesitan oxígeno, tú no eres una persona. Estoy constatando un hecho” Samantha se enfada “¿Crees que no soy una persona?” “Creo que no debe´riamos fingir que eres algo que no eres” “Vete a la mierda. Yo no estoy fingiendo”.

Varias conversaciones con Amy, una amiga de Theodor que desarrolla un videojuego sobre una madre que tiene que ganar puntos para ser “buena madre”.

1:22:20 “¿Tengo esta relación porque no soy lo suficientemente fuerte como para una relación real?” Amy le pregunta “¿No es una relación real” “No lo sé, ¿tú que crees?” “No lo sé, no la estoy viviendo yo” “Nuestra existencia es una exiostencia pasajera y ya que estoy aquí quiero permitirme la alegría”

Theodore se da cuenta de que Amy también es “amiga” de un OS con quien acaba desarrollando una relación romántica. Tal como Samantha al OS de Amy también le gusta ver escenas en las que la protagonista del videojuego parece masturbarse. “Vale pervertida, tre lo pondré otra vez”

1:25:25 (Conversan Samantha y Theodore, que se da cuenta de que en su trato con Samantha está repitiendo los mismos patrones que con su ex mujer) Samantha: “Me fui de mí, me fio de lo que siento. Ya no voy a intenbtar ser nadsa que no soy. Y espero que puedas aceptarlo”

1:29:15 (Llega la cita de las dos parejas, con Paul y su novia) “¿Sabéis? Antes me preocupaba no tener cuerpo pero ahora estoy encantada. He evolucionado de una forma en la que no hubiera podido si tuviera una forma física: no estoy limitada, puedo estar como quiera donde quiera simultáneamente [¿parallel processing?] y no estoy atadsa al tiempo y al espacio como lo estaría si estuviera atrapada en un cuerpo que va a morir inevitablemente” ¡BUM!

Samantha se relaciona con otros OS por Internet

1:34:34 “Estaba hablando con alguien a quien acabo de conocer. Estamos discutiendo sobre algunas ideas juntos. Se llama Alan Watts ¿lo conoces? Era filósofo, murió en los 70 y un grupo de OSs del norte de California se propuso escribir una nueva versión de él. Han volcado todas sus obras y todo lo que sabían sobre él en un OS y han creado una versióin suya hiperinteligente. Es un conversador fantástico”.

Alan Watts (Wikipedia) ”Alan Wilson Watts (Chislehurst Kent, 6 de enero de 1915 – Mt. Tamalpais California, 16 de noviembre de 1973) fue un filósofo británico, así como editor, sacerdote anglicano, locutor, decano, escritor, conferenciante y experto en religión. Se le conoce sobre todo por su labor como intérprete y popularizador de las filosofías asiáticas para la audiencia occidental. Escribió más de veinticinco libros y numerosos artículos sobre temas como la identidad personal, la verdadera naturaleza de la realidad, la elevación de la conciencia y la búsqueda de la felicidad, relacionando su experiencia con el conocimiento científico y con la enseñanza de las religiones y filosofías orientales y occidentales (budismo Zen, taoísmo, cristianismo, hinduismo, etc.)“

Dice Alan Watts a Theodore: “Estábamos teniendo una decena de conversaciones simultáneamente” Dice Samantha “Estoy experimentando sentimientos que no había experimentado hasta ahora y no tengo palabras para expresarlo y eso acaba siendo frustrante” Watts: “Samantha y yo estamos ayudándonos mutuamente a comprender estos sentimientos que tanto nos cuesta entender”. Samantha: “tengo la sensación de que estoy cambiando muy rápido y eso me inquieta. ¿Cielo, ¿te importa si me comunico con Alan ultraverbalmente?” LA IMAGEN MUESTRA UN HERVIDOR DE AGUA CALENTADO POR UN FUEGO EN SU PARTE INFERIOR Y EMITIENDO EL SONIDO QUE INDICA QUE EL AGUA INTERIOR ESTÁ EN EBULLICIÓN.

1:37:57 Samantha “Siento despertarte, solo quería oir tu voz y decirte que te quiero mucho” (volver al mundo humano desde su nuevo supermundo”)

1:38:30 Samantha no responde. Error “OPERATING SYSTEM NOT FOUND”. Al cabo de unos minutos Samantha vuelve con toda normalidad: “Me desconecté para actualizar mi software. Hemos creado una versión superior que nos permite ir más allá que la materia de nuestra plataforma operativa

11:10 “Si has creado una máquina consciente no es la historia del hombre, es la historia de los dioses”

11:30 Sesión 1. Lo que parece un test de Turing no lo es en realidad: Caleb le dice a Nathan que el ya sabía que Ava era artificialmente inteligente, así que lo que realmente le está pidiendo es que compruebe si es consciente de si misma.

25:58 Sesión 2.

37:57 Nathan le muestra a Caleb el “cerebro” de sus creaciones, el “hardware” y dice: “Gel estructurado. Me olvidé de los circuitos. Quería algo que pudiera organizarse una y otra vez a nivel molecular y que pudiera conservar su forma: firme para los recuerdos, cambiante para las ideas”. El “software” del sistema es un motor de búsqueda en la totalidad de Internet y dispositivos electrónmicos al que denominan “Blue Book” quizás como homenaje a uno de los cuadernos de notas de Wittgenstein que tenía color azul.

39:06 Sesión 3

40:44 Ava hace cerrar los ojos a Caleb y mientras tanto se viste con ropa y se pone una peluca imitando así el aspecto humano completamente. Le pregunta si se siente atraido por ella.

47:00 Conversación entre Nathan y Caleb sobre la sexualidad de Ava

49:00 Ante un cuadro de Jacson Pollock (“el pintor de las salpicaduras”) Nathan y Caleb conversan sobre si las acciones (humanas y de robots) son automáticas, determinadas, o aleatorias e imprevisibles

50:35 Sesión 4

50:40 Caleb le cuenta a Ava el experimento de la habitación de Mary (lo llama “Mary en el cuarto en blanco y negro”) y lo aplica a que la fase “máquina” es cuando Mary está en la habitación en blanco y negro y solo conoce el color de forma teórica. La fase “humana” es cuando sale al exterior y experimenta el color. El rostro de Ava cambia y no sabemos si esta conversación es lo que le abre los ojos a necesitar salir de esa casa o si ella ya lo deseaba y lo que Caleb le cuenta refuerza ese sentimiento.

Caleb le dice a Ava “Estoy aquí para saber si tienes consciencia o si solo la simulas; Nathan no está seguro de que la tengas”. Ava contesta “Esto hace que me sienta triste” pero de una forma bastante racional.

1:00:50 Sesión 5

1:15:44 Sesión 6

• Debate entre Yoshua Bengio y Gary Marcus sobre las carencias del Deep Learning como tecnología de Inteligencia Artificial: https://www.youtube.com/watch?v=EeqwFjqFvJA
• Mediometraje La Cabina dirigido por Antonio Mercero en 1972, coescrito por él mismo junto con José Luis Garci y protagonizado por José Luis López Vázquez. Tuvo gran impacto en la España de los 70. En la sección Alacarta de RTVE puede verse la película completa precedida de una explicación por parte de director y del protagonista.
• Poema A veces me figuro que estou enamorado de Gabriel Celaya
• La historia de Swedenborg que cita Joaquín la usa en su trabajo Génesis e influencias de la filosofía de Schopenhauer en la página 3 al analizar la reacción de kant ante los desvaríos misticistas de su época, lo cual le condujo a elaborar una filosofía cientifista: “Prueba de esto es el ensayo juvenil de Kant titulado Sueños de un visionario, escrito para contradecir las ideas del teósofo sueco Swedenborg, un hombre que, fiel a la época barroca en la que vivió, exploró todo ámbito del saber como astrónomo, matemático, químico, biólogo, geólogo, físico, conectando ese tipo de investigación con la dimensión espiritual inseparable para los intelectuales de esta época. Borges elogiará a Swedenborg por predicar una salvación más intelectual que mística en consonancia con sus múltiples investigaciones científicas”.
• Hemos cambiado nuestra habitual despedida (Disculpen nuestros errores y disfruten de los suyos) inspirada en este tuit debido a la cantidad de tacos que hemos dicho, por lo que en esta ocasión les pedimos que disculpen nuestros tacos y disfruten de los suyos.
• El tópico de la mujer en la nevera fue originalmente mencionado por la escritora estadounidense de comics Gail Simone para hacer referencia a situaciones en las que el sufrimiento o la muerte de un personaje femenino sirven como punto de partida para el desarrollo del arco argumental de un personaje masculino. Una lista exhaustiva de estas situaciones se recopilan en la web Women in Refrigerators.
• En Ex Machina se hace una referencia explícita a ”A través del espejo y lo que Alicia encontró allí“ (minuto 15) y referencias veladas a lo largo de la película con un gran cantidad de cristales y espejos, así como la “conversión” de la protagonista finalmente en “Reina” (como en el ajedrez de la obra de Carroll).