proyectos:westworld:notas

Westworld - Notas

«¡Oh dicha de entender, mayor que la de imaginar o la de sentir!».
— Jorge Luis Borges, “La escritura de Dios”, de “El Aleph”

“La conciencia se conmueve sobre su emoción, la intensifica. Cuanto más se huye, más miedo se tiene.”
Jean-Paul Sartre

El parque Westworld no tiene contratado a ningún filósofo. Y debería.

Hegel: filosofía del presente

"Modo análisis"

Descripción del “modo análisis” en Westworld“

Cuestiones

  • ¿Son las emociones algo separado y distinto de la vida racional?
  • ¿Podemos los seres humanos hacer un análisis objetivo de las razones por las que hacemos las cosas?
  • ¿Podemos pensar sin emociones?

A los filósofos les ha interesado siempre este tema, como vamos a ver, pero en el siglo XXI la cuestión de la inteligencia ha cobrado una importancia sobresaliente puesto que la Inteligencia artificial ha dejado de ser un objeto de estudio para ser algo cotidiano. Muchas de nuestras acciones actuales ya se apoyan, aunque no seamos conscientes de ello, en la inteligencia artificial.

  • ¿Qué es la inteligencia?
  • ¿Son las máquinas inteligentes de la misma forma en que lo es el ser humano?
  • ¿Hay distintas formas de ser inteligente?
  • ¿Qué importancia tienen los recuerdos en la configuración de nuestra personalidad? (Bergson…)
  • ¿Qué es la autoconciencia? ¿Cómo se es consciente de uno mismo?

De la "cosificación de lo humano" a la "humanización de la cosa"

¡Qué limpio estaba todo y qué sucio está ahora!

La idea de que nuestra vida interior consiste en mecanismos lógicos de evaluación de situaciones para obtener conclusiones es bien antigua. Respecto a ideas filosóficas podríamos retrotraernos a Descartes y su idea de que los seres humanos estamos hechos de dos piezas, una material y una espiritual. La pieza material es todo aquello que vemos y tocamos de nuestro cuerpo, la res extensa, y la pieza espiritual es todo aquello que sabemos que existe pero no podemos tocar: nuestros pensamientos, nuestras emociones. La pieza espiritual actuaría como una especie de conductor-director de nuestro cuerpo, que sería, en realidad, el medio de transporte de nuestra mente. Esta concepción dualista del ser humano que tenía Descartes Descartes fue bautizada como Ghost in the machine1) por el filósofo Gilbert Ryle en su libro de 1949 The Concept of Mind y hemos podido verla en innumerables obras de ficción.

La serie de manga y anime Mazinger-Z, creada por el dibujante japonés Gō Nagai, se sirve también del concepto ghost in the machine para proponernos un robot con forma humana pero cuyo piloto, que no por casualidad se sitúa en el interior de su cabeza, es un humano. Es la mente del humano que actúa como piloto la que decide cómo se mueve Mazinger y qué superpoderes debe usar en cada momento. El robot es sencillamente un cuerpo, independiente de la mente que decide. Un cuerpo como medio de locomoción de una mente.

https://es.wikipedia.org/wiki/Lucy_(pel%C3%ADculade2014) usar el 100% de la mente, entonces podemos prescindir del cuerpo

Mucho más sutil es la película Inside-out (Pixar, 2015) transcurre en la mente de una niña llamada Riley2) donde podemos ver que su mente es un gran panel de control que dirije su comportamiento pero a cuyos mandos no hay una “inteligencia” sino cinco emociones que se turnan, no sin conflicto, por estar a los mandos: la Alegría, la Tristeza, el Miedo, el Desagrado y la Furia. En Inside-Out los sentimientos serían esenciales al ser humano, y nuestra conducta es inteligente o no en función de si la mezcla de emociones usada para tomar decisiones ha sido la más apropiada para obtener un buen resultado.

Lo interesante de todas estas representaciones de la mente humana es que en todas ellas hay un aspecto común: al tomar una decisión, el ser humano tiene disponibles todos los elementos que necesita para evaluar qué debe hacer. La inteligencia, según este punto de vista, consistiría en hacer un cálculo muy simple para el cual no hace falta calculadora sino una balanza. Hay que pesar las ventajas de cada decisión y compararlo con el peso de los inconvenientes de esa decisión. La balanza claramente nos dirá cómo decidir en función de si pesan más las ventajas o los inconvenientes de lo que nos proponemos.

Esta inteligencia se denomina racional porque se dedica a hacer algo que en latín se denomina ratio, que consiste en lograr encontrar la relación que hay entre dos cosas distintas, su ratio o razón.

Un gran apoyo a esta idea de mente calculadora de razones lo dio el filósofo Immanuel Kant, que imaginó la mente como un sistema de categorías y juicios que permitían ordenar lo que la mente recibía del mundo exterior y decidir sobre si lo recibido era bueno o malo. Kant profundizó aún más en la idea de Descartes, postulando los mecanismos efectivos de funcionamiento de la razón separada del cuerpo aunque dentro de él, con sus propios mecanismos lógicos de evaluación de la realidad exterior que nos llega a través de los sentidos.

Esta idea podemos decir que ha triunfado y ha definido toda una época en la historia del pensamiento, época a la que llamamos Modernidad, en la que el ser humano confía en su inteligencia razonadora para ordenar el mundo y se empieza a independizar de inteligencias superiores, atreviéndose a pensar por sí mismo.

Podemos denominar limpia a esta visión de la mente humana, porque parece que no deja ningún lugar oscuro: la inteligencia consiste en razonar y podemos construir una ciencia que, a base de razonar, nos lleve a conocer el mundo. Una mente limpia, es decir, sin zonas oscuras y desconocidas, da lugar a una ciencia limpia, que consiste en aplicar criterios lógicos y metodológicos a las obervaciones.

Todo era limpio hasta que llegó alguien y empezó a ponerlo todo perdido de rincones oscuros en la mente humana. Ese hombre fue Sigmund Freud.

¿A qué llamamos suciedad? A la complejidad.

Freud

Anatta

Claves fenomenológicas

Memoria e intencionalidad

  • ¿Sin memoria se puede ser autoconsciente? No, según Bergson
  • ¿Se llega a la autoconsciencia por vía de la intencionalidad? Husserl

Si impido que recuerdes… entonces ¿qué?

  • ¿se impide la autoconsciencia?
  • ¿Se impide la intencionalidad?

Gerd Gigerenzer

Modelos y simulaciones

La filosofía info-computacional

Referencias

Las filosofías de la existencia (Merleau-Ponty y Sartre) consideran la esencia desde un punto de vista fenomenológico: la esencia se va haciendo en la existencia. En Westworld se plantea en cambio una esencia de dentro-a-afuera (un cambio de código consistente en no borrar recuerdos hace que los autómatas salten a un nivel superior de conciencia). Según la fenomenología la acción humana en un mundo es lo que crea al hombre y al mundo. Ver fenomenologias-de-la-existencia.

Resulta interesante que el análisis de lo humano que podemos hacer en Westworld no se basa en la categoría de “trabajo” sino en la de “ocio”, lo cual permite superar Escuela de Frankfurt. FIXME

Dos derivadas de esto: la memoria permite que surja el concepto de vivencia y el la vivencia permite valorar acierto/error

  • Westworld plantea los recuerdos como base fundamental de la esencia humana, diferenciándose de la fenomenología que presenta las vivencias como fundamento. En ese sentido incide en un punto fundamental: sin capacidad de memoria no habría vivencias. Esto lo desarrollo en “Aportaciones computacionales…” en el apartado “la memoria, componente fundamental de una teoría estética”.
  • Elogio del error: “Podemos programar un ordenador para sumar una columna de cifras o multiplicar números sin error. Si queremos simular la conducta humana, nosotros no haremos eso. En vez de esos (como se ha hecho en el estudio de los «fallos» aritméticos de los niños), escribiremos programas que reproduzcan los tipos de errores que nuestros sujetos humanos cometen, y de ese modo proporcionamos perspicacia en los fallos (desde un punto de vista lógico) de los programas humanos” (Simon, 2001)

“El comprender es siempre un comprender afectivamente templado” Heidegger, Ser y Tiempo §31

“La empatía es, para Husserl, el modo originario de acercarnos al otro. Piensa, a diferencia de Hume, que la predisposición humana a la asociación tiene siempre un sólido fundamento intelectual. Nosotros diríamos, siguendo en esto a Husserl, que los sentimientos y la razón forman una unidad dialéctica en el hombre y en su socialidad” (Mari Carmen López Saenz, Corrientes actuales de la filosofía, Dykinson, 2016)

Lógica difusa: http://www.cs.us.es/~fsancho/?e=97

El problema del marco (frame problem)

el problema de marco fue inicialmente señalado por Mc Carthy (1969) al discutir una forma de razonamiento lógico acerca del mundo (luego llamado cálculo de situaciones). La cuestión surgió cuando los investigadores en Inteligencia Artificial intentaron construir un modelo de computación que imite la conducta humana cotidiana. Frente a la posibilidad de realizar una tarea de razonamiento común, aparecieron dos grandes problemas: i) el crear un sistema que tenga la información almacenada de modo tal que el sistema pueda acceder a la información correcta y relevante en el tiempo apropiado y ii) el conseguir que ese sistema reconozca los rasgos importantes del entorno dinámico en el que se encuentra inserto.

http://revistas.uned.es/index.php/RIA/article/view/591

Un primer paso hacia una teoría estética usando modelos computacionales supone naturalizar la conexión en la mente humana entre las percepciones sensibles y las capacidades simbólico-lógicas mediante la elaboración de modelos que no recurran a la falsa salida de un dualismo, como le sucedió a Kant con su doble definición de Juicio y que llevó a la heautonomía del juicio estético, sino que consigan ofrecer una explicación unificada que presente ambos fenómenos como diferentes aspectos de un mismo hecho fundamental, como intentó hacer Schopenhauer.

En el trabajo titulado Preconceptual creativity 209 , presentado este año 2015 en la sexta edición de la International Conference on Computational Creativity, Tapio Takala muestra que, tal como afirmaba Schopenhauer, la teorización sobre los mecanismos de la comprensión humana requiere tomar en cuenta tanto los sistemas que Kant consideraría superiores y que tratan con la lógica, el lenguaje y las reglas de inferencia, como los inferiores, es decir, las áreas de la percepción, que ahora sabemos que tratan con los circuitos neuronales, la memoria asociativa y la inferencia estadística, aspectos estos que Kant despachaba con la expresión «el contenido empírico de la intuición nos es dado», como ya hemos visto.

Esta conexión resulta aún problemática y aún hoy es descrita como el “problema del marco” (frame problem 210 ), que se refiere cómo la conexión entre estas dos capacidades permite identificar la novedad, base de la creatividad humana, esto es, el proceso por el cual la mente es capaz de identificar lo que no cambia cuando algo cambia. Aún no podemos explicar cómo funciona este proceso de identificación que requiere el concurso de ambos sistemas, el perceptivo y el lógico, y, por ello, en las simulaciones de ordenador que se realizan, se suele simular mediante listas predefinidas por el experimentador de aquello que no cambia.

El objetivo del trabajo de Takala es justamente identificar ese mecanismo que, basado en la cooperación entre nuestras capacidades simbólicas y las sensoriales, nos ayuda a identificar la novedad demostrando cómo es posible hacerlo mediante la formación de representaciones primitivamente conceptuales a partir de la información sensorial. Para ello sigue la estela de la Teoría de la enacción (enaction theory), que es una tercera alternativa a las escuelas de pensamiento denominadas cognitivismo y emergentismo. Se considera la enacción como la manera particular de estar en el mundo un organismo, que se concibe como una constante interacción con este, metodología que permite empezar a relacionar de forma teórica procesos físicos que hasta ahora solo podían ser estudiados desde un punto de vista biológico con procesos mentales. Una buena referencia para el estado actual de estas investigaciones se encuentra en (Stewart, et al., 2010) donde incluso se llega a proponer modelos en los que los procesos básicos del metabolismo contienen el germen de los procesos de más alto nivel: la conciencia reflexiva, tal como hace Renaud Barbaras en la mencionada obra colectiva.

Pues bien, este tipo de interacción que propone la teoría de la enacción permite a Takala construir con la experiencia sensible lo que denomina “conceptos subsimbólicos”, los cuales “facilitan una conducta más eficiente pues las percepciones son inmediatamente categorizadas en clases previamente conocidas que pueden provocar reacciones preprogramadas” 211 , reservando así las acciones nuevas, más relacionadas con el pensamiento conceptual, para las situaciones que surgen cuando las condiciones cambien.

Esto, efectivamente, supone una asunción por parte de nuestros mecanismos intuitivos de parte del trabajo que Kant reserva a los niveles superiores manteniéndose dentro de los automatismos de la mente que hace parecer que estos procesos suceden “sin interés”, principio a priori del juicio de gusto. Por tanto, aquello que, según Kant “nos es dado”, esto es, el contenido de la intuición, no sería solo empírico sino también conceptual (conceptos subsimbólicos), pudiendo descartarse así su afirmación de que “la intuición, al no ser pensamiento, tampoco es conocimiento, sino una simple afección de la sensibilidad, mera sensación” 212 y quedando nuestros hallazgos más cerca de la afirmación de Schopenhauer cuando decía que “Kant presupone que la ley de causalidad existe y es posible solo en la reflexión, esto es, en el conocimiento conceptual abstracto, claro, y no sospechó siquiera que la aplicación de la misma precede a toda reflexión, lo que es la verdad del caso, especialmente en la intuición empírica de los sentidos, que sin ella no podría realizarse” 213 .

Este proceso de formación de conceptos subsimbólicos que permiten identificar la repetición y la novedad, según Takala, tendría como base física la capacidad auto- organizativa de un conjunto de células en una “red neuronal biológicamente motivada” denominada SOM (Self Organizing Map) en la que cada célula proporcionaría un impulso de salida cuando es activada. Esta red neuronal sería capaz de recordar los valores de distribución estadística de ciertos impulsos sensoriales pues cada impulso activaría solo ciertas células y no las demás convirtiéndose así en una “máquina de aprendizaje no supervisada por conceptos” 214 que se comportaría como un dispositivo de clasificación de impulsos en función de la probabilidad de que cada célula proporcione su información como salida a un nuevo estímulo. En una red neuronal SOM surgen células similares junto a cada una de las que componen la red resultando así en una agrupación comunicada. Cuando en la red se pueden identificar grupos de células que reaccionan de igual forma ante el mismo estímulo podemos considerar cada una de esas regiones iguales como un concepto primitivo (preconcepto).

Esta hipótesis info-computacional permite aclarar lo que pudiera estar sucediendo en el escurridizo territorio de la conexión entre las percepciones sensoriales y la elaboración superior de conceptos y, nos interesa especialmente puesto que muestra un mecanismo independiente de conceptos que podría explicar la capacidad humana de identificar lo nuevo, imprescindible pieza esta para la elaboración de una teoría sobre la creatividad y el aprecio por la belleza.

Ya comentamos más arriba que la nueva metafísica que supone la perspectiva info- computacional considera que la categoría ontológica fundamental de la naturaleza es la de información y considera el universo compuesto por patrones estructurales y procesos. Aquí estamos viendo que esta nueva metafísica no se conforma con emitir postulados o hipótesis sino que sus propuestas están conectadas con la realidad biológica mediante la modelización computacional en redes neuronales artificiales que imitan el funcionamiento de las redes neuronales biológicas. Esto produce, en nuestra opinión, una reflexión filosófica de mayor calado, pues la simulación en redes neuronales permite poner a prueba las hipótesis y viceversa, el funcionamiento auto- organizativo de las redes neuronales permite proponer nuevas hipótesis filosóficas. Una vez vista la posibilidad de creatividad preconceptual vayamos a conocer las propuestas info-computacionales sobre el funcionamiento de la imaginación, otra de las piezas necesarias en nuestra investigación.

— Aportaciones computacionales a una teoría estética modal, Joaquín Herrero

Heidegger y el problema del marco

Husserl y el problema del marco

Marcuse como antídoto contra el pesimismo tecnológico

“El mejor proyecto es aquel que sea acorde con las posibilidades reales abiertas en el nivel alcanzado por la cultura material e intelectual y consiga demostrar su propia racionalidad para refutar la totalidad establecida. Esto excluiría cualquier romanticismo que mire al pasado, a formas de vida ya caducadas como ideales a los que regresar. marcuse piensa hacia adelante, piensa en cómo sería posible usar lo que hay desarrollado pero cambiándole la forma de uso, que cualquier tecnología o forma de vida no sea esclavizadora ni totalizante. ” Ver Filosofía continental en clave fenomenológica

El hombre unidimensional, página 248: “El proyecto trascendente debe estar de acuerdo con las posibilidades reales abiertas en el nivel alcanzado de la cultura material e intelectual”.

Inteligencia Artificial y autoconsciencia

Bibliografía

1)
el fantasma en la máquina
2)
¿un homenaje a Gilbert Ryle y su concepto de fantasma en la máquina?
proyectos/westworld/notas.txt · Última modificación: 2019/04/22 11:55 por Joaquín Herrero Pintado