====== Westworld - Notas ====== «¡Oh dicha de entender, mayor que la de imaginar o la de sentir!». \\ --- Jorge Luis Borges, "La escritura de Dios", de "El Aleph" “La conciencia se conmueve sobre su emoción, la intensifica. Cuanto más se huye, más miedo se tiene.” \\ Jean-Paul Sartre ===== El parque Westworld no tiene contratado a ningún filósofo. Y debería. ===== Hegel: filosofía del presente ==== "Modo análisis" ==== Descripción del "modo análisis" en Westworld" ==== Cuestiones ==== * ¿Son las emociones algo separado y distinto de la vida racional? * ¿Podemos los seres humanos hacer un análisis objetivo de las razones por las que hacemos las cosas? * ¿Podemos pensar sin emociones? A los filósofos les ha interesado siempre este tema, como vamos a ver, pero en el siglo XXI la cuestión de la inteligencia ha cobrado una importancia sobresaliente puesto que la //Inteligencia artificial// ha dejado de ser un objeto de estudio para ser algo cotidiano. Muchas de nuestras acciones actuales ya se apoyan, aunque no seamos conscientes de ello, en la inteligencia artificial. * ¿Qué es la inteligencia? * ¿Son las máquinas //inteligentes// de la misma forma en que lo es el ser humano? * ¿Hay distintas formas de ser inteligente? * ¿Qué importancia tienen los recuerdos en la configuración de nuestra personalidad? (Bergson...) * ¿Qué es la autoconciencia? ¿Cómo se es consciente de uno mismo? ==== De la "cosificación de lo humano" a la "humanización de la cosa" ==== ==== ¡Qué limpio estaba todo y qué sucio está ahora! ==== La idea de que nuestra vida interior consiste en mecanismos lógicos de evaluación de situaciones para obtener conclusiones es bien antigua. Respecto a ideas filosóficas podríamos retrotraernos a Descartes y su idea de que los seres humanos estamos hechos de dos piezas, una material y una espiritual. La pieza material es todo aquello que vemos y tocamos de nuestro cuerpo, la //res extensa//, y la pieza espiritual es todo aquello que sabemos que existe pero no podemos tocar: nuestros pensamientos, nuestras emociones. La pieza espiritual actuaría como una especie de conductor-director de nuestro cuerpo, que sería, en realidad, el medio de transporte de nuestra mente. Esta concepción dualista del ser humano que tenía Descartes Descartes fue bautizada como //Ghost in the machine//((el //fantasma en la máquina//)) por el filósofo Gilbert Ryle en su libro de 1949 //The Concept of Mind// y hemos podido verla en innumerables obras de ficción. La serie de manga y anime //Mazinger-Z//, creada por el dibujante japonés Gō Nagai, se sirve también del concepto //ghost in the machine// para proponernos un robot con forma humana pero cuyo //piloto//, que no por casualidad se sitúa en el interior de su cabeza, es un humano. Es la mente del humano que actúa como piloto la que decide cómo se mueve Mazinger y qué superpoderes debe usar en cada momento. El robot es sencillamente un cuerpo, independiente de la mente que decide. Un cuerpo como medio de locomoción de una mente. https://es.wikipedia.org/wiki/Lucy_(pel%C3%ADcula_de_2014) usar el 100% de la mente, entonces podemos prescindir del cuerpo Mucho más sutil es la película //Inside-out// (Pixar, 2015) transcurre en la mente de una niña llamada Riley((¿un homenaje a Gilbert Ryle y su concepto de //fantasma en la máquina//?)) donde podemos ver que su mente es un gran panel de control que dirije su comportamiento pero a cuyos mandos no hay una "inteligencia" sino cinco emociones que se turnan, no sin conflicto, por estar a los mandos: la Alegría, la Tristeza, el Miedo, el Desagrado y la Furia. En //Inside-Out// los sentimientos serían esenciales al ser humano, y nuestra conducta es inteligente o no en función de si la mezcla de emociones usada para tomar decisiones ha sido la más apropiada para obtener un buen resultado. Lo interesante de todas estas representaciones de la mente humana es que en todas ellas hay un aspecto común: al tomar una decisión, el ser humano tiene disponibles todos los elementos que necesita para evaluar qué debe hacer. La inteligencia, según este punto de vista, consistiría en hacer un //cálculo// muy simple para el cual no hace falta calculadora sino una balanza. Hay que pesar las ventajas de cada decisión y compararlo con el peso de los inconvenientes de esa decisión. La balanza claramente nos dirá cómo decidir en función de si pesan más las ventajas o los inconvenientes de lo que nos proponemos. Esta inteligencia se denomina //racional// porque se dedica a hacer algo que en latín se denomina //ratio//, que consiste en lograr encontrar la relación que hay entre dos cosas distintas, su ratio o razón. Un gran apoyo a esta idea de mente //calculadora de razones// lo dio el filósofo Immanuel Kant, que imaginó la mente como un sistema de categorías y juicios que permitían ordenar lo que la mente recibía del mundo exterior y decidir sobre si lo recibido era bueno o malo. Kant profundizó aún más en la idea de Descartes, postulando los mecanismos efectivos de funcionamiento de la razón separada del cuerpo aunque dentro de él, con sus propios mecanismos lógicos de evaluación de la realidad exterior que nos llega a través de los sentidos. Esta idea podemos decir que ha triunfado y ha definido toda una época en la historia del pensamiento, época a la que llamamos //Modernidad//, en la que el ser humano confía en su //inteligencia razonadora// para ordenar el mundo y se empieza a independizar de inteligencias superiores, atreviéndose a pensar por sí mismo. Podemos denominar //limpia// a esta visión de la mente humana, porque parece que no deja ningún lugar oscuro: la inteligencia consiste en razonar y podemos construir una ciencia que, a base de razonar, nos lleve a conocer el mundo. Una mente limpia, es decir, sin zonas oscuras y desconocidas, da lugar a una ciencia limpia, que consiste en aplicar criterios lógicos y metodológicos a las obervaciones. Todo era limpio hasta que llegó alguien y empezó a ponerlo todo perdido de rincones oscuros en la mente humana. Ese hombre fue Sigmund Freud. ¿A qué llamamos //suciedad//? A la //complejidad//. ==== Freud ==== ==== Anatta ==== https://www.quora.com/What-is-the-difference-between-freudian-ego-and-buddhism-ego https://en.m.wikipedia.org/wiki/Anatta ==== Claves fenomenológicas ==== Memoria e intencionalidad * ¿Sin memoria se puede ser autoconsciente? No, según Bergson * ¿Se llega a la autoconsciencia por vía de la intencionalidad? Husserl Si impido que recuerdes... entonces ¿qué? * ¿se impide la autoconsciencia? * ¿Se impide la intencionalidad? ==== Gerd Gigerenzer ==== [[cts:el_cambio_tecnico:gerd_gigerenzer|]] ==== Modelos y simulaciones ==== ==== La filosofía info-computacional ==== ===== Referencias ===== Las filosofías de la existencia (Merleau-Ponty y Sartre) consideran la esencia desde un punto de vista fenomenológico: **la esencia se va haciendo en la existencia**. En Westworld se plantea en cambio una esencia de dentro-a-afuera (un cambio de código consistente en no borrar recuerdos hace que los autómatas salten a un nivel superior de conciencia). Según la fenomenología la acción humana en un mundo es lo que crea al hombre y al mundo. Ver [[xx:fenomenologias-de-la-existencia|]]. Resulta interesante que el análisis de lo humano que podemos hacer en Westworld no se basa en la categoría de "trabajo" sino en la de "ocio", lo cual permite superar Escuela de Frankfurt. FIXME Dos derivadas de esto: la memoria permite que surja el concepto de vivencia y el la vivencia permite valorar acierto/error - Westworld plantea los **recuerdos** como base fundamental de la esencia humana, diferenciándose de la fenomenología que presenta las **vivencias** como fundamento. En ese sentido incide en un punto fundamental: sin capacidad de memoria no habría vivencias. Esto lo desarrollo en "Aportaciones computacionales..." en el apartado "la memoria, componente fundamental de una teoría estética". - Elogio del error: "Podemos programar un ordenador para sumar una columna de cifras o multiplicar números sin error. Si queremos simular la conducta humana, nosotros no haremos eso. En vez de esos (como se ha hecho en el estudio de los «fallos» aritméticos de los niños), escribiremos programas que reproduzcan los tipos de errores que nuestros sujetos humanos cometen, y de ese modo proporcionamos perspicacia en los fallos (desde un punto de vista lógico) de los programas humanos" (Simon, 2001) "El comprender es siempre un comprender afectivamente templado" Heidegger, //Ser y Tiempo// §31 "La empatía es, para Husserl, el modo originario de acercarnos al otro. Piensa, a diferencia de Hume, que la predisposición humana a la asociación tiene siempre un sólido fundamento intelectual. Nosotros diríamos, siguendo en esto a Husserl, que los sentimientos y la razón forman una unidad dialéctica en el hombre y en su socialidad" (Mari Carmen López Saenz, Corrientes actuales de la filosofía, Dykinson, 2016) Lógica difusa: http://www.cs.us.es/~fsancho/?e=97 ==== El problema del marco (frame problem) ==== el problema de marco fue inicialmente señalado por Mc Carthy (1969) al discutir una forma de razonamiento lógico acerca del mundo (luego llamado cálculo de situaciones). La cuestión surgió cuando los investigadores en Inteligencia Artificial intentaron construir un modelo de computación que imite la conducta humana cotidiana. Frente a la posibilidad de realizar una tarea de razonamiento común, aparecieron dos grandes problemas: i) el crear un sistema que tenga la información almacenada de modo tal que el sistema pueda acceder a la información correcta y relevante en el tiempo apropiado y ii) el conseguir que ese sistema reconozca los rasgos importantes del entorno dinámico en el que se encuentra inserto. --- http://revistas.uned.es/index.php/RIA/article/view/591 Un primer paso hacia una teoría estética usando modelos computacionales supone naturalizar la conexión en la mente humana entre las percepciones sensibles y las capacidades simbólico-lógicas mediante la elaboración de modelos que no recurran a la falsa salida de un dualismo, como le sucedió a Kant con su doble definición de Juicio y que llevó a la heautonomía del juicio estético, sino que consigan ofrecer una explicación unificada que presente ambos fenómenos como diferentes aspectos de un mismo hecho fundamental, como intentó hacer Schopenhauer. En el trabajo titulado Preconceptual creativity 209 , presentado este año 2015 en la sexta edición de la International Conference on Computational Creativity, Tapio Takala muestra que, tal como afirmaba Schopenhauer, la teorización sobre los mecanismos de la comprensión humana requiere tomar en cuenta tanto los sistemas que Kant consideraría superiores y que tratan con la lógica, el lenguaje y las reglas de inferencia, como los inferiores, es decir, las áreas de la percepción, que ahora sabemos que tratan con los circuitos neuronales, la memoria asociativa y la inferencia estadística, aspectos estos que Kant despachaba con la expresión «el contenido empírico de la intuición nos es dado», como ya hemos visto. Esta conexión resulta aún problemática y aún hoy es descrita como el “problema del marco” (frame problem 210 ), que se refiere cómo la conexión entre estas dos capacidades permite identificar la novedad, base de la creatividad humana, esto es, el proceso por el cual la mente es capaz de identificar lo que no cambia cuando algo cambia. Aún no podemos explicar cómo funciona este proceso de identificación que requiere el concurso de ambos sistemas, el perceptivo y el lógico, y, por ello, en las simulaciones de ordenador que se realizan, se suele simular mediante listas predefinidas por el experimentador de aquello que no cambia. El objetivo del trabajo de Takala es justamente identificar ese mecanismo que, basado en la cooperación entre nuestras capacidades simbólicas y las sensoriales, nos ayuda a identificar la novedad demostrando cómo es posible hacerlo mediante la formación de representaciones primitivamente conceptuales a partir de la información sensorial. Para ello sigue la estela de la Teoría de la enacción (enaction theory), que es una tercera alternativa a las escuelas de pensamiento denominadas cognitivismo y emergentismo. Se considera la enacción como la manera particular de estar en el mundo un organismo, que se concibe como una constante interacción con este, metodología que permite empezar a relacionar de forma teórica procesos físicos que hasta ahora solo podían ser estudiados desde un punto de vista biológico con procesos mentales. Una buena referencia para el estado actual de estas investigaciones se encuentra en (Stewart, et al., 2010) donde incluso se llega a proponer modelos en los que los procesos básicos del metabolismo contienen el germen de los procesos de más alto nivel: la conciencia reflexiva, tal como hace Renaud Barbaras en la mencionada obra colectiva. Pues bien, este tipo de interacción que propone la teoría de la enacción permite a Takala construir con la experiencia sensible lo que denomina “conceptos subsimbólicos”, los cuales “facilitan una conducta más eficiente pues las percepciones son inmediatamente categorizadas en clases previamente conocidas que pueden provocar reacciones preprogramadas” 211 , reservando así las acciones nuevas, más relacionadas con el pensamiento conceptual, para las situaciones que surgen cuando las condiciones cambien. Esto, efectivamente, supone una asunción por parte de nuestros mecanismos intuitivos de parte del trabajo que Kant reserva a los niveles superiores manteniéndose dentro de los automatismos de la mente que hace parecer que estos procesos suceden “sin interés”, principio a priori del juicio de gusto. Por tanto, aquello que, según Kant “nos es dado”, esto es, el contenido de la intuición, no sería solo empírico sino también conceptual (conceptos subsimbólicos), pudiendo descartarse así su afirmación de que “la intuición, al no ser pensamiento, tampoco es conocimiento, sino una simple afección de la sensibilidad, mera sensación” 212 y quedando nuestros hallazgos más cerca de la afirmación de Schopenhauer cuando decía que “Kant presupone que la ley de causalidad existe y es posible solo en la reflexión, esto es, en el conocimiento conceptual abstracto, claro, y no sospechó siquiera que la aplicación de la misma precede a toda reflexión, lo que es la verdad del caso, especialmente en la intuición empírica de los sentidos, que sin ella no podría realizarse” 213 . Este proceso de formación de conceptos subsimbólicos que permiten identificar la repetición y la novedad, según Takala, tendría como base física la capacidad auto- organizativa de un conjunto de células en una “red neuronal biológicamente motivada” denominada SOM (Self Organizing Map) en la que cada célula proporcionaría un impulso de salida cuando es activada. Esta red neuronal sería capaz de recordar los valores de distribución estadística de ciertos impulsos sensoriales pues cada impulso activaría solo ciertas células y no las demás convirtiéndose así en una “máquina de aprendizaje no supervisada por conceptos” 214 que se comportaría como un dispositivo de clasificación de impulsos en función de la probabilidad de que cada célula proporcione su información como salida a un nuevo estímulo. En una red neuronal SOM surgen células similares junto a cada una de las que componen la red resultando así en una agrupación comunicada. Cuando en la red se pueden identificar grupos de células que reaccionan de igual forma ante el mismo estímulo podemos considerar cada una de esas regiones iguales como un concepto primitivo (preconcepto). Esta hipótesis info-computacional permite aclarar lo que pudiera estar sucediendo en el escurridizo territorio de la conexión entre las percepciones sensoriales y la elaboración superior de conceptos y, nos interesa especialmente puesto que muestra un mecanismo independiente de conceptos que podría explicar la capacidad humana de identificar lo nuevo, imprescindible pieza esta para la elaboración de una teoría sobre la creatividad y el aprecio por la belleza. Ya comentamos más arriba que la nueva metafísica que supone la perspectiva info- computacional considera que la categoría ontológica fundamental de la naturaleza es la de información y considera el universo compuesto por patrones estructurales y procesos. Aquí estamos viendo que esta nueva metafísica no se conforma con emitir postulados o hipótesis sino que sus propuestas están conectadas con la realidad biológica mediante la modelización computacional en redes neuronales artificiales que imitan el funcionamiento de las redes neuronales biológicas. Esto produce, en nuestra opinión, una reflexión filosófica de mayor calado, pues la simulación en redes neuronales permite poner a prueba las hipótesis y viceversa, el funcionamiento auto- organizativo de las redes neuronales permite proponer nuevas hipótesis filosóficas. Una vez vista la posibilidad de creatividad preconceptual vayamos a conocer las propuestas info-computacionales sobre el funcionamiento de la imaginación, otra de las piezas necesarias en nuestra investigación. --- Aportaciones computacionales a una teoría estética modal, Joaquín Herrero ==== Heidegger y el problema del marco ==== [[xx:heidegger-informacional|]] ==== Husserl y el problema del marco ==== Ver [[xx:temas|]] ==== Marcuse como antídoto contra el pesimismo tecnológico ==== "El mejor proyecto es aquel que sea acorde con las posibilidades reales abiertas en el nivel alcanzado por la cultura material e intelectual y consiga demostrar su propia racionalidad para refutar la totalidad establecida. Esto excluiría cualquier romanticismo que mire al pasado, a formas de vida ya caducadas como ideales a los que regresar. marcuse piensa hacia adelante, piensa en cómo sería posible usar lo que hay desarrollado pero cambiándole la forma de uso, que cualquier tecnología o forma de vida no sea esclavizadora ni totalizante. " Ver [[xx:temas|]] El hombre unidimensional, página 248: "El proyecto trascendente debe estar de acuerdo con las posibilidades reales abiertas en el nivel alcanzado de la cultura material e intelectual". ==== Inteligencia Artificial y autoconsciencia ==== {{youtube>q4fFuZgOZn8?medium}} \\ [[https://www.inverse.com/article/25521-juergen-schmidhuber-ai-consciousness|Artificial Intelligence Gained Consciousness in 1991]] [[https://mediatum.ub.tum.de/doc/1290203/300467.pdf|Gödel Machines: Towards a Technical Justification of Consciousness]] ===== Bibliografía ===== Sobre el argumento y los personajes * [[https://www.thrillist.com/entertainment/nation/westworld-bicameral-mind-theory-real|Why the Bicameral Mind Theory Is Crucial to Unlocking 'Westworld']] * [[https://www.hollywoodreporter.com/live-feed/westworld-arnolds-identity-revealed-950602|'Westworld' Answers Major Arnold Mystery]] * [[https://www.reddit.com/r/westworld/comments/5g9qx4/why_dolores_killed_arnold_spoiler/|Why Dolores Killed Arnold]] * [[http://www.cosmopolitan.com/career/a8664279/lisa-joy-westworld-co-creator-get-that-life/|Lisa Joy: How I Became the Co-Creator of Westworld]] Sobre las emociones * [[https://www.academia.edu/4160464/1939_-_Bosquejo_de_una_teoría_de_las_emociones|Bosquejo de una teoría de las emociones]], J.P. Sartre. Comentado en "Corrientes actuales de filosofía I + En-clave fenomenológica" páginas 305-6 * [[http://www.philosophica.info/voces/emotividad/Emotividad.html|Emotividad]], en philosophica.info [[cts:el_cambio_tecnico:jose_francisco_alvarez|]] \\ [[:proyectos:westworld:bibliografia:broncano2001]] \\ [[:proyectos:westworld:bibliografia:broncano2001b]] \\ [[ensayos:aportaciones-computacionales-a-una-teoria-estetica-modal|]]\\ [[:proyectos:westworld:bibliografia:moya2001]] \\ [[:proyectos:westworld:bibliografia:simon2001]] \\