Diferencias

Muestra las diferencias entre dos versiones de la página.

--- podcast:episodios:57 [2023/04/03 21:45] – Joaquín Herrero Pintado
+++ podcast:episodios:57 [2023/04/04 07:04] (actual) – [¿Cómo hacer llegar a OpenAI y el resto de actores la crítica de la ciudadanía sobre su producto?] Joaquín Herrero Pintado
@@ Línea 2: / Línea 2: @@
-{{:podcast:episodios:episodio57.jpg?direct&300 |}}
+{{:podcast:episodios:episodio57.jpg?direct&270 |}}
 Empieza a haber reacciones a GPT-4, el modelo de lenguage recientemente lanzado por OpenAI a través del interfaz ChatGPT.
@@ Línea 94: / Línea 94: @@
 Los que deberían darse por aludidos por lo que propone y fabrica OpenAI (gobiernos) están a otra cosa y eso permite que oportunistas como Future of Life Institute entren en el debate de manera bastante histriónica pervirtiendo el tono que el debate debería de tener
-### ¿Cómo hacer llegar a OpenAI y el resto de actores la crítica de la ciudadanía sobre su producto?
+## La moratoria que se pide necesita mecanismos de debate entre empresas tecnológicas y sociedad
+Suponiendo que los firmantes lleven razón y la mejor solución posible sea parar los desarrollos de GPT-5 aún nos enfrentamos a un problema más. Lo que se pide no se suele aplicar en ningún escenario de innovación tecnológica por lo que no tenemos habilitados los mecanismos por los que:
+  - la sociedad esté completamente informada de la tecnología que se cuestiona y sus consecuencias
+  - la sociedad conozca alternativas a lo que se propone
+  - la industria tecnológica sea capaz de alinearse con lo que "la sociedad" reclama
 Ya tratamos en el episodio 23 ([[podcast:episodios:23|]]) lo complejo que es establecer un canal de retorno para que los científicos o los fabricantes de tecnología reciban el feedback de la población a la que van destinadas sus creaciones.
+En el trabajo [[/ensayos/creacion-colectiva-de-conocimiento-en-internet|La creación colectiva de conocimiento en Internet: posibilidades y dificultades]] ya tratamos este tema indicando que a pesar de la relevancia actual del conocimiento experto en las decisiones públicas, **insistimos en la necesidad de que exista un mayor grado de participación ciudadana en los procesos de decisión política y científica**. Esto implica superar un tipo de divulgación científica que se limite a publicitar los logros de la investigación para pasar a la creación de un espacio público de deliberación de naturaleza híbrida en el que participen tanto expertos como ciudadanos. En este trabajo se analizan las posibilidades de Internet como soporte para la creación de ese espacio, cuáles serían las cualidades deseables de la participación ciudadana y si los problemas que suelen darse en los espacios de deliberación podrían ser superados con las herramientas tecnológicas actuales:
+//Se ha dicho que “el tema esencial de la nueva sinfonía social es el puesto del conocimiento experto en el espacio de la política y el orden de la sociedad” reconociendo así que desde hace décadas la sociedad reclama hacer oír su voz en diversos ámbitos de la vida social y política y creando de esa forma la problemática cuestión de qué peso debe de tener su voz en comparación con la de los expertos.//
+//El filósofo austríaco Paul Feyerabend definió a ‘los expertos’ como “un grupo de personas que por su entrenamiento son capaces de elegir alternativas que implicarían grandes beneficios para todos”, por lo cual “nos inclinaríamos a pagarles y a dejarles actuar sin más control”. En comparación con el conocimiento experto, el conocimiento del que dispone la ciudadanía suele ser calificado, tal como dijo Michel Foucault, como “saberes descalificados, como saberes no conceptuales, como saberes insuficientemente elaborados: saberes ingenuos, saberes jerárquicamente inferiores, saberes por debajo del nivel del conocimiento o la cientificidad exigidos”. //
+//Cabe pensar, por tanto, en lo razonable que sería hacer recaer la responsabilidad de cualquier decisión especializada, por ejemplo sobre asuntos científicos, en el criterio de los expertos, pero eso crea al menos dos conjuntos de problemas.//
+//Por una parte, como indica Sven Ove Hanson, acudir a expertos no elimina la incertidumbre en la decisión, pues la “incertidumbre de fiabilidad” se produce precisamente cuando acudimos a un supuesto experto en el tema e introduce los problemas de la valoración de alguien como experto y las opiniones divergentes entre los considerados expertos.//
+//Por otro lado, Feyerabend apunta al hecho de que no sería democrático delegar las decisiones en expertos, ya que en una democracia “la elección de programas de investigación en todas las ciencias es una tarea en la que deben poder participar todos los ciudadanos” por lo que ve conveniente “la no división entre expertos y legos en las cuestiones fundamentales de evaluación de un programa de investigación”.//
+//El dilema entre conocimiento experto y necesidad de participación democrática ha sido calificado por Fernando Broncano como una especie de “juego del prisionero epistémico” en el que se necesita la colaboración de varios para un fin común pero cada uno opina que lo racional es su punto de vista, por lo que no se crea una colaboración sino una rivalidad que puede desembocar en una nueva tragedia de los comunes de naturaleza epistémica. Por ello, según Broncano, el problema es de “medios de ordenamiento de voluntades en un terreno informacional, pues en cierto momento la dimensión
+computacional del ágora se convierte en una limitación técnica al propio ejercicio de la democracia”.//
+//Centrado ya el problema en uno de ordenamiento de cierta dimensión computacional de un ágora público de debate, el incentivo para avanzar en su resolución procede de al menos dos declaraciones institucionales que, en la misma dirección que apuntaba Feyerabend, reclaman un papel activo para los ciudadanos en los mecanismos de toma de decisión institucionales.//
+//La primera es la “Declaración de Río sobre el Medio Ambiente y el Desarrollo” hecha en junio de 1992 por Naciones Unidas, y que en su principio 10 indica que “todos los individuos deben de tener acceso adecuado a la información medioambiental” para “participar en procesos de toma de decisión”.//
+//La segunda, la “Declaración de Santo Domingo”, realizada en la IV Conferencia Iberoamericana de Ministros de Administración Pública y Reforma del Estado de 2002, indica que las comunidades de investigadores deben “contribuir, especialmente en el caso de problemas en los que están involucradas, a la presentación de alternativas sobre las cuales la ciudadanía pueda informarse y pronunciarse; tener en cuenta las opiniones de la sociedad y dialogar efectivamente con ella; y luchar contra el entronizamiento de tecnocracias amparadas en conocimientos científicos y tecnológicos, reales o supuestos”.//
+//¿Qué mecanismos tenemos a nuestro disposición para poner en marcha este diálogo reclamado entre el saber experto y el ‘saber de la gente’, como lo llamaba Foucault? ¿Es hoy día Internet un ágora tal que su dimensión computacional no se constituya en una limitación para el ejercicio de la democracia, como advierte Broncano? En este trabajo nos proponemos examinar el estado actual de Internet como lugar público donde construir deliberación y conocimiento de forma colectiva, sus limitaciones y algunas experiencias que muestran el camino a seguir.//
+## ¿Cómo hacer llegar a OpenAI y el resto de actores la crítica de la ciudadanía sobre su producto?
+Seguimos necesitando los mecanismos de participación cuidadana que permitan cerrar el bucle particiación-formación.
+{{:podcast:episodios:foucault-clase-7-enero-1976.png?330&direct|}}
+{{:podcast:episodios:bucle-participacion-formativa.png?330&direct|}}
+{{:podcast:episodios:informarse-participar.png?330&direct|}}
+{{:podcast:episodios:todos-pueden-participar.png?330&direct|}}
+{{:podcast:episodios:modelo-interactivo-de-divulgacion.png?330&direct|}}
+{{:podcast:episodios:modelo-lineal-de-la-divulgacion-cientifica.png?330&direct|}}
+{{:podcast:episodios:modelo-lineal-vs-modelo-interactivo-2.png?330&direct|}}
+{{:podcast:episodios:modelo-lineal-vs-modelo-interactivo.png?330&direct|}}
+{{:podcast:episodios:problemas-del-modelo-interactivo.png?330&direct|}}
+En este Prezi, procedente de un curso que impartió en 2011 Joaquín en el Museo de la Ciencia en Madrid, pueden ver la presentación completa de la que están sacadas estas imágenes que muestran la dificultad de acercar el conocimiento experto a los saberes de la gente.
+<html>
+<iframe src="https://prezi.com/embed/opimubmlmyt8/?bgcolor=ffffff&amp;lock_to_path=0&amp;autoplay=0&amp;autohide_ctrls=0&amp;landing_data=bHVZZmNaNDBIWnNjdEVENDRhZDFNZGNIUE43MHdLNWpsdFJLb2ZHanI5Z2MzTSt3SnhaUkU1WHE5eGUzMDM3MlpnPT0&amp;landing_sign=kLOAYMY0hYtXxskMxOEncM7BB3QLI-f9gmjvqRM3ZWc" allowfullscreen="" mozallowfullscreen="" webkitallowfullscreen="" id="iframe_container" frameborder="0" height="400" width="550"></iframe>
+</html>
+## Hacia una Inteligencia Artificial Sucia
+El [[https://cienciasucia.com/manifiesto|Manifiesto por una Ciencia Sucia]] precisamente apunta a crear mecanismos de divulgación de la ciencia y la tecnología que huyan de lo sensacionalista y lo espectacular:
+//Tal como Platón expulsó de su república a los poetas por considerar que sus conocimientos no trataban sobre la realidad política (que solo era conocida y comprendida por los filósofos), la toma de decisiones por parte de “expertos” nos enfrenta al peligro de expulsar de las decisiones políticas en materia de ciencia a la ciudadanía por considerar que no pertenecen a la élite que puede comprender los complejos problemas que genera la investigación científica y la tecnología. Esta situación equivaldría a considerar a los ciudadanos como meros receptores de productos tecnológicos sobre los que no han tenido oportunidad de expresarse durante su gestación.//
-### Alineación e Hiperobjetos
+//En un mundo en el que es necesario un cierto dominio de la tecnología y en el que ya hemos podido comprobar la estrecha relación que existe entre la ciencia que hacemos y el medio ambiente en el que vivimos hay que aspirar a mucho más que a que los ciudadanos admiren a sus científicos. A eso se aspira en medicina con el concepto de “empowered patient”, por el que el enfermo participa en la toma de decisiones junto con su médico. Y a eso hay que aspirar en la investigación científica, a que su curso se trace en diálogo público con la sociedad.//
-Ahí, en el problema de la alineación, entran de lleno los Hiperobjetos.
+//No creemos en la divulgación de la ciencia como espectáculo, como un circo de maravillas exóticas.//
-  * ¿Con qué intereses hay que alinear a la AGI?
+Inspirados por la "pragmática sucia" del filósofo Quintín Racionero propusimos en su día pensar como "ciencia sucia" a aquella que toma conciencia de sí, de su condición filosóficamente infectasucia, consciente de todas las instancias que determinan su relevancia así como de todos los intereses e influencias que la afectan.
-  * ¿Con la supervivencia del capitalismo?
-  * ¿Con un cambio de modelo?
-  * ¿Con los intereses del planeta?
-  * ¿Con la justicia social?
-Pensar en términos de hiperobjetos nos dará claves importantes para detectar los mejores intereses con los que alinear a la AGI.
+Aplica lo mismo a las tecnologías detrás de los modelos Transformer, corazón de los actuales modelos grades de lenguaje (LLMs). Una Inteligencia Artificial "ensuciada filosóficamente" con las aportaciones críticas de pensadores y sociedad puede estar más alineada que una Inteligencia Artificial construida únicamente con criterios de rentabilidad y mercado.