FOROFILO

Éric Sadin y la Inteligencia Artificial: “Estaremos rodeados de fantasmas que...

Desconectado Dr. Alberto Roteta Dorado

  • *****
  • 777
  • ¡Usuario Nuevo!
                                Éric Sadin y la Inteligencia Artificial:
             “Estaremos rodeados de fantasmas que administrarán nuestras vidas”


En su nuevo libro, el ensayista francés aborda ese producto del antihumanismo radical y alerta contra la dependencia tecnológica que nos genera, al punto de establecer nuevos valores de verdad.

Éric Sadin en La noche de la filosofía 2017 realizada en Buenos Aires en el Centro Cultural Kirchner.LAS MÁS LEÍDAS

Éric Sadin es uno de los principales críticos de la tecnología digital y su impacto en las sociedades contemporáneas. Sus ensayos La humanidad aumentada (Caja Negra, 2017) y la Silicolonización del mundo (Caja Negra, 2018) fueron recibidos con entusiasmo por la crítica y el público argentino. En junio, la editorial Caja Negra, publicó el último libro del escritor y filósofo francés, La inteligencia artificial o el desafío del siglo. Anatomía de un antihumanismo radical, con traducción de Margarita Martínez.

En La inteligencia artificial, Sadin amplía el análisis su respecto a la forma en que los sistemas de gestión algorítmica toman decisiones por nosotros y promueven la delegación de poder a las máquinas, e indaga en el cambio de estatuto de las tecnologías digitales, que abandonan de manera definitiva su destino protésico para encaramarse como sistemas capaces de enunciar la verdad.

A contrapelo del esfuerzo de la filosofía de la técnica contemporánea por reflexionar en sintonía con la obra de Gilbert Simondon sobre una sociedad de máquinas en la cual el hombre cumple el rol de mediador entre objetos técnicos, Sadin advierte sobre “un alineamiento de los desempeños delas personas respecto de los desempeños de los sistemas”. Y recupera en las ideas decrecentistas de Jacques Ellul la advertencia de que “lo humano no se sitúa en modo alguno ‘entre las máquinas’ sino que (se somete) a su cadencia y de ahora en más a su dictado”.

               


Rolls Royce 103ex, la impresionante apuesta de la marca de autos de lujo que funciona a base de diversos sistemas de inteligencia artificial.

–¿Qué implica que la inteligencia artificial pueda enunciar la verdad?

–Lo que caracteriza a la inteligencia artificial es que es un poder de experticia que se perfecciona sin descanso. Los sistemas ahora son capaces de analizar situaciones de orden cada vez más diverso y de revelarnos estados de hecho entre los cuales hay algunos que escapan a nuestra conciencia. Y este análisis se hace a una velocidad que supera sin medida de comparación alguna nuestras propias capacidades cognitivas. Vivimos un cambio de estatuto de las tecnologías digitales: ya no están destinadas únicamente a permitirnos manipular la información con diferentes finalidades, sino que nos transmiten la realidad de los fenómenos más allá de las apariencias. Los resultados de los análisis de estos sistemas involucran un valor de verdad en la medida en que tenemos que iniciar de inmediato acciones que correspondan al sentido de las conclusiones a las que llegan. Y esto es lo que distingue la exactitud de la verdad: la primera pretende restituir un supuesto estado objetivo mientras que la segunda nos llama, por el mero principio de su enunciación, a que nos ajustemos a ella mediante gestos concretos, dado que toda verdad enunciada enmascara una dimensión performativa. En este sentido, vivimos el “giro conminatorio de la técnica”. Se trata de un fenómeno único en la historia de la humanidad que nos permite ver cómo las técnicas nos imponen actuar de tal o cual manera. Las tecnologías digitales, las herramientas de ayuda a la decisión, se convirtieron en instancias decisionales en sí. En cierto modo, no estaremos destinados tanto a dar instrucciones a las máquinas como a recibir instrucciones de ellas. Esto puede ir desde un nivel moderado e incitativo, como por ejemplo el que opera en una aplicación de coaching deportivo, que sugiere tal complemento alimenticio, hasta un nivel prescriptivo en el caso del sector de selección de personal que ahora se vale de sistemas digitales que eligen ellos mismos a los candidatos. El libre ejercicio de nuestra facultad de juicio se ve sustituido por protocolos destinados a orientar y encuadrar nuestros actos.¿Vemos acaso la ruptura jurídico política que está teniendo lugar?

           


Crearon un algoritmo que puede adivinar la personalidad de una persona a partir de una foto. Foto: shutterstock

–¿Qué impacto tienen estos dispositivos, capaces de evaluar y tomar decisiones, en la emergencia de nueva racionalidad económica y social?

–Las ciencias computacionales se volvieron a vincular, desde hace unos diez años, con el modelo neuronal que se remonta a la cibernética. Se basa en el postulado según el cual el cerebro humano encarna una forma organizacional perfecta de tratamiento de la información y de captura de lo real. Así se constituyó un léxico completo que toma elementos prestados del registro de las ciencias cognitivas. Se habla de chips “sinápticos”, “neuromórficos”, de “procesos neuronales”. Sin embargo, no estamos de ningún modo ante una réplica de nuestra inteligencia, ni siquiera de manera parcial, sino que estamos frente a un abuso del lenguaje que nos hace creer que la IA estaría habilitada, como si eso fuera natural, para sustituir nuestra inteligencia en vistas a garantizar una mejor conducción de nuestros asuntos. Y ésta es la razón por la cual conviene volver a cuestionar el término “inteligencia artificial”. En verdad se trata, con más precisión, de un modo de racionalidad que busca optimizar toda situación y que responde a un espíritu estrictamente utilitarista y que apunta a satisfacer todo tipo de intereses. Respecto de esto, es impactante observar que ahora, en el mismo momento en que las técnicas están destinadas a decirnos la verdad, se encuentran dotadas de la facultad de la palabra, lo cual se vuelve emblemático en aquellos recintos conectados con altavoces con los cuales sostenemos intercambios orales. Esta disposición está también en acto en los chatbots, los “agentes conversacionales”, o en los asistentes digitales personales que fueron concebidos para guiarnos a propósito de diversas circunstancias de nuestras vidas cotidianas. Estaremos rodeados cada vez más de fantasmas encargados de administrar nuestras vidas. La industria de lo digital pretende estar presente continuamente a nuestro lado a fin de señalarnos, en cada ocasión aprovechable, la acción correcta que deberíamos emprender. La lucha industrial por venir será testigo de una competencia por la presencia, y cada actor se esforzará por imponer indefinidamente su imperio espectral a expensas de todo el resto.

             


Un hombre pasea frente a una gran pantalla publicitaria que reproduce vídeos sobre la protección contra el coronavirus en China, en Cantón. Foto: EFE/Alex Plavevski

–¿Estado, las empresas del complejo científico-técnico y los algoritmos deberían tener el mismo estatuto jurídico ante la ley?

–Tenemos la lamentable ingenuidad de creer en los poderes de una regulación que se invoca permanentemente como si pudiera funcionar de contrapeso a las evoluciones tecnológicas. Se basa en la idea de que la función del legislador consiste en protegernos de ciertas derivas. Pero ésta es una visión sesgada que no se corresponde con la realidad, porque estamos viviendo, y así será en adelante, bajo el régimen de un “ordoliberalismo” que nos muestra cómo, en el seno de las democracias liberales, se redactan leyes en vistas a sostener la economía de los datos, de las plataformas y de la inteligencia artificial. Y en este aspecto, los responsables políticos dan muestras de una sumisión culpable respecto del mundo tecnoeconómico.

–¿De qué forma las lógicas tecnoeconómicas determinan un principio de gobernanza que tiene valor de constitución política?

–Somos testigos de la realización en acto del sueño de los saintsimonianos que aspiraban a una “administración saludable de las cosas”. Los responsables políticos pretenden aprovecharse de las virtudes dinámicas de la IA en vistas a instaurar una gobernanza automatizada de numerosos sectores de la sociedad: las relaciones entre los ciudadanos y la administración, los transportes, la educación, la justicia. Esta lógica ofrece la ventaja de requerir menos agentes y de generar costos más bajos. De ahí la importancia de la open data para gran cantidad de gobiernos que, gracias a la puesta a disposición de los datos públicos, cuentan con dejar al régimen privado la responsabilidad de organizar el avance de los asuntos colectivos, llevando a una mercantilización de la vida pública. La ciudad inteligente es emblemática de esta ideología que nos permitiría ver cómo los sistemas regulan “lo mejor posible” nuestra vida cotidiana. Prevalece una metáfora biológica, se deja actuar a los sistemas en el seno de un mundo perfecto porque es un mundo sin signatario y regido por señales. Y en este punto asistimos a la liquidación en curso de lo político entendido como un compromiso de elecciones inciertas, como la necesidad del conflicto y de la deliberación.

Éric Sadin.

–Luego de La humanidad aumentada, Jacques Ellul regresa con fuerza en su obra. ¿En qué punto se ubica en ese linaje?

–Jacques Ellul supo calibrar muy pronto la envergadura del conjunto técnico-industrial de la posguerra, que se esforzaba sin descanso por intensificar las lógicas productivistas, por edificar modos de organización siempre más optimizados, por movilizar presupuestos masivos destinados a los campos militar y de la energía atómica, contribuyendo a imponer a la sociedad elecciones estructurantes sin invocar el consentimiento informado de sus miembros. No es casual que esta obra lúcida y argumentada, deliberadamente posicionada a contracorriente, no haya encontrado todo el eco que merecía en el inicio de la secuencia frenética de los “Treinta Gloriosos”, y que se haya visto incluso denigrada por ciertos sectores cuestionados. Pero lo que es diferente entre la época de Jacques Ellul y la nuestra es que, desde entonces, se cruzaron ciertos umbrales. Y hoy esto adopta tres formas. Primero, el alcance totalizador de las tecnologías digitales, destinadas a inmiscuirse, a largo plazo, en todos los segmentos de la vida. Después, su poder de inflexión de los comportamientos, ya que de ahora en adelante están destinadas, al menos una parte de ellas, a orientar la acción humana. Y finalmente el hecho de que la técnica, en tanto que campo relativamente autónomo, hoy ha desaparecido. Solo existe un mundo tecnocientífico supeditado a las instancias económicas que dictan las trayectorias que habría que adoptar. Estamos desvalidos ante la velocidad de unos desarrollos que se nos presentan como ineluctables, y esto nos impide pronunciarnos en plena conciencia. Mientras que los evangelistas de la automatización del mundo no dejan de emprender múltiples acciones, nosotros parecemos aquejados de apatía. Entonces, antes que nada, sería conveniente contradecir los tecnodiscursos y poner en primer plano aquellos testimonios que surgen de la realidad del terreno mismo, ahí donde esos sistemas están operando, en los lugares de trabajo, las escuelas, los hospitales… Deberíamos también manifestar nuestro rechazo respecto de algunos dispositivos cuando estimamos que ultrajan nuestra integridad y dignidad. Contra este asalto antihumanista, hagamos prevalecer una ecuación simple pero intangible: cuanto más se cuenta con desposeernos de nuestro poder de actuar, más activos conviene que seamos.

Fuente:

https://www.clarin.com/revista-enie/ideas/eric-sadin-inteligencia-artificial-rodeados-fantasmas-administraran-vidas-0-jImDVLQN.html

antonioguerrero | August 9, 2020 at 8:55 pm | URL: https://wp.me/s5OYFZ-sadin