No items found.
No items found.
No items found.
No items found.

La inteligencia artificial o el desafío del siglo: La emergencia de un nuevo régimen de verdad

La inteligencia artificial o el desafío del siglo: La emergencia de un nuevo régimen de verdad

Texto de
Fotografía de
Realización de
Ilustración de
Traducción de
10
.
06
.
20
AAAA
Tiempo de Lectura: 00 min

La inteligencia artificial es un cambio de estatuto de las tecnologías digitales: de ser prótesis acumulativas e intelectivas, han pasado a ser entidades de las que se espera que enuncien una verdad a partir de la interpretación automatizada. En este nuevo régimen, se juega la vocación humana. Este es un fragmento del libro La inteligencia artificial o el desafío del siglo de Éric Sadin, que publica Caja Negra.

Hacia mediados de la década de 2010 ocurrió un acontecimiento alucinante. No lo vimos venir. En cierto modo nos tomó desprevenidos, se extendió rápidamente y el poder de su impacto sobre la sociedad, a escala planetaria, nos dejó estupefactos. De súbito, se hacía posible para cualquiera, sin molestias, con aplomo, como la manifestación sin límites de la “libertad de expresión”, afirmar hechos sin que estuviera constatado que correspondieran con la realidad, sin que fuera necesario proceder a su verificación. Incluso podían tener un aura de mayor brillo en la medida en que parecían inverosímiles, asumiendo el estatuto de ser reveladores de cuán inconsecuente era la percepción común o “dominante” de las cosas. Pese a las apariencias, estos hechos se desplegaban como hechos constatados pero que pocos sabían ver. Dicha “clarividencia” se convirtió en el privilegio de quienes eran más juiciosos respecto de la inflación informacional enceguecedora de nuestra época y de todas las representaciones entremezcladas y normativizadas que esta inflación implicaba. Se impuso la noción de “posverdad” en una época confusa; se convirtió en un síntoma patente de nuestros malestares, en un marcador inquietante de nuestra pérdida de puntos de referencia. El fenómeno asumió tal amplitud que el diccionario de Oxford lo eligió, en 2016, como la expresión del año.
Ese año hubo dos acontecimientos decisivos que confirmaron su alcance histórico: primero, el voto del Brexit, que decidió que el Reino Unido saliera de la Unión Europea, seguido algunos meses más tarde por la elección sorpresiva de Donald Trump como presidente de los Estados Unidos. Nos dimos cuenta de que tanto uno como otro hecho fueron en parte favorecidos por la profusa difusión de escritos e imágenes que, en su mayor parte, buscaban deformar las cosas intencionalmente, imponiéndose como mensajes que arrojaban confusión sobre la verdad de lo que vehiculizaban habitualmente, en particular, los órganos de prensa. De pronto las sociedades se vieron desestabilizadas por un relativismo que escapaba a la razón y se vieron también privadas de referentes comunes, necesarios para el debate y para la expresión de la pluralidad de los puntos de vista. Esto condicionó el avance bien entendido de la democracia, especialmente en ocasión de consultas de importancia.
Muy pronto se quiso echar la culpa de esos procesos a las redes sociales, que no habrían hecho el trabajo de clasificación necesario, y que entonces habrían cerrado los ojos ante la creación de cuentas falsas que compraban espacios de visibilidad con fines propagandísticos, así como también compraban tropas, armadas con cuidado, a fin de diseminar fake news destinadas a manipular a la opinión pública. Es cierto que hubo factores como este y otros que contribuyeron a que estos hechos ocurrieran, pero se los quiere sostener equivocadamente como la causa, cuando no son sino efectos, porque el hecho principal no nos remite a la difusión viral de informaciones falsas en Internet sino a una nueva posición que ocupa el individuo contemporáneo. De ahora en adelante, cada uno de nosotros se imagina como posicionado en el centro del mundo y con el poder de acomodar los acontecimientos a su visión de las cosas, con tal estado de narcosis respecto de la propia sensación de unicidad que cualquier enunciado divergente de la propia posición podría ser rechazado de ahí en más. La verdad se define a partir de uno mismo, o según las propias creencias y tropismos; es una tendencia emblemática dentro de las teorías del complot que da testimonio de la desintegración creciente de nuestras bases comunes y de la extrema atomización de la sociedad en general. Es impactante observar que este asunto de la “posverdad”, que tiene su importancia, es considerado como una ruptura que perturba nuestra relación histórica con la verdad, mientras que en realidad se trata de la exactitud de los hechos, y no de la verdad stricto sensu, y entonces ocurre que se ignora otra ruptura, bastante más decisiva todavía, aunque de otra manera, que está en igual correlato con la cuestión de la verdad y que está llamada a determinar la forma de nuestras existencias. Esta otra ruptura reviste sin embargo una amplitud totalmente diferente y se deriva de un fenómeno de alcance civilizatorio determinante: la emergencia de un nuevo régimen de verdad.
Los sistemas de inteligencia artificial están llamados a evaluar una multitud de situaciones de todo orden, las necesidades de las personas, sus deseos, sus estados de salud, los modos de organización en común, así como una infinidad de fenómenos de lo real. Lo que caracteriza a los resultados de dichos análisis es que no se conforman solamente con reproducir ecuaciones que se suponen exactas, sino que se enmascaran bajo un valor de verdad en la medida en que lo hacen presentándose como conclusiones cerradas que llevan a que luego se inicien las acciones correspondientes. Esto es lo que diferencia la exactitud de la verdad: la exactitud pretende restituirnos a un estado objetivo, mientras que la verdad nos llama, por el mero principio de su enunciación, a que nos adecuemos a ella por medio de gestos concretos, porque toda verdad enunciada oculta, in fine, una dimensión performativa.
Emerge un nuevo régimen de verdad que se ve dotado de cinco características. A largo plazo, está destinado a relacionarse con la casi totalidad de los asuntos humanos y a ejercerse en toda circunstancia. Proviene, en cada campo de aplicación, de una fuente única, eliminando de facto el principio de una aprehensión plural de las cosas. Se inscribe principalmente en una lógica de tiempo real, revelando estados de hecho en el momento mismo en que esos hechos tienen lugar, impulsándonos en consecuencia a actuar dentro del menor lapso posible y deslegitimando el tiempo específico del análisis humano. Se le asigna un estatuto de autoridad inducido por una eficacia que aumenta sin descanso, paralizando desde la base toda pretensión de contradicción. Finalmente se relaciona únicamente con un espíritu utilitarista que responde principalmente a objetivos de optimización así como a intereses privados. "De súbito se hacía posible para cualquiera, sin molestias, como la manifestación sin límites de la ‘libertad de expresión’, afirmar hechos sin que estuviera constatado que correspondieran con la realidad, sin que fuera necesario proceder a su verificación."
Lo que está destinado a ser marginado o erradicado por la emergencia de un orden totalmente distinto son los principales estatutos históricos occidentales de la verdad. Estos estatutos se habían ido imponiendo sucesivamente a lo largo del tiempo; a veces coexistieron entre sí y muchos de ellos siguen presentes en nuestra episteme. Podemos identificar estos diferentes regímenes todavía relativamente vigentes. Primero, el de la verdad revelada de los monoteísmos, que nos muestra cómo el respeto de las Leyes determina un marco de vida individual y colectivo conforme a la moral divina. Esa verdad emana de una figura absoluta que prescribe una conducta a los humanos, que en teoría serían libres de acordarle su fe y de someterse a ella. Después está la verdad platónica, que no está dada en el marco de una escena inaugural y con un texto fundador pero que nos incita a no seguir confiando en las sombras de la caverna, a que nos deshagamos de las apariencias engañosas de lo real, exigiéndonos un esfuerzo sostenido que apunta progresivamente a que nos elevemos por encima de lo sensible y capturemos, más allá de todas las perpetuas variaciones, las esencias puras y eternas que manifiestan entonces la evidencia rutilante de lo verdadero: “Y cuando haya llegado hasta la luz, ¿podrá, con los ojos obnubilados por su resplandor, distinguir una sola de las cosas que ahora llamamos verdaderas?”. (1)
Más tarde, Aristóteles estimará que la búsqueda platónica se extravía dentro de algo suprasensible que no mantiene relación con la realidad, afirmando que lo verdadero se deriva de un criterio lógico, el principio de la no contradicción, sin el cual diríamos y contradiríamos todo y su contrario. “Asignar un valor igual a lo que opinan e imaginan quienes están en desacuerdo entre sí es una tontería. En efecto, está claro que unos u otros deben necesariamente equivocarse”. (2) Cada campo del saber, la astronomía, la botánica, el estudio de la anatomía humana, debe desarrollar métodos propios basados en la experiencia y la exigencia de verificación, determinando su verdad como una “adecuación con lo real”. En la Edad Media, contrariamente a la autoridad impuesta tanto por el feudalismo como por la jerarquía esclerosada de la Iglesia, el teólogo católico Tomás de Aquino hará del trabajo riguroso del espíritu la condición de acceso a lo verdadero. Lo que Descartes todavía proclama en el siglo XVII a partir de la certidumbre del cogito, a saber, el pleno uso de nuestra capacidad de discernimiento, permitirá buscar las verdades dando prueba de método, procediendo a deducciones y forjando “largas cadenas de razonamientos”.
inteligencia artificial un nuevo régimen de verdad
Los sistemas de inteligencia artificial están llamados a evaluar una multitud de situaciones de todo orden, las necesidades de las personas, sus deseos, sus estados de salud, los modos de organización en común, así como una infinidad de fenómenos de lo real.
En tiempos de las Luces se fue delimitando poco a poco la necesidad de aislar la verdad como concepto absoluto, la de valerse de un procedimiento exclusivo con vistas a aprehenderla para, de ahí en adelante, tenerla como un principio plural que se aloja de diversas maneras en los campos del mundo y de la vida, y que requiere entonces el estudio minucioso de los fenómenos que se relacionan con la naturaleza, la física, la medicina, la biología, pero también con la política, la economía, el derecho o la moral. En Occidente, surge una civilización que pretenderá desviarse de las especulaciones abstractas que se juzgan infructuosas y que hasta entonces se reservaban solamente a la casta de filósofos y doctores de las religiones para privilegiar, en consideración de un mayor número de personas, el trabajo del saber, los progresos de la enseñanza, la libre difusión de libros y periódicos, la elaboración de obras enciclopédicas de vocación pedagógica y la constitución de instituciones dedicadas al conocimiento y a la cultura. Son otros tantos marcos que también pretenden llevarnos a una mejor inteligencia de lo real gracias a los procesos individuales y comunes del enlightment, formando la base de una nueva era de la humanidad que celebrará las luces del espíritu y la formación de conciencias esclarecidas.
Sin embargo, después de todos los esfuerzos desplegados para trazar los surcos que llevan a la sociedad hacia el camino de un “progreso” incesante, llegó, en el momento de apogeo de la Revolución Industrial y del triunfo del “espíritu burgués”, o sea, hacia fines del siglo XIX, la hora de la sospecha meditada por Nietzsche, quien identificó el principio de verdad como aquello que está en el origen de todas las creencias inculcadas, y que implica el respeto obligado de una moral sin relieve que negaba y paralizaba las posibilidades virtualmente ofrecidas por la vida. Michel Foucault retomó esta constatación de la fuerza normativa de la verdad y se esforzó por detectar las múltiples representaciones que determinaban de modo más o menos visible la forma general de las sociedades, y cuya actualización debería permitir alentar pretensiones saludables de liberación: “ es un proyecto que busca desbrozar algunos de esos elementos que podrían ser útiles para una historia de la verdad. Una historia que no sería aquella de lo que puede haber de verdadero en los conocimientos, sino un análisis de los ‘juegos de verdad’, de los juegos de lo falso y verdadero a través de los cuales el ser se constituye históricamente como experiencia, es decir, como algo que puede y debe ser pensado” (3). Los trabajos de Foucault contribuyeron en parte a la emergencia de lo que fue llamado “posmodernismo”, que manifestaba un rechazo frontal de toda noción de verdad, denunciada como algo que instituía reglas posiblemente coercitivas por estar dotado de tal poder de autoridad que debía ser objeto de una “deconstrucción” capaz de liberarnos de todos los yugos impuestos. Esto llevó a Jacques Derrida a afirmar: “La verdad: es en su nombre maldito que nos hemos perdido” (4). Esta proposición fue radicalizada por Jean Baudrillard, que llegó al punto de pregonar el destierro del principio mismo de verdad: “La verdad es aquello de lo que hay que liberarse lo más pronto posible y pasarle el problema a otro. Como la enfermedad, ese es el único modo de curarse. Aquel que se quede con la verdad en la mano, pierde”. "Se impuso la noción de ‘posverdad’ en una época confusa; se convirtió en un síntoma patente de nuestros malestares, en un marcador inquietante de nuestra pérdida de puntos de referencia."
Sin embargo, lo que se cuestionaba era menos el esfuerzo de discernimiento individual y colectivo que exige toda decisión sensata y que tienda hacia lo justo –que tenía un carácter local, como subrayaba Jean-François Lyotard, ya que se supone que nos determina siempre en plena conciencia y según algunos principios intangibles, pero en función de circunstancias siempre variables y específicas–,(6) que la posibilidad de instalar juegos de poder por la fuerza de las convenciones establecidas pero que favorecen formas de registro de las conductas. Lo que se acciona en la aletheia algorítmica es precisamente esta dimensión sistemáticamente circunstancial, pero que no nos muestra ahora cómo una verdad se convierte en objeto de un saber reflexivo, de una búsqueda inacabable, dando testimonio de la apertura indefinida de lo real, sino que nos muestra una verdad enunciada por sistemas dotados de un poder de experticia supuestamente superior y que tiene como vocación ejercerse en toda oportunidad posible. Lo que distingue a este régimen respecto de sus precedentes históricos es que todos ellos, sin excepción, se exponían a gestos de reapropiación, a procedimientos de negociación, o incluso, en caso de rechazo radical, a maniobras más o menos manifiestas de oposición, y esto incluso en el marco jurídico construido por los monoteísmos o los regímenes autoritarios, como el vigente en la ficción 1984 de George Orwell. Cualquiera fuera su ascendente simbólico o formal, permitían, casi a su pesar, márgenes de acción tanto como la preservación de ciertas partes de uno mismo que podían seguir al abrigo de su autoridad.
En oposición a estas formas de licencia que son otorgadas más o menos abiertamente, se supone que la aletheia algorítmica está dotada de un tal nivel de calificación que el desafío ya no consiste en mostrar eventuales estrategias de subjetivación, o de evitamiento, respecto de ella, sino que el desafío parece ser encontrar la manera de adecuarse a esta aletheia lo mejor posible, como si fuera un procedimiento de vigilancia policial destinado a prevenir la inminencia de un peligro en una zona identificada que hace que de inmediato se envíen brigadas especializadas a los lugares correspondientes. Nunca un régimen de verdad se había impuesto de esta manera en la historia, y no por su fuerza de seducción o por su influjo coactivo sino por la sensación compartida de que hay una evidencia, por la producción de ecuaciones que damos por sentado que son las más apropiadas según un principio que pretende que los sistemas cognitivos son justamente Evidence Based Systems, es decir, sistemas basados en un principio de revelación de ciertos hechos que estos sistemas exponen ante nuestra conciencia –y por lo tanto tenemos que acordar con ellos porque hay una evidencia concreta para que lo hagamos así. La aletheia algorítmica procede de un poder de revelación que promete ejercer su ingenio a lo largo de un continuum sin costuras que va desde el menor detalle de nuestras existencias hasta las situaciones colectivas como ninguna otra instancia tutelar simbólica lo había podido hacer hasta ahora.
inteligencia artificial eric sadin
De ahora en adelante, cada uno de nosotros se imagina como posicionado en el centro del mundo y con el poder de acomodar los acontecimientos a su visión de las cosas.
Nietzsche había denunciado la voluntad de erigir una verdad supuestamente absoluta y objetiva de las cosas. Era su mayor combate: probablemente, a la vista de los poderes que conferimos a la inteligencia artificial, si viviera ahora sufriría una crisis de demencia igual que vivió en Turín en 1889. Quizás lo que se esté produciendo sea el fin hegeliano de la Historia, que ahora se hace manifiesto bajo el prisma de nuestra relación en devenir con la verdad, que se desvía respecto de las múltiples formas que había adoptado y a las que los humanos se habían remitido y que todas, cualquiera fuera su naturaleza y las promesas que pudieran anunciar, nunca llegaban a saldar nuestro extravío ontológico fundamental. De ahora en más asistimos alborozados a la agonía de nuestra “conciencia desdichada” para ver advenir la era del “Saber absoluto” descrito por Hegel como el momento en el cual la “verdad es perfectamente igual a la certidumbre”, y donde puedo decir: “Sé que viví y, a fuerza de experiencias y de desgarros, terminé por contener el universo”. (7)
Entonces nos convertimos, tanto individual como colectivamente, en los Bouvard y Pécuchet del siglo XXI, en aquellos que, para evitar “caer en el abismo espantoso del escepticismo” (8), aspiramos a capturar continuamente una verdad indudable, como los dos protagonistas del relato de Flaubert que, cuando deciden abordar un campo del saber, se ponen a la búsqueda de la obra que se los acercaría para, como esperamos de la inteligencia artificial, poder actuar sin fallas sobre las cosas. Por eso Bouvard y Pécuchet, después de leer, hacían sistemáticamente experimentos destinados a verificar todo en lo concreto de la vida. Esos experimentos fracasaban en su mayor parte, o a veces tenían éxito a medias y solamente por azar. Flaubert combatiría con escarnio este positivismo científico que pretendía llegar hasta el fondo de todo fenómeno y esto lo llevó a enunciar la fórmula, que después de él se volvió célebre, según la cual “la tontería consiste en querer llegar a una conclusión” (9). Él no creía en la existencia de verdades definitivas sino en la profusión nunca saldada de las representaciones que afirmaban que Dios puede saber la causa primera de toda cosa, pero no los humanos. Bouvard y Pécuchet, en su búsqueda de lo absoluto y en su deseo de dotarse de una erudición enciclopédica con fines utilitaristas, proyectaban una esperanza inútil y desmesurada respecto de todos los corpus de conocimientos consultados. No nos atrevemos a imaginar qué fórmula derivada de su ironía mordaz usaría Flaubert a propósito de los sistemas aletheicos que se supone que nos dan la respuesta correcta a cada cosa que ocurre en nuestras vidas. "Entonces nos convertimos, tanto individual como colectivamente, en los Bouvard y Pécuchet del siglo XXI, en aquellos que, para evitar caer en el abismo espantoso del escepticismo, aspiramos a capturar continuamente una verdad indudable."

Por esta razón se equivoca ese lugar común, al cual se vuelve una y otra vez, según el cual habríamos elaborado un nuevo Golem, como el rabino Loew, llamado el Marahal de Praga, que engendró una criatura dotada de poderes casi idénticos a los nuestros y capaz un día de “escapar a nuestro control” hasta convertirse en una potencia destructora. Es un lugar común equivocado porque el Golem, de acuerdo con la leyenda, estaba sometido al poder de su progenitor, que le dictaba órdenes y que podía, insertándole una hoja de papel en la boca, suspender en cualquier momento el soplo de vida que lo animaba. El día de la inauguración del centro de investigaciones en informática de Rehovot, en Israel, el filósofo Gershom Scholem pronunció un discurso que provenía de esta misma analogía: “En el día de hoy, tenemos el privilegio de celebrar el nacimiento de la última encarnación de ese proyecto de magia que fue el Golem de Rehovot. En verdad el Golem de Rehovot bien podría ser la réplica del Golem de Praga” (10). En realidad, el Golem no es el que creemos, es la inteligencia artificial a la que se le asigna gran cantidad de nuestros atributos, y somos nosotros los que adquirimos el estatuto de Golem al estar sometidos a un poder que, desde su saber siempre más omnisciente, nos ordena las acciones que deberíamos emprender. Según Scholem: “Dios creó al hombre a partir de un bloque de arcilla y le insufló una chispa de su vida divina, su potencia, su inteligencia. Sin esa inteligencia, y sin esa potencia creadora espontánea del espíritu humano que resulta de ella, Adán no sería otra cosa que un Golem”. (11)

Y a este título, no es casual que un ex ejecutivo de Uber, Anthony Levandowski, haya anunciado en 2017 la creación de una Iglesia llamada Way of Future, que pretende “consagrar un culto a la inteligencia artificial y favorecer la realización, la aceptación y la adoración de una divinidad basada en la inteligencia artificial, que es más apta que los hombres para hacer elecciones racionales para guiarlos adoraría que esta divinidad nos considerara como sus amados hermanos mayores, que nos respetara y cuidara. Si llegáramos a una entidad mil millones de veces más inteligente que el más inteligente de los humanos, ¿cómo quieren llamarla? No tendríamos otra elección que someternos a esta nueva divinidad” (12). Nos equivocaríamos si consideráramos estas palabras con desdén y nos contentáramos con burlarnos de ellas, porque son testimonio de una forma de perspicacia relativa al estatuto aurático que le otorgamos a las tecnologías de la aletheia y a su autoridad, bajo cuyo sello siempre estamos llamados a ubicarnos respondiendo a esquemas que se derivan bastante de la psiquiatría, y respecto de los cuales este tal Anthony Levandowski no sería sino un revelador, en la medida en que, como nunca antes en el transcurso de la historia, “las cosas desempeñan el rol de los hombres y los hombres desempeñan el rol de las cosas; es la raíz del 13 mal” (Simone Weil). (13)

1. Platón, República, Libro VII. 2. Aristóteles, Metafísica, Libro K. 3. Michel Foucault, Historia de la sexualidad, Tomo 2, El uso de los placeres, Buenos Aires, Siglo XXI, 2003. 4. Jacques Derrida, La tarjeta postal. De Sócrates a Freud y más allá, México, Siglo XXI, 1986. 5. Jean Baudrillard, Cool Memories, Barcelona, Anagrama, 1989. 6. Ver Jean-François Lyotard, Au juste, París, Christian Bourgois, 1979. 7. G.W.E. Hegel, Fenomenología del espíritu, México, FCE, 2017. 8. Gustave Flaubert, Bouvard y Pécuchet, Madrid, Cátedra, 1999. 9. Gustave Flaubert, Correspondance, I, París, Gallimard, “Bibliothèque de la Pléiade”, 1952, p. 679-680. 10. Gershom Scholem, “El Golem de Praga y el Golem de Rehovot”, en Norbert Wiener, Dios y Golem, op. cit. 11. Ibíd. 12. Mark Harris, “God Is a Bot, and Anthony Levandowski Is His Messenger”, Wired, 27 de septiembre de 2017. 13. Simone Weil, La condición obrera, Buenos Aires, El cuenco de plata, 2010.

Newsletter
¡Gracias!
Oops! Something went wrong while submitting the form.

La inteligencia artificial o el desafío del siglo: La emergencia de un nuevo régimen de verdad

La inteligencia artificial o el desafío del siglo: La emergencia de un nuevo régimen de verdad

Texto de
Fotografía de
Realización de
Ilustración de
Traducción de
10
.
06
.
20
AAAA
Tiempo de Lectura: 00 min

La inteligencia artificial es un cambio de estatuto de las tecnologías digitales: de ser prótesis acumulativas e intelectivas, han pasado a ser entidades de las que se espera que enuncien una verdad a partir de la interpretación automatizada. En este nuevo régimen, se juega la vocación humana. Este es un fragmento del libro La inteligencia artificial o el desafío del siglo de Éric Sadin, que publica Caja Negra.

Hacia mediados de la década de 2010 ocurrió un acontecimiento alucinante. No lo vimos venir. En cierto modo nos tomó desprevenidos, se extendió rápidamente y el poder de su impacto sobre la sociedad, a escala planetaria, nos dejó estupefactos. De súbito, se hacía posible para cualquiera, sin molestias, con aplomo, como la manifestación sin límites de la “libertad de expresión”, afirmar hechos sin que estuviera constatado que correspondieran con la realidad, sin que fuera necesario proceder a su verificación. Incluso podían tener un aura de mayor brillo en la medida en que parecían inverosímiles, asumiendo el estatuto de ser reveladores de cuán inconsecuente era la percepción común o “dominante” de las cosas. Pese a las apariencias, estos hechos se desplegaban como hechos constatados pero que pocos sabían ver. Dicha “clarividencia” se convirtió en el privilegio de quienes eran más juiciosos respecto de la inflación informacional enceguecedora de nuestra época y de todas las representaciones entremezcladas y normativizadas que esta inflación implicaba. Se impuso la noción de “posverdad” en una época confusa; se convirtió en un síntoma patente de nuestros malestares, en un marcador inquietante de nuestra pérdida de puntos de referencia. El fenómeno asumió tal amplitud que el diccionario de Oxford lo eligió, en 2016, como la expresión del año.
Ese año hubo dos acontecimientos decisivos que confirmaron su alcance histórico: primero, el voto del Brexit, que decidió que el Reino Unido saliera de la Unión Europea, seguido algunos meses más tarde por la elección sorpresiva de Donald Trump como presidente de los Estados Unidos. Nos dimos cuenta de que tanto uno como otro hecho fueron en parte favorecidos por la profusa difusión de escritos e imágenes que, en su mayor parte, buscaban deformar las cosas intencionalmente, imponiéndose como mensajes que arrojaban confusión sobre la verdad de lo que vehiculizaban habitualmente, en particular, los órganos de prensa. De pronto las sociedades se vieron desestabilizadas por un relativismo que escapaba a la razón y se vieron también privadas de referentes comunes, necesarios para el debate y para la expresión de la pluralidad de los puntos de vista. Esto condicionó el avance bien entendido de la democracia, especialmente en ocasión de consultas de importancia.
Muy pronto se quiso echar la culpa de esos procesos a las redes sociales, que no habrían hecho el trabajo de clasificación necesario, y que entonces habrían cerrado los ojos ante la creación de cuentas falsas que compraban espacios de visibilidad con fines propagandísticos, así como también compraban tropas, armadas con cuidado, a fin de diseminar fake news destinadas a manipular a la opinión pública. Es cierto que hubo factores como este y otros que contribuyeron a que estos hechos ocurrieran, pero se los quiere sostener equivocadamente como la causa, cuando no son sino efectos, porque el hecho principal no nos remite a la difusión viral de informaciones falsas en Internet sino a una nueva posición que ocupa el individuo contemporáneo. De ahora en adelante, cada uno de nosotros se imagina como posicionado en el centro del mundo y con el poder de acomodar los acontecimientos a su visión de las cosas, con tal estado de narcosis respecto de la propia sensación de unicidad que cualquier enunciado divergente de la propia posición podría ser rechazado de ahí en más. La verdad se define a partir de uno mismo, o según las propias creencias y tropismos; es una tendencia emblemática dentro de las teorías del complot que da testimonio de la desintegración creciente de nuestras bases comunes y de la extrema atomización de la sociedad en general. Es impactante observar que este asunto de la “posverdad”, que tiene su importancia, es considerado como una ruptura que perturba nuestra relación histórica con la verdad, mientras que en realidad se trata de la exactitud de los hechos, y no de la verdad stricto sensu, y entonces ocurre que se ignora otra ruptura, bastante más decisiva todavía, aunque de otra manera, que está en igual correlato con la cuestión de la verdad y que está llamada a determinar la forma de nuestras existencias. Esta otra ruptura reviste sin embargo una amplitud totalmente diferente y se deriva de un fenómeno de alcance civilizatorio determinante: la emergencia de un nuevo régimen de verdad.
Los sistemas de inteligencia artificial están llamados a evaluar una multitud de situaciones de todo orden, las necesidades de las personas, sus deseos, sus estados de salud, los modos de organización en común, así como una infinidad de fenómenos de lo real. Lo que caracteriza a los resultados de dichos análisis es que no se conforman solamente con reproducir ecuaciones que se suponen exactas, sino que se enmascaran bajo un valor de verdad en la medida en que lo hacen presentándose como conclusiones cerradas que llevan a que luego se inicien las acciones correspondientes. Esto es lo que diferencia la exactitud de la verdad: la exactitud pretende restituirnos a un estado objetivo, mientras que la verdad nos llama, por el mero principio de su enunciación, a que nos adecuemos a ella por medio de gestos concretos, porque toda verdad enunciada oculta, in fine, una dimensión performativa.
Emerge un nuevo régimen de verdad que se ve dotado de cinco características. A largo plazo, está destinado a relacionarse con la casi totalidad de los asuntos humanos y a ejercerse en toda circunstancia. Proviene, en cada campo de aplicación, de una fuente única, eliminando de facto el principio de una aprehensión plural de las cosas. Se inscribe principalmente en una lógica de tiempo real, revelando estados de hecho en el momento mismo en que esos hechos tienen lugar, impulsándonos en consecuencia a actuar dentro del menor lapso posible y deslegitimando el tiempo específico del análisis humano. Se le asigna un estatuto de autoridad inducido por una eficacia que aumenta sin descanso, paralizando desde la base toda pretensión de contradicción. Finalmente se relaciona únicamente con un espíritu utilitarista que responde principalmente a objetivos de optimización así como a intereses privados. "De súbito se hacía posible para cualquiera, sin molestias, como la manifestación sin límites de la ‘libertad de expresión’, afirmar hechos sin que estuviera constatado que correspondieran con la realidad, sin que fuera necesario proceder a su verificación."
Lo que está destinado a ser marginado o erradicado por la emergencia de un orden totalmente distinto son los principales estatutos históricos occidentales de la verdad. Estos estatutos se habían ido imponiendo sucesivamente a lo largo del tiempo; a veces coexistieron entre sí y muchos de ellos siguen presentes en nuestra episteme. Podemos identificar estos diferentes regímenes todavía relativamente vigentes. Primero, el de la verdad revelada de los monoteísmos, que nos muestra cómo el respeto de las Leyes determina un marco de vida individual y colectivo conforme a la moral divina. Esa verdad emana de una figura absoluta que prescribe una conducta a los humanos, que en teoría serían libres de acordarle su fe y de someterse a ella. Después está la verdad platónica, que no está dada en el marco de una escena inaugural y con un texto fundador pero que nos incita a no seguir confiando en las sombras de la caverna, a que nos deshagamos de las apariencias engañosas de lo real, exigiéndonos un esfuerzo sostenido que apunta progresivamente a que nos elevemos por encima de lo sensible y capturemos, más allá de todas las perpetuas variaciones, las esencias puras y eternas que manifiestan entonces la evidencia rutilante de lo verdadero: “Y cuando haya llegado hasta la luz, ¿podrá, con los ojos obnubilados por su resplandor, distinguir una sola de las cosas que ahora llamamos verdaderas?”. (1)
Más tarde, Aristóteles estimará que la búsqueda platónica se extravía dentro de algo suprasensible que no mantiene relación con la realidad, afirmando que lo verdadero se deriva de un criterio lógico, el principio de la no contradicción, sin el cual diríamos y contradiríamos todo y su contrario. “Asignar un valor igual a lo que opinan e imaginan quienes están en desacuerdo entre sí es una tontería. En efecto, está claro que unos u otros deben necesariamente equivocarse”. (2) Cada campo del saber, la astronomía, la botánica, el estudio de la anatomía humana, debe desarrollar métodos propios basados en la experiencia y la exigencia de verificación, determinando su verdad como una “adecuación con lo real”. En la Edad Media, contrariamente a la autoridad impuesta tanto por el feudalismo como por la jerarquía esclerosada de la Iglesia, el teólogo católico Tomás de Aquino hará del trabajo riguroso del espíritu la condición de acceso a lo verdadero. Lo que Descartes todavía proclama en el siglo XVII a partir de la certidumbre del cogito, a saber, el pleno uso de nuestra capacidad de discernimiento, permitirá buscar las verdades dando prueba de método, procediendo a deducciones y forjando “largas cadenas de razonamientos”.
inteligencia artificial un nuevo régimen de verdad
Los sistemas de inteligencia artificial están llamados a evaluar una multitud de situaciones de todo orden, las necesidades de las personas, sus deseos, sus estados de salud, los modos de organización en común, así como una infinidad de fenómenos de lo real.
En tiempos de las Luces se fue delimitando poco a poco la necesidad de aislar la verdad como concepto absoluto, la de valerse de un procedimiento exclusivo con vistas a aprehenderla para, de ahí en adelante, tenerla como un principio plural que se aloja de diversas maneras en los campos del mundo y de la vida, y que requiere entonces el estudio minucioso de los fenómenos que se relacionan con la naturaleza, la física, la medicina, la biología, pero también con la política, la economía, el derecho o la moral. En Occidente, surge una civilización que pretenderá desviarse de las especulaciones abstractas que se juzgan infructuosas y que hasta entonces se reservaban solamente a la casta de filósofos y doctores de las religiones para privilegiar, en consideración de un mayor número de personas, el trabajo del saber, los progresos de la enseñanza, la libre difusión de libros y periódicos, la elaboración de obras enciclopédicas de vocación pedagógica y la constitución de instituciones dedicadas al conocimiento y a la cultura. Son otros tantos marcos que también pretenden llevarnos a una mejor inteligencia de lo real gracias a los procesos individuales y comunes del enlightment, formando la base de una nueva era de la humanidad que celebrará las luces del espíritu y la formación de conciencias esclarecidas.
Sin embargo, después de todos los esfuerzos desplegados para trazar los surcos que llevan a la sociedad hacia el camino de un “progreso” incesante, llegó, en el momento de apogeo de la Revolución Industrial y del triunfo del “espíritu burgués”, o sea, hacia fines del siglo XIX, la hora de la sospecha meditada por Nietzsche, quien identificó el principio de verdad como aquello que está en el origen de todas las creencias inculcadas, y que implica el respeto obligado de una moral sin relieve que negaba y paralizaba las posibilidades virtualmente ofrecidas por la vida. Michel Foucault retomó esta constatación de la fuerza normativa de la verdad y se esforzó por detectar las múltiples representaciones que determinaban de modo más o menos visible la forma general de las sociedades, y cuya actualización debería permitir alentar pretensiones saludables de liberación: “ es un proyecto que busca desbrozar algunos de esos elementos que podrían ser útiles para una historia de la verdad. Una historia que no sería aquella de lo que puede haber de verdadero en los conocimientos, sino un análisis de los ‘juegos de verdad’, de los juegos de lo falso y verdadero a través de los cuales el ser se constituye históricamente como experiencia, es decir, como algo que puede y debe ser pensado” (3). Los trabajos de Foucault contribuyeron en parte a la emergencia de lo que fue llamado “posmodernismo”, que manifestaba un rechazo frontal de toda noción de verdad, denunciada como algo que instituía reglas posiblemente coercitivas por estar dotado de tal poder de autoridad que debía ser objeto de una “deconstrucción” capaz de liberarnos de todos los yugos impuestos. Esto llevó a Jacques Derrida a afirmar: “La verdad: es en su nombre maldito que nos hemos perdido” (4). Esta proposición fue radicalizada por Jean Baudrillard, que llegó al punto de pregonar el destierro del principio mismo de verdad: “La verdad es aquello de lo que hay que liberarse lo más pronto posible y pasarle el problema a otro. Como la enfermedad, ese es el único modo de curarse. Aquel que se quede con la verdad en la mano, pierde”. "Se impuso la noción de ‘posverdad’ en una época confusa; se convirtió en un síntoma patente de nuestros malestares, en un marcador inquietante de nuestra pérdida de puntos de referencia."
Sin embargo, lo que se cuestionaba era menos el esfuerzo de discernimiento individual y colectivo que exige toda decisión sensata y que tienda hacia lo justo –que tenía un carácter local, como subrayaba Jean-François Lyotard, ya que se supone que nos determina siempre en plena conciencia y según algunos principios intangibles, pero en función de circunstancias siempre variables y específicas–,(6) que la posibilidad de instalar juegos de poder por la fuerza de las convenciones establecidas pero que favorecen formas de registro de las conductas. Lo que se acciona en la aletheia algorítmica es precisamente esta dimensión sistemáticamente circunstancial, pero que no nos muestra ahora cómo una verdad se convierte en objeto de un saber reflexivo, de una búsqueda inacabable, dando testimonio de la apertura indefinida de lo real, sino que nos muestra una verdad enunciada por sistemas dotados de un poder de experticia supuestamente superior y que tiene como vocación ejercerse en toda oportunidad posible. Lo que distingue a este régimen respecto de sus precedentes históricos es que todos ellos, sin excepción, se exponían a gestos de reapropiación, a procedimientos de negociación, o incluso, en caso de rechazo radical, a maniobras más o menos manifiestas de oposición, y esto incluso en el marco jurídico construido por los monoteísmos o los regímenes autoritarios, como el vigente en la ficción 1984 de George Orwell. Cualquiera fuera su ascendente simbólico o formal, permitían, casi a su pesar, márgenes de acción tanto como la preservación de ciertas partes de uno mismo que podían seguir al abrigo de su autoridad.
En oposición a estas formas de licencia que son otorgadas más o menos abiertamente, se supone que la aletheia algorítmica está dotada de un tal nivel de calificación que el desafío ya no consiste en mostrar eventuales estrategias de subjetivación, o de evitamiento, respecto de ella, sino que el desafío parece ser encontrar la manera de adecuarse a esta aletheia lo mejor posible, como si fuera un procedimiento de vigilancia policial destinado a prevenir la inminencia de un peligro en una zona identificada que hace que de inmediato se envíen brigadas especializadas a los lugares correspondientes. Nunca un régimen de verdad se había impuesto de esta manera en la historia, y no por su fuerza de seducción o por su influjo coactivo sino por la sensación compartida de que hay una evidencia, por la producción de ecuaciones que damos por sentado que son las más apropiadas según un principio que pretende que los sistemas cognitivos son justamente Evidence Based Systems, es decir, sistemas basados en un principio de revelación de ciertos hechos que estos sistemas exponen ante nuestra conciencia –y por lo tanto tenemos que acordar con ellos porque hay una evidencia concreta para que lo hagamos así. La aletheia algorítmica procede de un poder de revelación que promete ejercer su ingenio a lo largo de un continuum sin costuras que va desde el menor detalle de nuestras existencias hasta las situaciones colectivas como ninguna otra instancia tutelar simbólica lo había podido hacer hasta ahora.
inteligencia artificial eric sadin
De ahora en adelante, cada uno de nosotros se imagina como posicionado en el centro del mundo y con el poder de acomodar los acontecimientos a su visión de las cosas.
Nietzsche había denunciado la voluntad de erigir una verdad supuestamente absoluta y objetiva de las cosas. Era su mayor combate: probablemente, a la vista de los poderes que conferimos a la inteligencia artificial, si viviera ahora sufriría una crisis de demencia igual que vivió en Turín en 1889. Quizás lo que se esté produciendo sea el fin hegeliano de la Historia, que ahora se hace manifiesto bajo el prisma de nuestra relación en devenir con la verdad, que se desvía respecto de las múltiples formas que había adoptado y a las que los humanos se habían remitido y que todas, cualquiera fuera su naturaleza y las promesas que pudieran anunciar, nunca llegaban a saldar nuestro extravío ontológico fundamental. De ahora en más asistimos alborozados a la agonía de nuestra “conciencia desdichada” para ver advenir la era del “Saber absoluto” descrito por Hegel como el momento en el cual la “verdad es perfectamente igual a la certidumbre”, y donde puedo decir: “Sé que viví y, a fuerza de experiencias y de desgarros, terminé por contener el universo”. (7)
Entonces nos convertimos, tanto individual como colectivamente, en los Bouvard y Pécuchet del siglo XXI, en aquellos que, para evitar “caer en el abismo espantoso del escepticismo” (8), aspiramos a capturar continuamente una verdad indudable, como los dos protagonistas del relato de Flaubert que, cuando deciden abordar un campo del saber, se ponen a la búsqueda de la obra que se los acercaría para, como esperamos de la inteligencia artificial, poder actuar sin fallas sobre las cosas. Por eso Bouvard y Pécuchet, después de leer, hacían sistemáticamente experimentos destinados a verificar todo en lo concreto de la vida. Esos experimentos fracasaban en su mayor parte, o a veces tenían éxito a medias y solamente por azar. Flaubert combatiría con escarnio este positivismo científico que pretendía llegar hasta el fondo de todo fenómeno y esto lo llevó a enunciar la fórmula, que después de él se volvió célebre, según la cual “la tontería consiste en querer llegar a una conclusión” (9). Él no creía en la existencia de verdades definitivas sino en la profusión nunca saldada de las representaciones que afirmaban que Dios puede saber la causa primera de toda cosa, pero no los humanos. Bouvard y Pécuchet, en su búsqueda de lo absoluto y en su deseo de dotarse de una erudición enciclopédica con fines utilitaristas, proyectaban una esperanza inútil y desmesurada respecto de todos los corpus de conocimientos consultados. No nos atrevemos a imaginar qué fórmula derivada de su ironía mordaz usaría Flaubert a propósito de los sistemas aletheicos que se supone que nos dan la respuesta correcta a cada cosa que ocurre en nuestras vidas. "Entonces nos convertimos, tanto individual como colectivamente, en los Bouvard y Pécuchet del siglo XXI, en aquellos que, para evitar caer en el abismo espantoso del escepticismo, aspiramos a capturar continuamente una verdad indudable."

Por esta razón se equivoca ese lugar común, al cual se vuelve una y otra vez, según el cual habríamos elaborado un nuevo Golem, como el rabino Loew, llamado el Marahal de Praga, que engendró una criatura dotada de poderes casi idénticos a los nuestros y capaz un día de “escapar a nuestro control” hasta convertirse en una potencia destructora. Es un lugar común equivocado porque el Golem, de acuerdo con la leyenda, estaba sometido al poder de su progenitor, que le dictaba órdenes y que podía, insertándole una hoja de papel en la boca, suspender en cualquier momento el soplo de vida que lo animaba. El día de la inauguración del centro de investigaciones en informática de Rehovot, en Israel, el filósofo Gershom Scholem pronunció un discurso que provenía de esta misma analogía: “En el día de hoy, tenemos el privilegio de celebrar el nacimiento de la última encarnación de ese proyecto de magia que fue el Golem de Rehovot. En verdad el Golem de Rehovot bien podría ser la réplica del Golem de Praga” (10). En realidad, el Golem no es el que creemos, es la inteligencia artificial a la que se le asigna gran cantidad de nuestros atributos, y somos nosotros los que adquirimos el estatuto de Golem al estar sometidos a un poder que, desde su saber siempre más omnisciente, nos ordena las acciones que deberíamos emprender. Según Scholem: “Dios creó al hombre a partir de un bloque de arcilla y le insufló una chispa de su vida divina, su potencia, su inteligencia. Sin esa inteligencia, y sin esa potencia creadora espontánea del espíritu humano que resulta de ella, Adán no sería otra cosa que un Golem”. (11)

Y a este título, no es casual que un ex ejecutivo de Uber, Anthony Levandowski, haya anunciado en 2017 la creación de una Iglesia llamada Way of Future, que pretende “consagrar un culto a la inteligencia artificial y favorecer la realización, la aceptación y la adoración de una divinidad basada en la inteligencia artificial, que es más apta que los hombres para hacer elecciones racionales para guiarlos adoraría que esta divinidad nos considerara como sus amados hermanos mayores, que nos respetara y cuidara. Si llegáramos a una entidad mil millones de veces más inteligente que el más inteligente de los humanos, ¿cómo quieren llamarla? No tendríamos otra elección que someternos a esta nueva divinidad” (12). Nos equivocaríamos si consideráramos estas palabras con desdén y nos contentáramos con burlarnos de ellas, porque son testimonio de una forma de perspicacia relativa al estatuto aurático que le otorgamos a las tecnologías de la aletheia y a su autoridad, bajo cuyo sello siempre estamos llamados a ubicarnos respondiendo a esquemas que se derivan bastante de la psiquiatría, y respecto de los cuales este tal Anthony Levandowski no sería sino un revelador, en la medida en que, como nunca antes en el transcurso de la historia, “las cosas desempeñan el rol de los hombres y los hombres desempeñan el rol de las cosas; es la raíz del 13 mal” (Simone Weil). (13)

1. Platón, República, Libro VII. 2. Aristóteles, Metafísica, Libro K. 3. Michel Foucault, Historia de la sexualidad, Tomo 2, El uso de los placeres, Buenos Aires, Siglo XXI, 2003. 4. Jacques Derrida, La tarjeta postal. De Sócrates a Freud y más allá, México, Siglo XXI, 1986. 5. Jean Baudrillard, Cool Memories, Barcelona, Anagrama, 1989. 6. Ver Jean-François Lyotard, Au juste, París, Christian Bourgois, 1979. 7. G.W.E. Hegel, Fenomenología del espíritu, México, FCE, 2017. 8. Gustave Flaubert, Bouvard y Pécuchet, Madrid, Cátedra, 1999. 9. Gustave Flaubert, Correspondance, I, París, Gallimard, “Bibliothèque de la Pléiade”, 1952, p. 679-680. 10. Gershom Scholem, “El Golem de Praga y el Golem de Rehovot”, en Norbert Wiener, Dios y Golem, op. cit. 11. Ibíd. 12. Mark Harris, “God Is a Bot, and Anthony Levandowski Is His Messenger”, Wired, 27 de septiembre de 2017. 13. Simone Weil, La condición obrera, Buenos Aires, El cuenco de plata, 2010.

Newsletter
¡Gracias!
Oops! Something went wrong while submitting the form.

La inteligencia artificial o el desafío del siglo: La emergencia de un nuevo régimen de verdad

La inteligencia artificial o el desafío del siglo: La emergencia de un nuevo régimen de verdad

Texto de
Fotografía de
Realización de
Ilustración de
Traducción de
10
.
06
.
20
AAAA
Tiempo de Lectura: 00 min

La inteligencia artificial es un cambio de estatuto de las tecnologías digitales: de ser prótesis acumulativas e intelectivas, han pasado a ser entidades de las que se espera que enuncien una verdad a partir de la interpretación automatizada. En este nuevo régimen, se juega la vocación humana. Este es un fragmento del libro La inteligencia artificial o el desafío del siglo de Éric Sadin, que publica Caja Negra.

Hacia mediados de la década de 2010 ocurrió un acontecimiento alucinante. No lo vimos venir. En cierto modo nos tomó desprevenidos, se extendió rápidamente y el poder de su impacto sobre la sociedad, a escala planetaria, nos dejó estupefactos. De súbito, se hacía posible para cualquiera, sin molestias, con aplomo, como la manifestación sin límites de la “libertad de expresión”, afirmar hechos sin que estuviera constatado que correspondieran con la realidad, sin que fuera necesario proceder a su verificación. Incluso podían tener un aura de mayor brillo en la medida en que parecían inverosímiles, asumiendo el estatuto de ser reveladores de cuán inconsecuente era la percepción común o “dominante” de las cosas. Pese a las apariencias, estos hechos se desplegaban como hechos constatados pero que pocos sabían ver. Dicha “clarividencia” se convirtió en el privilegio de quienes eran más juiciosos respecto de la inflación informacional enceguecedora de nuestra época y de todas las representaciones entremezcladas y normativizadas que esta inflación implicaba. Se impuso la noción de “posverdad” en una época confusa; se convirtió en un síntoma patente de nuestros malestares, en un marcador inquietante de nuestra pérdida de puntos de referencia. El fenómeno asumió tal amplitud que el diccionario de Oxford lo eligió, en 2016, como la expresión del año.
Ese año hubo dos acontecimientos decisivos que confirmaron su alcance histórico: primero, el voto del Brexit, que decidió que el Reino Unido saliera de la Unión Europea, seguido algunos meses más tarde por la elección sorpresiva de Donald Trump como presidente de los Estados Unidos. Nos dimos cuenta de que tanto uno como otro hecho fueron en parte favorecidos por la profusa difusión de escritos e imágenes que, en su mayor parte, buscaban deformar las cosas intencionalmente, imponiéndose como mensajes que arrojaban confusión sobre la verdad de lo que vehiculizaban habitualmente, en particular, los órganos de prensa. De pronto las sociedades se vieron desestabilizadas por un relativismo que escapaba a la razón y se vieron también privadas de referentes comunes, necesarios para el debate y para la expresión de la pluralidad de los puntos de vista. Esto condicionó el avance bien entendido de la democracia, especialmente en ocasión de consultas de importancia.
Muy pronto se quiso echar la culpa de esos procesos a las redes sociales, que no habrían hecho el trabajo de clasificación necesario, y que entonces habrían cerrado los ojos ante la creación de cuentas falsas que compraban espacios de visibilidad con fines propagandísticos, así como también compraban tropas, armadas con cuidado, a fin de diseminar fake news destinadas a manipular a la opinión pública. Es cierto que hubo factores como este y otros que contribuyeron a que estos hechos ocurrieran, pero se los quiere sostener equivocadamente como la causa, cuando no son sino efectos, porque el hecho principal no nos remite a la difusión viral de informaciones falsas en Internet sino a una nueva posición que ocupa el individuo contemporáneo. De ahora en adelante, cada uno de nosotros se imagina como posicionado en el centro del mundo y con el poder de acomodar los acontecimientos a su visión de las cosas, con tal estado de narcosis respecto de la propia sensación de unicidad que cualquier enunciado divergente de la propia posición podría ser rechazado de ahí en más. La verdad se define a partir de uno mismo, o según las propias creencias y tropismos; es una tendencia emblemática dentro de las teorías del complot que da testimonio de la desintegración creciente de nuestras bases comunes y de la extrema atomización de la sociedad en general. Es impactante observar que este asunto de la “posverdad”, que tiene su importancia, es considerado como una ruptura que perturba nuestra relación histórica con la verdad, mientras que en realidad se trata de la exactitud de los hechos, y no de la verdad stricto sensu, y entonces ocurre que se ignora otra ruptura, bastante más decisiva todavía, aunque de otra manera, que está en igual correlato con la cuestión de la verdad y que está llamada a determinar la forma de nuestras existencias. Esta otra ruptura reviste sin embargo una amplitud totalmente diferente y se deriva de un fenómeno de alcance civilizatorio determinante: la emergencia de un nuevo régimen de verdad.
Los sistemas de inteligencia artificial están llamados a evaluar una multitud de situaciones de todo orden, las necesidades de las personas, sus deseos, sus estados de salud, los modos de organización en común, así como una infinidad de fenómenos de lo real. Lo que caracteriza a los resultados de dichos análisis es que no se conforman solamente con reproducir ecuaciones que se suponen exactas, sino que se enmascaran bajo un valor de verdad en la medida en que lo hacen presentándose como conclusiones cerradas que llevan a que luego se inicien las acciones correspondientes. Esto es lo que diferencia la exactitud de la verdad: la exactitud pretende restituirnos a un estado objetivo, mientras que la verdad nos llama, por el mero principio de su enunciación, a que nos adecuemos a ella por medio de gestos concretos, porque toda verdad enunciada oculta, in fine, una dimensión performativa.
Emerge un nuevo régimen de verdad que se ve dotado de cinco características. A largo plazo, está destinado a relacionarse con la casi totalidad de los asuntos humanos y a ejercerse en toda circunstancia. Proviene, en cada campo de aplicación, de una fuente única, eliminando de facto el principio de una aprehensión plural de las cosas. Se inscribe principalmente en una lógica de tiempo real, revelando estados de hecho en el momento mismo en que esos hechos tienen lugar, impulsándonos en consecuencia a actuar dentro del menor lapso posible y deslegitimando el tiempo específico del análisis humano. Se le asigna un estatuto de autoridad inducido por una eficacia que aumenta sin descanso, paralizando desde la base toda pretensión de contradicción. Finalmente se relaciona únicamente con un espíritu utilitarista que responde principalmente a objetivos de optimización así como a intereses privados. "De súbito se hacía posible para cualquiera, sin molestias, como la manifestación sin límites de la ‘libertad de expresión’, afirmar hechos sin que estuviera constatado que correspondieran con la realidad, sin que fuera necesario proceder a su verificación."
Lo que está destinado a ser marginado o erradicado por la emergencia de un orden totalmente distinto son los principales estatutos históricos occidentales de la verdad. Estos estatutos se habían ido imponiendo sucesivamente a lo largo del tiempo; a veces coexistieron entre sí y muchos de ellos siguen presentes en nuestra episteme. Podemos identificar estos diferentes regímenes todavía relativamente vigentes. Primero, el de la verdad revelada de los monoteísmos, que nos muestra cómo el respeto de las Leyes determina un marco de vida individual y colectivo conforme a la moral divina. Esa verdad emana de una figura absoluta que prescribe una conducta a los humanos, que en teoría serían libres de acordarle su fe y de someterse a ella. Después está la verdad platónica, que no está dada en el marco de una escena inaugural y con un texto fundador pero que nos incita a no seguir confiando en las sombras de la caverna, a que nos deshagamos de las apariencias engañosas de lo real, exigiéndonos un esfuerzo sostenido que apunta progresivamente a que nos elevemos por encima de lo sensible y capturemos, más allá de todas las perpetuas variaciones, las esencias puras y eternas que manifiestan entonces la evidencia rutilante de lo verdadero: “Y cuando haya llegado hasta la luz, ¿podrá, con los ojos obnubilados por su resplandor, distinguir una sola de las cosas que ahora llamamos verdaderas?”. (1)
Más tarde, Aristóteles estimará que la búsqueda platónica se extravía dentro de algo suprasensible que no mantiene relación con la realidad, afirmando que lo verdadero se deriva de un criterio lógico, el principio de la no contradicción, sin el cual diríamos y contradiríamos todo y su contrario. “Asignar un valor igual a lo que opinan e imaginan quienes están en desacuerdo entre sí es una tontería. En efecto, está claro que unos u otros deben necesariamente equivocarse”. (2) Cada campo del saber, la astronomía, la botánica, el estudio de la anatomía humana, debe desarrollar métodos propios basados en la experiencia y la exigencia de verificación, determinando su verdad como una “adecuación con lo real”. En la Edad Media, contrariamente a la autoridad impuesta tanto por el feudalismo como por la jerarquía esclerosada de la Iglesia, el teólogo católico Tomás de Aquino hará del trabajo riguroso del espíritu la condición de acceso a lo verdadero. Lo que Descartes todavía proclama en el siglo XVII a partir de la certidumbre del cogito, a saber, el pleno uso de nuestra capacidad de discernimiento, permitirá buscar las verdades dando prueba de método, procediendo a deducciones y forjando “largas cadenas de razonamientos”.
inteligencia artificial un nuevo régimen de verdad
Los sistemas de inteligencia artificial están llamados a evaluar una multitud de situaciones de todo orden, las necesidades de las personas, sus deseos, sus estados de salud, los modos de organización en común, así como una infinidad de fenómenos de lo real.
En tiempos de las Luces se fue delimitando poco a poco la necesidad de aislar la verdad como concepto absoluto, la de valerse de un procedimiento exclusivo con vistas a aprehenderla para, de ahí en adelante, tenerla como un principio plural que se aloja de diversas maneras en los campos del mundo y de la vida, y que requiere entonces el estudio minucioso de los fenómenos que se relacionan con la naturaleza, la física, la medicina, la biología, pero también con la política, la economía, el derecho o la moral. En Occidente, surge una civilización que pretenderá desviarse de las especulaciones abstractas que se juzgan infructuosas y que hasta entonces se reservaban solamente a la casta de filósofos y doctores de las religiones para privilegiar, en consideración de un mayor número de personas, el trabajo del saber, los progresos de la enseñanza, la libre difusión de libros y periódicos, la elaboración de obras enciclopédicas de vocación pedagógica y la constitución de instituciones dedicadas al conocimiento y a la cultura. Son otros tantos marcos que también pretenden llevarnos a una mejor inteligencia de lo real gracias a los procesos individuales y comunes del enlightment, formando la base de una nueva era de la humanidad que celebrará las luces del espíritu y la formación de conciencias esclarecidas.
Sin embargo, después de todos los esfuerzos desplegados para trazar los surcos que llevan a la sociedad hacia el camino de un “progreso” incesante, llegó, en el momento de apogeo de la Revolución Industrial y del triunfo del “espíritu burgués”, o sea, hacia fines del siglo XIX, la hora de la sospecha meditada por Nietzsche, quien identificó el principio de verdad como aquello que está en el origen de todas las creencias inculcadas, y que implica el respeto obligado de una moral sin relieve que negaba y paralizaba las posibilidades virtualmente ofrecidas por la vida. Michel Foucault retomó esta constatación de la fuerza normativa de la verdad y se esforzó por detectar las múltiples representaciones que determinaban de modo más o menos visible la forma general de las sociedades, y cuya actualización debería permitir alentar pretensiones saludables de liberación: “ es un proyecto que busca desbrozar algunos de esos elementos que podrían ser útiles para una historia de la verdad. Una historia que no sería aquella de lo que puede haber de verdadero en los conocimientos, sino un análisis de los ‘juegos de verdad’, de los juegos de lo falso y verdadero a través de los cuales el ser se constituye históricamente como experiencia, es decir, como algo que puede y debe ser pensado” (3). Los trabajos de Foucault contribuyeron en parte a la emergencia de lo que fue llamado “posmodernismo”, que manifestaba un rechazo frontal de toda noción de verdad, denunciada como algo que instituía reglas posiblemente coercitivas por estar dotado de tal poder de autoridad que debía ser objeto de una “deconstrucción” capaz de liberarnos de todos los yugos impuestos. Esto llevó a Jacques Derrida a afirmar: “La verdad: es en su nombre maldito que nos hemos perdido” (4). Esta proposición fue radicalizada por Jean Baudrillard, que llegó al punto de pregonar el destierro del principio mismo de verdad: “La verdad es aquello de lo que hay que liberarse lo más pronto posible y pasarle el problema a otro. Como la enfermedad, ese es el único modo de curarse. Aquel que se quede con la verdad en la mano, pierde”. "Se impuso la noción de ‘posverdad’ en una época confusa; se convirtió en un síntoma patente de nuestros malestares, en un marcador inquietante de nuestra pérdida de puntos de referencia."
Sin embargo, lo que se cuestionaba era menos el esfuerzo de discernimiento individual y colectivo que exige toda decisión sensata y que tienda hacia lo justo –que tenía un carácter local, como subrayaba Jean-François Lyotard, ya que se supone que nos determina siempre en plena conciencia y según algunos principios intangibles, pero en función de circunstancias siempre variables y específicas–,(6) que la posibilidad de instalar juegos de poder por la fuerza de las convenciones establecidas pero que favorecen formas de registro de las conductas. Lo que se acciona en la aletheia algorítmica es precisamente esta dimensión sistemáticamente circunstancial, pero que no nos muestra ahora cómo una verdad se convierte en objeto de un saber reflexivo, de una búsqueda inacabable, dando testimonio de la apertura indefinida de lo real, sino que nos muestra una verdad enunciada por sistemas dotados de un poder de experticia supuestamente superior y que tiene como vocación ejercerse en toda oportunidad posible. Lo que distingue a este régimen respecto de sus precedentes históricos es que todos ellos, sin excepción, se exponían a gestos de reapropiación, a procedimientos de negociación, o incluso, en caso de rechazo radical, a maniobras más o menos manifiestas de oposición, y esto incluso en el marco jurídico construido por los monoteísmos o los regímenes autoritarios, como el vigente en la ficción 1984 de George Orwell. Cualquiera fuera su ascendente simbólico o formal, permitían, casi a su pesar, márgenes de acción tanto como la preservación de ciertas partes de uno mismo que podían seguir al abrigo de su autoridad.
En oposición a estas formas de licencia que son otorgadas más o menos abiertamente, se supone que la aletheia algorítmica está dotada de un tal nivel de calificación que el desafío ya no consiste en mostrar eventuales estrategias de subjetivación, o de evitamiento, respecto de ella, sino que el desafío parece ser encontrar la manera de adecuarse a esta aletheia lo mejor posible, como si fuera un procedimiento de vigilancia policial destinado a prevenir la inminencia de un peligro en una zona identificada que hace que de inmediato se envíen brigadas especializadas a los lugares correspondientes. Nunca un régimen de verdad se había impuesto de esta manera en la historia, y no por su fuerza de seducción o por su influjo coactivo sino por la sensación compartida de que hay una evidencia, por la producción de ecuaciones que damos por sentado que son las más apropiadas según un principio que pretende que los sistemas cognitivos son justamente Evidence Based Systems, es decir, sistemas basados en un principio de revelación de ciertos hechos que estos sistemas exponen ante nuestra conciencia –y por lo tanto tenemos que acordar con ellos porque hay una evidencia concreta para que lo hagamos así. La aletheia algorítmica procede de un poder de revelación que promete ejercer su ingenio a lo largo de un continuum sin costuras que va desde el menor detalle de nuestras existencias hasta las situaciones colectivas como ninguna otra instancia tutelar simbólica lo había podido hacer hasta ahora.
inteligencia artificial eric sadin
De ahora en adelante, cada uno de nosotros se imagina como posicionado en el centro del mundo y con el poder de acomodar los acontecimientos a su visión de las cosas.
Nietzsche había denunciado la voluntad de erigir una verdad supuestamente absoluta y objetiva de las cosas. Era su mayor combate: probablemente, a la vista de los poderes que conferimos a la inteligencia artificial, si viviera ahora sufriría una crisis de demencia igual que vivió en Turín en 1889. Quizás lo que se esté produciendo sea el fin hegeliano de la Historia, que ahora se hace manifiesto bajo el prisma de nuestra relación en devenir con la verdad, que se desvía respecto de las múltiples formas que había adoptado y a las que los humanos se habían remitido y que todas, cualquiera fuera su naturaleza y las promesas que pudieran anunciar, nunca llegaban a saldar nuestro extravío ontológico fundamental. De ahora en más asistimos alborozados a la agonía de nuestra “conciencia desdichada” para ver advenir la era del “Saber absoluto” descrito por Hegel como el momento en el cual la “verdad es perfectamente igual a la certidumbre”, y donde puedo decir: “Sé que viví y, a fuerza de experiencias y de desgarros, terminé por contener el universo”. (7)
Entonces nos convertimos, tanto individual como colectivamente, en los Bouvard y Pécuchet del siglo XXI, en aquellos que, para evitar “caer en el abismo espantoso del escepticismo” (8), aspiramos a capturar continuamente una verdad indudable, como los dos protagonistas del relato de Flaubert que, cuando deciden abordar un campo del saber, se ponen a la búsqueda de la obra que se los acercaría para, como esperamos de la inteligencia artificial, poder actuar sin fallas sobre las cosas. Por eso Bouvard y Pécuchet, después de leer, hacían sistemáticamente experimentos destinados a verificar todo en lo concreto de la vida. Esos experimentos fracasaban en su mayor parte, o a veces tenían éxito a medias y solamente por azar. Flaubert combatiría con escarnio este positivismo científico que pretendía llegar hasta el fondo de todo fenómeno y esto lo llevó a enunciar la fórmula, que después de él se volvió célebre, según la cual “la tontería consiste en querer llegar a una conclusión” (9). Él no creía en la existencia de verdades definitivas sino en la profusión nunca saldada de las representaciones que afirmaban que Dios puede saber la causa primera de toda cosa, pero no los humanos. Bouvard y Pécuchet, en su búsqueda de lo absoluto y en su deseo de dotarse de una erudición enciclopédica con fines utilitaristas, proyectaban una esperanza inútil y desmesurada respecto de todos los corpus de conocimientos consultados. No nos atrevemos a imaginar qué fórmula derivada de su ironía mordaz usaría Flaubert a propósito de los sistemas aletheicos que se supone que nos dan la respuesta correcta a cada cosa que ocurre en nuestras vidas. "Entonces nos convertimos, tanto individual como colectivamente, en los Bouvard y Pécuchet del siglo XXI, en aquellos que, para evitar caer en el abismo espantoso del escepticismo, aspiramos a capturar continuamente una verdad indudable."

Por esta razón se equivoca ese lugar común, al cual se vuelve una y otra vez, según el cual habríamos elaborado un nuevo Golem, como el rabino Loew, llamado el Marahal de Praga, que engendró una criatura dotada de poderes casi idénticos a los nuestros y capaz un día de “escapar a nuestro control” hasta convertirse en una potencia destructora. Es un lugar común equivocado porque el Golem, de acuerdo con la leyenda, estaba sometido al poder de su progenitor, que le dictaba órdenes y que podía, insertándole una hoja de papel en la boca, suspender en cualquier momento el soplo de vida que lo animaba. El día de la inauguración del centro de investigaciones en informática de Rehovot, en Israel, el filósofo Gershom Scholem pronunció un discurso que provenía de esta misma analogía: “En el día de hoy, tenemos el privilegio de celebrar el nacimiento de la última encarnación de ese proyecto de magia que fue el Golem de Rehovot. En verdad el Golem de Rehovot bien podría ser la réplica del Golem de Praga” (10). En realidad, el Golem no es el que creemos, es la inteligencia artificial a la que se le asigna gran cantidad de nuestros atributos, y somos nosotros los que adquirimos el estatuto de Golem al estar sometidos a un poder que, desde su saber siempre más omnisciente, nos ordena las acciones que deberíamos emprender. Según Scholem: “Dios creó al hombre a partir de un bloque de arcilla y le insufló una chispa de su vida divina, su potencia, su inteligencia. Sin esa inteligencia, y sin esa potencia creadora espontánea del espíritu humano que resulta de ella, Adán no sería otra cosa que un Golem”. (11)

Y a este título, no es casual que un ex ejecutivo de Uber, Anthony Levandowski, haya anunciado en 2017 la creación de una Iglesia llamada Way of Future, que pretende “consagrar un culto a la inteligencia artificial y favorecer la realización, la aceptación y la adoración de una divinidad basada en la inteligencia artificial, que es más apta que los hombres para hacer elecciones racionales para guiarlos adoraría que esta divinidad nos considerara como sus amados hermanos mayores, que nos respetara y cuidara. Si llegáramos a una entidad mil millones de veces más inteligente que el más inteligente de los humanos, ¿cómo quieren llamarla? No tendríamos otra elección que someternos a esta nueva divinidad” (12). Nos equivocaríamos si consideráramos estas palabras con desdén y nos contentáramos con burlarnos de ellas, porque son testimonio de una forma de perspicacia relativa al estatuto aurático que le otorgamos a las tecnologías de la aletheia y a su autoridad, bajo cuyo sello siempre estamos llamados a ubicarnos respondiendo a esquemas que se derivan bastante de la psiquiatría, y respecto de los cuales este tal Anthony Levandowski no sería sino un revelador, en la medida en que, como nunca antes en el transcurso de la historia, “las cosas desempeñan el rol de los hombres y los hombres desempeñan el rol de las cosas; es la raíz del 13 mal” (Simone Weil). (13)

1. Platón, República, Libro VII. 2. Aristóteles, Metafísica, Libro K. 3. Michel Foucault, Historia de la sexualidad, Tomo 2, El uso de los placeres, Buenos Aires, Siglo XXI, 2003. 4. Jacques Derrida, La tarjeta postal. De Sócrates a Freud y más allá, México, Siglo XXI, 1986. 5. Jean Baudrillard, Cool Memories, Barcelona, Anagrama, 1989. 6. Ver Jean-François Lyotard, Au juste, París, Christian Bourgois, 1979. 7. G.W.E. Hegel, Fenomenología del espíritu, México, FCE, 2017. 8. Gustave Flaubert, Bouvard y Pécuchet, Madrid, Cátedra, 1999. 9. Gustave Flaubert, Correspondance, I, París, Gallimard, “Bibliothèque de la Pléiade”, 1952, p. 679-680. 10. Gershom Scholem, “El Golem de Praga y el Golem de Rehovot”, en Norbert Wiener, Dios y Golem, op. cit. 11. Ibíd. 12. Mark Harris, “God Is a Bot, and Anthony Levandowski Is His Messenger”, Wired, 27 de septiembre de 2017. 13. Simone Weil, La condición obrera, Buenos Aires, El cuenco de plata, 2010.

Newsletter
¡Gracias!
Oops! Something went wrong while submitting the form.

La inteligencia artificial o el desafío del siglo: La emergencia de un nuevo régimen de verdad

La inteligencia artificial o el desafío del siglo: La emergencia de un nuevo régimen de verdad

10
.
06
.
20
2020
Texto de
Fotografía de
Realización de
Ilustración de
Traducción de
Ver Videos

La inteligencia artificial es un cambio de estatuto de las tecnologías digitales: de ser prótesis acumulativas e intelectivas, han pasado a ser entidades de las que se espera que enuncien una verdad a partir de la interpretación automatizada. En este nuevo régimen, se juega la vocación humana. Este es un fragmento del libro La inteligencia artificial o el desafío del siglo de Éric Sadin, que publica Caja Negra.

Hacia mediados de la década de 2010 ocurrió un acontecimiento alucinante. No lo vimos venir. En cierto modo nos tomó desprevenidos, se extendió rápidamente y el poder de su impacto sobre la sociedad, a escala planetaria, nos dejó estupefactos. De súbito, se hacía posible para cualquiera, sin molestias, con aplomo, como la manifestación sin límites de la “libertad de expresión”, afirmar hechos sin que estuviera constatado que correspondieran con la realidad, sin que fuera necesario proceder a su verificación. Incluso podían tener un aura de mayor brillo en la medida en que parecían inverosímiles, asumiendo el estatuto de ser reveladores de cuán inconsecuente era la percepción común o “dominante” de las cosas. Pese a las apariencias, estos hechos se desplegaban como hechos constatados pero que pocos sabían ver. Dicha “clarividencia” se convirtió en el privilegio de quienes eran más juiciosos respecto de la inflación informacional enceguecedora de nuestra época y de todas las representaciones entremezcladas y normativizadas que esta inflación implicaba. Se impuso la noción de “posverdad” en una época confusa; se convirtió en un síntoma patente de nuestros malestares, en un marcador inquietante de nuestra pérdida de puntos de referencia. El fenómeno asumió tal amplitud que el diccionario de Oxford lo eligió, en 2016, como la expresión del año.
Ese año hubo dos acontecimientos decisivos que confirmaron su alcance histórico: primero, el voto del Brexit, que decidió que el Reino Unido saliera de la Unión Europea, seguido algunos meses más tarde por la elección sorpresiva de Donald Trump como presidente de los Estados Unidos. Nos dimos cuenta de que tanto uno como otro hecho fueron en parte favorecidos por la profusa difusión de escritos e imágenes que, en su mayor parte, buscaban deformar las cosas intencionalmente, imponiéndose como mensajes que arrojaban confusión sobre la verdad de lo que vehiculizaban habitualmente, en particular, los órganos de prensa. De pronto las sociedades se vieron desestabilizadas por un relativismo que escapaba a la razón y se vieron también privadas de referentes comunes, necesarios para el debate y para la expresión de la pluralidad de los puntos de vista. Esto condicionó el avance bien entendido de la democracia, especialmente en ocasión de consultas de importancia.
Muy pronto se quiso echar la culpa de esos procesos a las redes sociales, que no habrían hecho el trabajo de clasificación necesario, y que entonces habrían cerrado los ojos ante la creación de cuentas falsas que compraban espacios de visibilidad con fines propagandísticos, así como también compraban tropas, armadas con cuidado, a fin de diseminar fake news destinadas a manipular a la opinión pública. Es cierto que hubo factores como este y otros que contribuyeron a que estos hechos ocurrieran, pero se los quiere sostener equivocadamente como la causa, cuando no son sino efectos, porque el hecho principal no nos remite a la difusión viral de informaciones falsas en Internet sino a una nueva posición que ocupa el individuo contemporáneo. De ahora en adelante, cada uno de nosotros se imagina como posicionado en el centro del mundo y con el poder de acomodar los acontecimientos a su visión de las cosas, con tal estado de narcosis respecto de la propia sensación de unicidad que cualquier enunciado divergente de la propia posición podría ser rechazado de ahí en más. La verdad se define a partir de uno mismo, o según las propias creencias y tropismos; es una tendencia emblemática dentro de las teorías del complot que da testimonio de la desintegración creciente de nuestras bases comunes y de la extrema atomización de la sociedad en general. Es impactante observar que este asunto de la “posverdad”, que tiene su importancia, es considerado como una ruptura que perturba nuestra relación histórica con la verdad, mientras que en realidad se trata de la exactitud de los hechos, y no de la verdad stricto sensu, y entonces ocurre que se ignora otra ruptura, bastante más decisiva todavía, aunque de otra manera, que está en igual correlato con la cuestión de la verdad y que está llamada a determinar la forma de nuestras existencias. Esta otra ruptura reviste sin embargo una amplitud totalmente diferente y se deriva de un fenómeno de alcance civilizatorio determinante: la emergencia de un nuevo régimen de verdad.
Los sistemas de inteligencia artificial están llamados a evaluar una multitud de situaciones de todo orden, las necesidades de las personas, sus deseos, sus estados de salud, los modos de organización en común, así como una infinidad de fenómenos de lo real. Lo que caracteriza a los resultados de dichos análisis es que no se conforman solamente con reproducir ecuaciones que se suponen exactas, sino que se enmascaran bajo un valor de verdad en la medida en que lo hacen presentándose como conclusiones cerradas que llevan a que luego se inicien las acciones correspondientes. Esto es lo que diferencia la exactitud de la verdad: la exactitud pretende restituirnos a un estado objetivo, mientras que la verdad nos llama, por el mero principio de su enunciación, a que nos adecuemos a ella por medio de gestos concretos, porque toda verdad enunciada oculta, in fine, una dimensión performativa.
Emerge un nuevo régimen de verdad que se ve dotado de cinco características. A largo plazo, está destinado a relacionarse con la casi totalidad de los asuntos humanos y a ejercerse en toda circunstancia. Proviene, en cada campo de aplicación, de una fuente única, eliminando de facto el principio de una aprehensión plural de las cosas. Se inscribe principalmente en una lógica de tiempo real, revelando estados de hecho en el momento mismo en que esos hechos tienen lugar, impulsándonos en consecuencia a actuar dentro del menor lapso posible y deslegitimando el tiempo específico del análisis humano. Se le asigna un estatuto de autoridad inducido por una eficacia que aumenta sin descanso, paralizando desde la base toda pretensión de contradicción. Finalmente se relaciona únicamente con un espíritu utilitarista que responde principalmente a objetivos de optimización así como a intereses privados. "De súbito se hacía posible para cualquiera, sin molestias, como la manifestación sin límites de la ‘libertad de expresión’, afirmar hechos sin que estuviera constatado que correspondieran con la realidad, sin que fuera necesario proceder a su verificación."
Lo que está destinado a ser marginado o erradicado por la emergencia de un orden totalmente distinto son los principales estatutos históricos occidentales de la verdad. Estos estatutos se habían ido imponiendo sucesivamente a lo largo del tiempo; a veces coexistieron entre sí y muchos de ellos siguen presentes en nuestra episteme. Podemos identificar estos diferentes regímenes todavía relativamente vigentes. Primero, el de la verdad revelada de los monoteísmos, que nos muestra cómo el respeto de las Leyes determina un marco de vida individual y colectivo conforme a la moral divina. Esa verdad emana de una figura absoluta que prescribe una conducta a los humanos, que en teoría serían libres de acordarle su fe y de someterse a ella. Después está la verdad platónica, que no está dada en el marco de una escena inaugural y con un texto fundador pero que nos incita a no seguir confiando en las sombras de la caverna, a que nos deshagamos de las apariencias engañosas de lo real, exigiéndonos un esfuerzo sostenido que apunta progresivamente a que nos elevemos por encima de lo sensible y capturemos, más allá de todas las perpetuas variaciones, las esencias puras y eternas que manifiestan entonces la evidencia rutilante de lo verdadero: “Y cuando haya llegado hasta la luz, ¿podrá, con los ojos obnubilados por su resplandor, distinguir una sola de las cosas que ahora llamamos verdaderas?”. (1)
Más tarde, Aristóteles estimará que la búsqueda platónica se extravía dentro de algo suprasensible que no mantiene relación con la realidad, afirmando que lo verdadero se deriva de un criterio lógico, el principio de la no contradicción, sin el cual diríamos y contradiríamos todo y su contrario. “Asignar un valor igual a lo que opinan e imaginan quienes están en desacuerdo entre sí es una tontería. En efecto, está claro que unos u otros deben necesariamente equivocarse”. (2) Cada campo del saber, la astronomía, la botánica, el estudio de la anatomía humana, debe desarrollar métodos propios basados en la experiencia y la exigencia de verificación, determinando su verdad como una “adecuación con lo real”. En la Edad Media, contrariamente a la autoridad impuesta tanto por el feudalismo como por la jerarquía esclerosada de la Iglesia, el teólogo católico Tomás de Aquino hará del trabajo riguroso del espíritu la condición de acceso a lo verdadero. Lo que Descartes todavía proclama en el siglo XVII a partir de la certidumbre del cogito, a saber, el pleno uso de nuestra capacidad de discernimiento, permitirá buscar las verdades dando prueba de método, procediendo a deducciones y forjando “largas cadenas de razonamientos”.
inteligencia artificial un nuevo régimen de verdad
Los sistemas de inteligencia artificial están llamados a evaluar una multitud de situaciones de todo orden, las necesidades de las personas, sus deseos, sus estados de salud, los modos de organización en común, así como una infinidad de fenómenos de lo real.
En tiempos de las Luces se fue delimitando poco a poco la necesidad de aislar la verdad como concepto absoluto, la de valerse de un procedimiento exclusivo con vistas a aprehenderla para, de ahí en adelante, tenerla como un principio plural que se aloja de diversas maneras en los campos del mundo y de la vida, y que requiere entonces el estudio minucioso de los fenómenos que se relacionan con la naturaleza, la física, la medicina, la biología, pero también con la política, la economía, el derecho o la moral. En Occidente, surge una civilización que pretenderá desviarse de las especulaciones abstractas que se juzgan infructuosas y que hasta entonces se reservaban solamente a la casta de filósofos y doctores de las religiones para privilegiar, en consideración de un mayor número de personas, el trabajo del saber, los progresos de la enseñanza, la libre difusión de libros y periódicos, la elaboración de obras enciclopédicas de vocación pedagógica y la constitución de instituciones dedicadas al conocimiento y a la cultura. Son otros tantos marcos que también pretenden llevarnos a una mejor inteligencia de lo real gracias a los procesos individuales y comunes del enlightment, formando la base de una nueva era de la humanidad que celebrará las luces del espíritu y la formación de conciencias esclarecidas.
Sin embargo, después de todos los esfuerzos desplegados para trazar los surcos que llevan a la sociedad hacia el camino de un “progreso” incesante, llegó, en el momento de apogeo de la Revolución Industrial y del triunfo del “espíritu burgués”, o sea, hacia fines del siglo XIX, la hora de la sospecha meditada por Nietzsche, quien identificó el principio de verdad como aquello que está en el origen de todas las creencias inculcadas, y que implica el respeto obligado de una moral sin relieve que negaba y paralizaba las posibilidades virtualmente ofrecidas por la vida. Michel Foucault retomó esta constatación de la fuerza normativa de la verdad y se esforzó por detectar las múltiples representaciones que determinaban de modo más o menos visible la forma general de las sociedades, y cuya actualización debería permitir alentar pretensiones saludables de liberación: “ es un proyecto que busca desbrozar algunos de esos elementos que podrían ser útiles para una historia de la verdad. Una historia que no sería aquella de lo que puede haber de verdadero en los conocimientos, sino un análisis de los ‘juegos de verdad’, de los juegos de lo falso y verdadero a través de los cuales el ser se constituye históricamente como experiencia, es decir, como algo que puede y debe ser pensado” (3). Los trabajos de Foucault contribuyeron en parte a la emergencia de lo que fue llamado “posmodernismo”, que manifestaba un rechazo frontal de toda noción de verdad, denunciada como algo que instituía reglas posiblemente coercitivas por estar dotado de tal poder de autoridad que debía ser objeto de una “deconstrucción” capaz de liberarnos de todos los yugos impuestos. Esto llevó a Jacques Derrida a afirmar: “La verdad: es en su nombre maldito que nos hemos perdido” (4). Esta proposición fue radicalizada por Jean Baudrillard, que llegó al punto de pregonar el destierro del principio mismo de verdad: “La verdad es aquello de lo que hay que liberarse lo más pronto posible y pasarle el problema a otro. Como la enfermedad, ese es el único modo de curarse. Aquel que se quede con la verdad en la mano, pierde”. "Se impuso la noción de ‘posverdad’ en una época confusa; se convirtió en un síntoma patente de nuestros malestares, en un marcador inquietante de nuestra pérdida de puntos de referencia."
Sin embargo, lo que se cuestionaba era menos el esfuerzo de discernimiento individual y colectivo que exige toda decisión sensata y que tienda hacia lo justo –que tenía un carácter local, como subrayaba Jean-François Lyotard, ya que se supone que nos determina siempre en plena conciencia y según algunos principios intangibles, pero en función de circunstancias siempre variables y específicas–,(6) que la posibilidad de instalar juegos de poder por la fuerza de las convenciones establecidas pero que favorecen formas de registro de las conductas. Lo que se acciona en la aletheia algorítmica es precisamente esta dimensión sistemáticamente circunstancial, pero que no nos muestra ahora cómo una verdad se convierte en objeto de un saber reflexivo, de una búsqueda inacabable, dando testimonio de la apertura indefinida de lo real, sino que nos muestra una verdad enunciada por sistemas dotados de un poder de experticia supuestamente superior y que tiene como vocación ejercerse en toda oportunidad posible. Lo que distingue a este régimen respecto de sus precedentes históricos es que todos ellos, sin excepción, se exponían a gestos de reapropiación, a procedimientos de negociación, o incluso, en caso de rechazo radical, a maniobras más o menos manifiestas de oposición, y esto incluso en el marco jurídico construido por los monoteísmos o los regímenes autoritarios, como el vigente en la ficción 1984 de George Orwell. Cualquiera fuera su ascendente simbólico o formal, permitían, casi a su pesar, márgenes de acción tanto como la preservación de ciertas partes de uno mismo que podían seguir al abrigo de su autoridad.
En oposición a estas formas de licencia que son otorgadas más o menos abiertamente, se supone que la aletheia algorítmica está dotada de un tal nivel de calificación que el desafío ya no consiste en mostrar eventuales estrategias de subjetivación, o de evitamiento, respecto de ella, sino que el desafío parece ser encontrar la manera de adecuarse a esta aletheia lo mejor posible, como si fuera un procedimiento de vigilancia policial destinado a prevenir la inminencia de un peligro en una zona identificada que hace que de inmediato se envíen brigadas especializadas a los lugares correspondientes. Nunca un régimen de verdad se había impuesto de esta manera en la historia, y no por su fuerza de seducción o por su influjo coactivo sino por la sensación compartida de que hay una evidencia, por la producción de ecuaciones que damos por sentado que son las más apropiadas según un principio que pretende que los sistemas cognitivos son justamente Evidence Based Systems, es decir, sistemas basados en un principio de revelación de ciertos hechos que estos sistemas exponen ante nuestra conciencia –y por lo tanto tenemos que acordar con ellos porque hay una evidencia concreta para que lo hagamos así. La aletheia algorítmica procede de un poder de revelación que promete ejercer su ingenio a lo largo de un continuum sin costuras que va desde el menor detalle de nuestras existencias hasta las situaciones colectivas como ninguna otra instancia tutelar simbólica lo había podido hacer hasta ahora.
inteligencia artificial eric sadin
De ahora en adelante, cada uno de nosotros se imagina como posicionado en el centro del mundo y con el poder de acomodar los acontecimientos a su visión de las cosas.
Nietzsche había denunciado la voluntad de erigir una verdad supuestamente absoluta y objetiva de las cosas. Era su mayor combate: probablemente, a la vista de los poderes que conferimos a la inteligencia artificial, si viviera ahora sufriría una crisis de demencia igual que vivió en Turín en 1889. Quizás lo que se esté produciendo sea el fin hegeliano de la Historia, que ahora se hace manifiesto bajo el prisma de nuestra relación en devenir con la verdad, que se desvía respecto de las múltiples formas que había adoptado y a las que los humanos se habían remitido y que todas, cualquiera fuera su naturaleza y las promesas que pudieran anunciar, nunca llegaban a saldar nuestro extravío ontológico fundamental. De ahora en más asistimos alborozados a la agonía de nuestra “conciencia desdichada” para ver advenir la era del “Saber absoluto” descrito por Hegel como el momento en el cual la “verdad es perfectamente igual a la certidumbre”, y donde puedo decir: “Sé que viví y, a fuerza de experiencias y de desgarros, terminé por contener el universo”. (7)
Entonces nos convertimos, tanto individual como colectivamente, en los Bouvard y Pécuchet del siglo XXI, en aquellos que, para evitar “caer en el abismo espantoso del escepticismo” (8), aspiramos a capturar continuamente una verdad indudable, como los dos protagonistas del relato de Flaubert que, cuando deciden abordar un campo del saber, se ponen a la búsqueda de la obra que se los acercaría para, como esperamos de la inteligencia artificial, poder actuar sin fallas sobre las cosas. Por eso Bouvard y Pécuchet, después de leer, hacían sistemáticamente experimentos destinados a verificar todo en lo concreto de la vida. Esos experimentos fracasaban en su mayor parte, o a veces tenían éxito a medias y solamente por azar. Flaubert combatiría con escarnio este positivismo científico que pretendía llegar hasta el fondo de todo fenómeno y esto lo llevó a enunciar la fórmula, que después de él se volvió célebre, según la cual “la tontería consiste en querer llegar a una conclusión” (9). Él no creía en la existencia de verdades definitivas sino en la profusión nunca saldada de las representaciones que afirmaban que Dios puede saber la causa primera de toda cosa, pero no los humanos. Bouvard y Pécuchet, en su búsqueda de lo absoluto y en su deseo de dotarse de una erudición enciclopédica con fines utilitaristas, proyectaban una esperanza inútil y desmesurada respecto de todos los corpus de conocimientos consultados. No nos atrevemos a imaginar qué fórmula derivada de su ironía mordaz usaría Flaubert a propósito de los sistemas aletheicos que se supone que nos dan la respuesta correcta a cada cosa que ocurre en nuestras vidas. "Entonces nos convertimos, tanto individual como colectivamente, en los Bouvard y Pécuchet del siglo XXI, en aquellos que, para evitar caer en el abismo espantoso del escepticismo, aspiramos a capturar continuamente una verdad indudable."

Por esta razón se equivoca ese lugar común, al cual se vuelve una y otra vez, según el cual habríamos elaborado un nuevo Golem, como el rabino Loew, llamado el Marahal de Praga, que engendró una criatura dotada de poderes casi idénticos a los nuestros y capaz un día de “escapar a nuestro control” hasta convertirse en una potencia destructora. Es un lugar común equivocado porque el Golem, de acuerdo con la leyenda, estaba sometido al poder de su progenitor, que le dictaba órdenes y que podía, insertándole una hoja de papel en la boca, suspender en cualquier momento el soplo de vida que lo animaba. El día de la inauguración del centro de investigaciones en informática de Rehovot, en Israel, el filósofo Gershom Scholem pronunció un discurso que provenía de esta misma analogía: “En el día de hoy, tenemos el privilegio de celebrar el nacimiento de la última encarnación de ese proyecto de magia que fue el Golem de Rehovot. En verdad el Golem de Rehovot bien podría ser la réplica del Golem de Praga” (10). En realidad, el Golem no es el que creemos, es la inteligencia artificial a la que se le asigna gran cantidad de nuestros atributos, y somos nosotros los que adquirimos el estatuto de Golem al estar sometidos a un poder que, desde su saber siempre más omnisciente, nos ordena las acciones que deberíamos emprender. Según Scholem: “Dios creó al hombre a partir de un bloque de arcilla y le insufló una chispa de su vida divina, su potencia, su inteligencia. Sin esa inteligencia, y sin esa potencia creadora espontánea del espíritu humano que resulta de ella, Adán no sería otra cosa que un Golem”. (11)

Y a este título, no es casual que un ex ejecutivo de Uber, Anthony Levandowski, haya anunciado en 2017 la creación de una Iglesia llamada Way of Future, que pretende “consagrar un culto a la inteligencia artificial y favorecer la realización, la aceptación y la adoración de una divinidad basada en la inteligencia artificial, que es más apta que los hombres para hacer elecciones racionales para guiarlos adoraría que esta divinidad nos considerara como sus amados hermanos mayores, que nos respetara y cuidara. Si llegáramos a una entidad mil millones de veces más inteligente que el más inteligente de los humanos, ¿cómo quieren llamarla? No tendríamos otra elección que someternos a esta nueva divinidad” (12). Nos equivocaríamos si consideráramos estas palabras con desdén y nos contentáramos con burlarnos de ellas, porque son testimonio de una forma de perspicacia relativa al estatuto aurático que le otorgamos a las tecnologías de la aletheia y a su autoridad, bajo cuyo sello siempre estamos llamados a ubicarnos respondiendo a esquemas que se derivan bastante de la psiquiatría, y respecto de los cuales este tal Anthony Levandowski no sería sino un revelador, en la medida en que, como nunca antes en el transcurso de la historia, “las cosas desempeñan el rol de los hombres y los hombres desempeñan el rol de las cosas; es la raíz del 13 mal” (Simone Weil). (13)

1. Platón, República, Libro VII. 2. Aristóteles, Metafísica, Libro K. 3. Michel Foucault, Historia de la sexualidad, Tomo 2, El uso de los placeres, Buenos Aires, Siglo XXI, 2003. 4. Jacques Derrida, La tarjeta postal. De Sócrates a Freud y más allá, México, Siglo XXI, 1986. 5. Jean Baudrillard, Cool Memories, Barcelona, Anagrama, 1989. 6. Ver Jean-François Lyotard, Au juste, París, Christian Bourgois, 1979. 7. G.W.E. Hegel, Fenomenología del espíritu, México, FCE, 2017. 8. Gustave Flaubert, Bouvard y Pécuchet, Madrid, Cátedra, 1999. 9. Gustave Flaubert, Correspondance, I, París, Gallimard, “Bibliothèque de la Pléiade”, 1952, p. 679-680. 10. Gershom Scholem, “El Golem de Praga y el Golem de Rehovot”, en Norbert Wiener, Dios y Golem, op. cit. 11. Ibíd. 12. Mark Harris, “God Is a Bot, and Anthony Levandowski Is His Messenger”, Wired, 27 de septiembre de 2017. 13. Simone Weil, La condición obrera, Buenos Aires, El cuenco de plata, 2010.

Newsletter
¡Gracias!
Oops! Something went wrong while submitting the form.

La inteligencia artificial o el desafío del siglo: La emergencia de un nuevo régimen de verdad

La inteligencia artificial o el desafío del siglo: La emergencia de un nuevo régimen de verdad

10
.
06
.
20
AAAA
Tiempo de Lectura: 00 min

La inteligencia artificial es un cambio de estatuto de las tecnologías digitales: de ser prótesis acumulativas e intelectivas, han pasado a ser entidades de las que se espera que enuncien una verdad a partir de la interpretación automatizada. En este nuevo régimen, se juega la vocación humana. Este es un fragmento del libro La inteligencia artificial o el desafío del siglo de Éric Sadin, que publica Caja Negra.

Texto de
Fotografía de
Realización de
Ilustración de
Traducción de
Hacia mediados de la década de 2010 ocurrió un acontecimiento alucinante. No lo vimos venir. En cierto modo nos tomó desprevenidos, se extendió rápidamente y el poder de su impacto sobre la sociedad, a escala planetaria, nos dejó estupefactos. De súbito, se hacía posible para cualquiera, sin molestias, con aplomo, como la manifestación sin límites de la “libertad de expresión”, afirmar hechos sin que estuviera constatado que correspondieran con la realidad, sin que fuera necesario proceder a su verificación. Incluso podían tener un aura de mayor brillo en la medida en que parecían inverosímiles, asumiendo el estatuto de ser reveladores de cuán inconsecuente era la percepción común o “dominante” de las cosas. Pese a las apariencias, estos hechos se desplegaban como hechos constatados pero que pocos sabían ver. Dicha “clarividencia” se convirtió en el privilegio de quienes eran más juiciosos respecto de la inflación informacional enceguecedora de nuestra época y de todas las representaciones entremezcladas y normativizadas que esta inflación implicaba. Se impuso la noción de “posverdad” en una época confusa; se convirtió en un síntoma patente de nuestros malestares, en un marcador inquietante de nuestra pérdida de puntos de referencia. El fenómeno asumió tal amplitud que el diccionario de Oxford lo eligió, en 2016, como la expresión del año.
Ese año hubo dos acontecimientos decisivos que confirmaron su alcance histórico: primero, el voto del Brexit, que decidió que el Reino Unido saliera de la Unión Europea, seguido algunos meses más tarde por la elección sorpresiva de Donald Trump como presidente de los Estados Unidos. Nos dimos cuenta de que tanto uno como otro hecho fueron en parte favorecidos por la profusa difusión de escritos e imágenes que, en su mayor parte, buscaban deformar las cosas intencionalmente, imponiéndose como mensajes que arrojaban confusión sobre la verdad de lo que vehiculizaban habitualmente, en particular, los órganos de prensa. De pronto las sociedades se vieron desestabilizadas por un relativismo que escapaba a la razón y se vieron también privadas de referentes comunes, necesarios para el debate y para la expresión de la pluralidad de los puntos de vista. Esto condicionó el avance bien entendido de la democracia, especialmente en ocasión de consultas de importancia.
Muy pronto se quiso echar la culpa de esos procesos a las redes sociales, que no habrían hecho el trabajo de clasificación necesario, y que entonces habrían cerrado los ojos ante la creación de cuentas falsas que compraban espacios de visibilidad con fines propagandísticos, así como también compraban tropas, armadas con cuidado, a fin de diseminar fake news destinadas a manipular a la opinión pública. Es cierto que hubo factores como este y otros que contribuyeron a que estos hechos ocurrieran, pero se los quiere sostener equivocadamente como la causa, cuando no son sino efectos, porque el hecho principal no nos remite a la difusión viral de informaciones falsas en Internet sino a una nueva posición que ocupa el individuo contemporáneo. De ahora en adelante, cada uno de nosotros se imagina como posicionado en el centro del mundo y con el poder de acomodar los acontecimientos a su visión de las cosas, con tal estado de narcosis respecto de la propia sensación de unicidad que cualquier enunciado divergente de la propia posición podría ser rechazado de ahí en más. La verdad se define a partir de uno mismo, o según las propias creencias y tropismos; es una tendencia emblemática dentro de las teorías del complot que da testimonio de la desintegración creciente de nuestras bases comunes y de la extrema atomización de la sociedad en general. Es impactante observar que este asunto de la “posverdad”, que tiene su importancia, es considerado como una ruptura que perturba nuestra relación histórica con la verdad, mientras que en realidad se trata de la exactitud de los hechos, y no de la verdad stricto sensu, y entonces ocurre que se ignora otra ruptura, bastante más decisiva todavía, aunque de otra manera, que está en igual correlato con la cuestión de la verdad y que está llamada a determinar la forma de nuestras existencias. Esta otra ruptura reviste sin embargo una amplitud totalmente diferente y se deriva de un fenómeno de alcance civilizatorio determinante: la emergencia de un nuevo régimen de verdad.
Los sistemas de inteligencia artificial están llamados a evaluar una multitud de situaciones de todo orden, las necesidades de las personas, sus deseos, sus estados de salud, los modos de organización en común, así como una infinidad de fenómenos de lo real. Lo que caracteriza a los resultados de dichos análisis es que no se conforman solamente con reproducir ecuaciones que se suponen exactas, sino que se enmascaran bajo un valor de verdad en la medida en que lo hacen presentándose como conclusiones cerradas que llevan a que luego se inicien las acciones correspondientes. Esto es lo que diferencia la exactitud de la verdad: la exactitud pretende restituirnos a un estado objetivo, mientras que la verdad nos llama, por el mero principio de su enunciación, a que nos adecuemos a ella por medio de gestos concretos, porque toda verdad enunciada oculta, in fine, una dimensión performativa.
Emerge un nuevo régimen de verdad que se ve dotado de cinco características. A largo plazo, está destinado a relacionarse con la casi totalidad de los asuntos humanos y a ejercerse en toda circunstancia. Proviene, en cada campo de aplicación, de una fuente única, eliminando de facto el principio de una aprehensión plural de las cosas. Se inscribe principalmente en una lógica de tiempo real, revelando estados de hecho en el momento mismo en que esos hechos tienen lugar, impulsándonos en consecuencia a actuar dentro del menor lapso posible y deslegitimando el tiempo específico del análisis humano. Se le asigna un estatuto de autoridad inducido por una eficacia que aumenta sin descanso, paralizando desde la base toda pretensión de contradicción. Finalmente se relaciona únicamente con un espíritu utilitarista que responde principalmente a objetivos de optimización así como a intereses privados. "De súbito se hacía posible para cualquiera, sin molestias, como la manifestación sin límites de la ‘libertad de expresión’, afirmar hechos sin que estuviera constatado que correspondieran con la realidad, sin que fuera necesario proceder a su verificación."
Lo que está destinado a ser marginado o erradicado por la emergencia de un orden totalmente distinto son los principales estatutos históricos occidentales de la verdad. Estos estatutos se habían ido imponiendo sucesivamente a lo largo del tiempo; a veces coexistieron entre sí y muchos de ellos siguen presentes en nuestra episteme. Podemos identificar estos diferentes regímenes todavía relativamente vigentes. Primero, el de la verdad revelada de los monoteísmos, que nos muestra cómo el respeto de las Leyes determina un marco de vida individual y colectivo conforme a la moral divina. Esa verdad emana de una figura absoluta que prescribe una conducta a los humanos, que en teoría serían libres de acordarle su fe y de someterse a ella. Después está la verdad platónica, que no está dada en el marco de una escena inaugural y con un texto fundador pero que nos incita a no seguir confiando en las sombras de la caverna, a que nos deshagamos de las apariencias engañosas de lo real, exigiéndonos un esfuerzo sostenido que apunta progresivamente a que nos elevemos por encima de lo sensible y capturemos, más allá de todas las perpetuas variaciones, las esencias puras y eternas que manifiestan entonces la evidencia rutilante de lo verdadero: “Y cuando haya llegado hasta la luz, ¿podrá, con los ojos obnubilados por su resplandor, distinguir una sola de las cosas que ahora llamamos verdaderas?”. (1)
Más tarde, Aristóteles estimará que la búsqueda platónica se extravía dentro de algo suprasensible que no mantiene relación con la realidad, afirmando que lo verdadero se deriva de un criterio lógico, el principio de la no contradicción, sin el cual diríamos y contradiríamos todo y su contrario. “Asignar un valor igual a lo que opinan e imaginan quienes están en desacuerdo entre sí es una tontería. En efecto, está claro que unos u otros deben necesariamente equivocarse”. (2) Cada campo del saber, la astronomía, la botánica, el estudio de la anatomía humana, debe desarrollar métodos propios basados en la experiencia y la exigencia de verificación, determinando su verdad como una “adecuación con lo real”. En la Edad Media, contrariamente a la autoridad impuesta tanto por el feudalismo como por la jerarquía esclerosada de la Iglesia, el teólogo católico Tomás de Aquino hará del trabajo riguroso del espíritu la condición de acceso a lo verdadero. Lo que Descartes todavía proclama en el siglo XVII a partir de la certidumbre del cogito, a saber, el pleno uso de nuestra capacidad de discernimiento, permitirá buscar las verdades dando prueba de método, procediendo a deducciones y forjando “largas cadenas de razonamientos”.
inteligencia artificial un nuevo régimen de verdad
Los sistemas de inteligencia artificial están llamados a evaluar una multitud de situaciones de todo orden, las necesidades de las personas, sus deseos, sus estados de salud, los modos de organización en común, así como una infinidad de fenómenos de lo real.
En tiempos de las Luces se fue delimitando poco a poco la necesidad de aislar la verdad como concepto absoluto, la de valerse de un procedimiento exclusivo con vistas a aprehenderla para, de ahí en adelante, tenerla como un principio plural que se aloja de diversas maneras en los campos del mundo y de la vida, y que requiere entonces el estudio minucioso de los fenómenos que se relacionan con la naturaleza, la física, la medicina, la biología, pero también con la política, la economía, el derecho o la moral. En Occidente, surge una civilización que pretenderá desviarse de las especulaciones abstractas que se juzgan infructuosas y que hasta entonces se reservaban solamente a la casta de filósofos y doctores de las religiones para privilegiar, en consideración de un mayor número de personas, el trabajo del saber, los progresos de la enseñanza, la libre difusión de libros y periódicos, la elaboración de obras enciclopédicas de vocación pedagógica y la constitución de instituciones dedicadas al conocimiento y a la cultura. Son otros tantos marcos que también pretenden llevarnos a una mejor inteligencia de lo real gracias a los procesos individuales y comunes del enlightment, formando la base de una nueva era de la humanidad que celebrará las luces del espíritu y la formación de conciencias esclarecidas.
Sin embargo, después de todos los esfuerzos desplegados para trazar los surcos que llevan a la sociedad hacia el camino de un “progreso” incesante, llegó, en el momento de apogeo de la Revolución Industrial y del triunfo del “espíritu burgués”, o sea, hacia fines del siglo XIX, la hora de la sospecha meditada por Nietzsche, quien identificó el principio de verdad como aquello que está en el origen de todas las creencias inculcadas, y que implica el respeto obligado de una moral sin relieve que negaba y paralizaba las posibilidades virtualmente ofrecidas por la vida. Michel Foucault retomó esta constatación de la fuerza normativa de la verdad y se esforzó por detectar las múltiples representaciones que determinaban de modo más o menos visible la forma general de las sociedades, y cuya actualización debería permitir alentar pretensiones saludables de liberación: “ es un proyecto que busca desbrozar algunos de esos elementos que podrían ser útiles para una historia de la verdad. Una historia que no sería aquella de lo que puede haber de verdadero en los conocimientos, sino un análisis de los ‘juegos de verdad’, de los juegos de lo falso y verdadero a través de los cuales el ser se constituye históricamente como experiencia, es decir, como algo que puede y debe ser pensado” (3). Los trabajos de Foucault contribuyeron en parte a la emergencia de lo que fue llamado “posmodernismo”, que manifestaba un rechazo frontal de toda noción de verdad, denunciada como algo que instituía reglas posiblemente coercitivas por estar dotado de tal poder de autoridad que debía ser objeto de una “deconstrucción” capaz de liberarnos de todos los yugos impuestos. Esto llevó a Jacques Derrida a afirmar: “La verdad: es en su nombre maldito que nos hemos perdido” (4). Esta proposición fue radicalizada por Jean Baudrillard, que llegó al punto de pregonar el destierro del principio mismo de verdad: “La verdad es aquello de lo que hay que liberarse lo más pronto posible y pasarle el problema a otro. Como la enfermedad, ese es el único modo de curarse. Aquel que se quede con la verdad en la mano, pierde”. "Se impuso la noción de ‘posverdad’ en una época confusa; se convirtió en un síntoma patente de nuestros malestares, en un marcador inquietante de nuestra pérdida de puntos de referencia."
Sin embargo, lo que se cuestionaba era menos el esfuerzo de discernimiento individual y colectivo que exige toda decisión sensata y que tienda hacia lo justo –que tenía un carácter local, como subrayaba Jean-François Lyotard, ya que se supone que nos determina siempre en plena conciencia y según algunos principios intangibles, pero en función de circunstancias siempre variables y específicas–,(6) que la posibilidad de instalar juegos de poder por la fuerza de las convenciones establecidas pero que favorecen formas de registro de las conductas. Lo que se acciona en la aletheia algorítmica es precisamente esta dimensión sistemáticamente circunstancial, pero que no nos muestra ahora cómo una verdad se convierte en objeto de un saber reflexivo, de una búsqueda inacabable, dando testimonio de la apertura indefinida de lo real, sino que nos muestra una verdad enunciada por sistemas dotados de un poder de experticia supuestamente superior y que tiene como vocación ejercerse en toda oportunidad posible. Lo que distingue a este régimen respecto de sus precedentes históricos es que todos ellos, sin excepción, se exponían a gestos de reapropiación, a procedimientos de negociación, o incluso, en caso de rechazo radical, a maniobras más o menos manifiestas de oposición, y esto incluso en el marco jurídico construido por los monoteísmos o los regímenes autoritarios, como el vigente en la ficción 1984 de George Orwell. Cualquiera fuera su ascendente simbólico o formal, permitían, casi a su pesar, márgenes de acción tanto como la preservación de ciertas partes de uno mismo que podían seguir al abrigo de su autoridad.
En oposición a estas formas de licencia que son otorgadas más o menos abiertamente, se supone que la aletheia algorítmica está dotada de un tal nivel de calificación que el desafío ya no consiste en mostrar eventuales estrategias de subjetivación, o de evitamiento, respecto de ella, sino que el desafío parece ser encontrar la manera de adecuarse a esta aletheia lo mejor posible, como si fuera un procedimiento de vigilancia policial destinado a prevenir la inminencia de un peligro en una zona identificada que hace que de inmediato se envíen brigadas especializadas a los lugares correspondientes. Nunca un régimen de verdad se había impuesto de esta manera en la historia, y no por su fuerza de seducción o por su influjo coactivo sino por la sensación compartida de que hay una evidencia, por la producción de ecuaciones que damos por sentado que son las más apropiadas según un principio que pretende que los sistemas cognitivos son justamente Evidence Based Systems, es decir, sistemas basados en un principio de revelación de ciertos hechos que estos sistemas exponen ante nuestra conciencia –y por lo tanto tenemos que acordar con ellos porque hay una evidencia concreta para que lo hagamos así. La aletheia algorítmica procede de un poder de revelación que promete ejercer su ingenio a lo largo de un continuum sin costuras que va desde el menor detalle de nuestras existencias hasta las situaciones colectivas como ninguna otra instancia tutelar simbólica lo había podido hacer hasta ahora.
inteligencia artificial eric sadin
De ahora en adelante, cada uno de nosotros se imagina como posicionado en el centro del mundo y con el poder de acomodar los acontecimientos a su visión de las cosas.
Nietzsche había denunciado la voluntad de erigir una verdad supuestamente absoluta y objetiva de las cosas. Era su mayor combate: probablemente, a la vista de los poderes que conferimos a la inteligencia artificial, si viviera ahora sufriría una crisis de demencia igual que vivió en Turín en 1889. Quizás lo que se esté produciendo sea el fin hegeliano de la Historia, que ahora se hace manifiesto bajo el prisma de nuestra relación en devenir con la verdad, que se desvía respecto de las múltiples formas que había adoptado y a las que los humanos se habían remitido y que todas, cualquiera fuera su naturaleza y las promesas que pudieran anunciar, nunca llegaban a saldar nuestro extravío ontológico fundamental. De ahora en más asistimos alborozados a la agonía de nuestra “conciencia desdichada” para ver advenir la era del “Saber absoluto” descrito por Hegel como el momento en el cual la “verdad es perfectamente igual a la certidumbre”, y donde puedo decir: “Sé que viví y, a fuerza de experiencias y de desgarros, terminé por contener el universo”. (7)
Entonces nos convertimos, tanto individual como colectivamente, en los Bouvard y Pécuchet del siglo XXI, en aquellos que, para evitar “caer en el abismo espantoso del escepticismo” (8), aspiramos a capturar continuamente una verdad indudable, como los dos protagonistas del relato de Flaubert que, cuando deciden abordar un campo del saber, se ponen a la búsqueda de la obra que se los acercaría para, como esperamos de la inteligencia artificial, poder actuar sin fallas sobre las cosas. Por eso Bouvard y Pécuchet, después de leer, hacían sistemáticamente experimentos destinados a verificar todo en lo concreto de la vida. Esos experimentos fracasaban en su mayor parte, o a veces tenían éxito a medias y solamente por azar. Flaubert combatiría con escarnio este positivismo científico que pretendía llegar hasta el fondo de todo fenómeno y esto lo llevó a enunciar la fórmula, que después de él se volvió célebre, según la cual “la tontería consiste en querer llegar a una conclusión” (9). Él no creía en la existencia de verdades definitivas sino en la profusión nunca saldada de las representaciones que afirmaban que Dios puede saber la causa primera de toda cosa, pero no los humanos. Bouvard y Pécuchet, en su búsqueda de lo absoluto y en su deseo de dotarse de una erudición enciclopédica con fines utilitaristas, proyectaban una esperanza inútil y desmesurada respecto de todos los corpus de conocimientos consultados. No nos atrevemos a imaginar qué fórmula derivada de su ironía mordaz usaría Flaubert a propósito de los sistemas aletheicos que se supone que nos dan la respuesta correcta a cada cosa que ocurre en nuestras vidas. "Entonces nos convertimos, tanto individual como colectivamente, en los Bouvard y Pécuchet del siglo XXI, en aquellos que, para evitar caer en el abismo espantoso del escepticismo, aspiramos a capturar continuamente una verdad indudable."

Por esta razón se equivoca ese lugar común, al cual se vuelve una y otra vez, según el cual habríamos elaborado un nuevo Golem, como el rabino Loew, llamado el Marahal de Praga, que engendró una criatura dotada de poderes casi idénticos a los nuestros y capaz un día de “escapar a nuestro control” hasta convertirse en una potencia destructora. Es un lugar común equivocado porque el Golem, de acuerdo con la leyenda, estaba sometido al poder de su progenitor, que le dictaba órdenes y que podía, insertándole una hoja de papel en la boca, suspender en cualquier momento el soplo de vida que lo animaba. El día de la inauguración del centro de investigaciones en informática de Rehovot, en Israel, el filósofo Gershom Scholem pronunció un discurso que provenía de esta misma analogía: “En el día de hoy, tenemos el privilegio de celebrar el nacimiento de la última encarnación de ese proyecto de magia que fue el Golem de Rehovot. En verdad el Golem de Rehovot bien podría ser la réplica del Golem de Praga” (10). En realidad, el Golem no es el que creemos, es la inteligencia artificial a la que se le asigna gran cantidad de nuestros atributos, y somos nosotros los que adquirimos el estatuto de Golem al estar sometidos a un poder que, desde su saber siempre más omnisciente, nos ordena las acciones que deberíamos emprender. Según Scholem: “Dios creó al hombre a partir de un bloque de arcilla y le insufló una chispa de su vida divina, su potencia, su inteligencia. Sin esa inteligencia, y sin esa potencia creadora espontánea del espíritu humano que resulta de ella, Adán no sería otra cosa que un Golem”. (11)

Y a este título, no es casual que un ex ejecutivo de Uber, Anthony Levandowski, haya anunciado en 2017 la creación de una Iglesia llamada Way of Future, que pretende “consagrar un culto a la inteligencia artificial y favorecer la realización, la aceptación y la adoración de una divinidad basada en la inteligencia artificial, que es más apta que los hombres para hacer elecciones racionales para guiarlos adoraría que esta divinidad nos considerara como sus amados hermanos mayores, que nos respetara y cuidara. Si llegáramos a una entidad mil millones de veces más inteligente que el más inteligente de los humanos, ¿cómo quieren llamarla? No tendríamos otra elección que someternos a esta nueva divinidad” (12). Nos equivocaríamos si consideráramos estas palabras con desdén y nos contentáramos con burlarnos de ellas, porque son testimonio de una forma de perspicacia relativa al estatuto aurático que le otorgamos a las tecnologías de la aletheia y a su autoridad, bajo cuyo sello siempre estamos llamados a ubicarnos respondiendo a esquemas que se derivan bastante de la psiquiatría, y respecto de los cuales este tal Anthony Levandowski no sería sino un revelador, en la medida en que, como nunca antes en el transcurso de la historia, “las cosas desempeñan el rol de los hombres y los hombres desempeñan el rol de las cosas; es la raíz del 13 mal” (Simone Weil). (13)

1. Platón, República, Libro VII. 2. Aristóteles, Metafísica, Libro K. 3. Michel Foucault, Historia de la sexualidad, Tomo 2, El uso de los placeres, Buenos Aires, Siglo XXI, 2003. 4. Jacques Derrida, La tarjeta postal. De Sócrates a Freud y más allá, México, Siglo XXI, 1986. 5. Jean Baudrillard, Cool Memories, Barcelona, Anagrama, 1989. 6. Ver Jean-François Lyotard, Au juste, París, Christian Bourgois, 1979. 7. G.W.E. Hegel, Fenomenología del espíritu, México, FCE, 2017. 8. Gustave Flaubert, Bouvard y Pécuchet, Madrid, Cátedra, 1999. 9. Gustave Flaubert, Correspondance, I, París, Gallimard, “Bibliothèque de la Pléiade”, 1952, p. 679-680. 10. Gershom Scholem, “El Golem de Praga y el Golem de Rehovot”, en Norbert Wiener, Dios y Golem, op. cit. 11. Ibíd. 12. Mark Harris, “God Is a Bot, and Anthony Levandowski Is His Messenger”, Wired, 27 de septiembre de 2017. 13. Simone Weil, La condición obrera, Buenos Aires, El cuenco de plata, 2010.

Newsletter
¡Gracias!
Oops! Something went wrong while submitting the form.
No items found.

Suscríbete a nuestro Newsletter

¡Bienvenido! Ya eres parte de nuestra comunidad.
Hay un error, por favor intenta nuevamente.