Prologo al libro «Inteligencia Artificial y Estupidez Natural» de Jorge Millones

Eduardo Cáceres

El libro que tenemos entre manos recoge las sucesivas aproximaciones de un activista, cantautor y estudiante de filosofía a eventos y artefactos que están modificando radicalmente nuestras relaciones sociales. Más aun, según algunas de las interpretaciones que se recogen en el texto, estarían modificando no solo las nociones de sociabilidad y sensibilidad, sino también el sentido mismo de la existencia humana, su mundanidad y su finitud.  

Tal como señala el autor en las primeras páginas, la preocupación por estos temas no es gratuita o desinteresada. Para quienes conocemos, al menos parcialmente, la producción poética y musical del autor, no hay solución de continuidad en su obra. En ambos formatos, el poético y el ensayístico, se trata de una mirada crítica que disecciona socialmente lo existencial y existencialmente lo social. El contexto en el que se construyó esta perspectiva ha sido el Perú de la violencia y el fujimorismo, de la transición frustrada y la descomposición contemporánea. Más aun, Jorge Millones identifica claramente el evento que desencadenó las lecturas y reflexiones que nos comparte: la pandemia con su secuencia de estado de emergencia. Todos vivimos ese evento como aceleración de los procesos tecnológicos y las redes virtuales, a la vez que de enclaustramiento y práctica desaparición de las redes sociales “reales”. Por ello, las reflexiones incluidas en este libro son más que contemporáneas para quienes las leeremos.  

Este libro invita a diversas lecturas. El autor sugiere tomarlo como un Lego: cada capítulo es una pieza relativamente autónoma y a la vez abierta a conectar con las otras piezas del juego. También se pueden desarrollar lecturas transversales, identificando diversos niveles en los cuales establecer las conexiones del conjunto.

Los primeros capítulos apuntan a presentarnos una visión de conjunto, proponiendo una interpretación que sin duda es tributaria del marxismo. De la versión del proceso como “revolución tecnológica” o como “cuarta revolución industrial” (términos que se reiteran en diversos lugares del texto) se pasa a afirmar, y poner por delante, la identificación del mismo como “capitalismo tecnológico”. El seguimiento del uso de este término a lo largo del libro es uno de los hilos conductores que podría recomendarse a los lectores. Pero antes de pasar a las posibles lecturas transversales, es conveniente tomar nota de la forma de análisis de los fenómenos específicos de la transformación en curso.  

En el primer capítulo, por ejemplo, tras afirmar la centralidad de la mercancía-información al interior del capitalismo tecnológico, se identifica su rol en la producción de la conducta humana. Una y otra vez, el referente final del análisis será el sujeto y su deterioro transformado en producto del proceso tecnológico. Y para la comprensión del sujeto y del proceso que lo afecta, en este caso la generalización de la información como mercancía, el análisis explicita antecedentes. Por un lado, los desarrollos de la teoría crítica (Herbert Marcuse y Byung-Chul Han) y, por otro, las teorías legitimadoras del uso de la información como instrumento de manipulación de la conducta humana (las diversas versiones de conductismo, la mercadotecnia, etc.) Esta estrategia argumentativa se reitera en análisis posteriores.

En el análisis de los griefbots, dispositivos diseñados para ayudar a las personas a lidiar con el duelo y la pérdida recreando la personalidad y la manera de hablar de la persona fallecida, el autor vincula esta innovación con la “ouija”, oráculo que se puso de moda a mediados del siglo XIX y que dio tema al periodismo sensacionalista y a narradores como Edgar Allan Poe. Por su parte, el análisis de las tecnologías del reconocimiento facial de las/os ciudadanas/os se desarrolla en diálogo con la propuesta de prisión/panóptico de Jeremy Bentham (s. XIX) y la sociedad/panóptico de Michael Foucault (s. XX).

En el capítulo que dedica a los “memes”, la genealogía del asunto remite no solo a algunos autores cuyas obras sobre el humor han marcado la reflexión contemporánea: Sigmund Freud, Henri Bergson y Mijail Bajtin; sino también apela a dos ejemplos latinoamericanos claramente contrapuestos: Melcochita y Les Luthiers.

No falta, en varios de los capítulos, el análisis de los juegos, sus características y efectos. Se trata del arsenal más potente de colonización del ocio que ha desarrollado el “capitalismo tecnológico”. El mundo vive una epidemia de ludopatía que no es atendida en tanto es funcional a la dominación vigente. Más allá de múltiples referencias a estudios interdisciplinarios del fenómeno, Jorge Millones asume como punto de partida para la crítica uno de los clásicos sobre el tema del juego en la civilización occidental: Homo Ludens, el juego y la cultura de Johan Huizinga (1872-1945). El análisis saca a la luz la relación doble del capital con los juegos: por un lado, estos son espacios de acumulación del capital y, por otro, son instrumentos para la reproducción de la legitimación de la dominación capitalista.

Recurriendo a una idea de Foucault, podría decirse que Jorge Millones nos presenta genealogías particulares de los eventos y los artefactos que analiza. Genealogías que incluyen anticipaciones, particularmente extraídas de la literatura y el cine. Apelando al repositorio cultural disponible, personal y colectivo, cada lector podrá completar o corregir la genealogía que propone el autor en cada caso. Pero el ejercicio más importante para el lector interesado y comprometido será preguntarse acerca de la contradicción inherente en cada caso y las posibilidades emancipatorias que dicha contradicción abre. En algunos de los capítulos, el autor avanza propuestas que van más allá del horror moral o la resignación al inevitable cambio tecnológico, en otros la pregunta queda abierta. Si alguna discusión deberá suscitar este libro, es la que deriva de las mencionadas preguntas.

Se afirmó más arriba que este libro es susceptible de diversas lecturas transversales. Si se acepta la tesis de que el cambio en curso tiene un componente tecnológico fundamental, cabe preguntarse por el paradigma tecnológico que subyace a los diversos fenómenos y artefactos que analiza Jorge Millones. A lo largo del texto, el autor incluye referencias a diversas propuestas que buscan identificar esta matriz común. Se trata de una discusión abierta que el autor de este libro no pretende zanjar. A grandes rasgos, se podría afirmar que las distintas propuestas articulan de diversas maneras algunos conceptos clave: automatización, inteligencia artificial, ciber-realidad, transhumanismo. Cada uno de estos términos es analizado en cuanto a su genealogía y actualidad en sendos capítulos del libro. Esta presentación no pretende resumirlos, invita al trato directo con ellos.

Lo que sí es factible hacer en estas páginas es proponer un marco de referencia más amplio para ubicar la “revolución teológica”. Se podría apelar a Aristóteles para proponer una comprensión de la tecnología desde el cuerpo del sujeto, sea este hombre o mujer, libre o esclavo/a. La herramienta como extensión del cuerpo humano, a la vez que la mente (sea lo que sea lo que se entiende por “mente”) extendida por todo el cuerpo humano, son conceptos que de diversas maneras están presentes en diversas tradiciones culturales. Si bien, como señala Jorge Millones, estas ideas han sido reformuladas y debatidas en años recientes, su origen está en el mundo antiguo y su comprensión se ha ido ampliando conforme se pasó de la herramienta a la máquina y de la máquina al complejo productivo industrial. Fue Marx quien pensó el tema con mayor profundidad. Parte del contenido del llamado “fragmento de las máquinas”, que Millones cita en el libro, pasó a ser desarrollado en la sección cuarta del tomo I de El Capital. Quedaron para un desarrollo posterior las agudas intuiciones acerca de las perspectivas de la completa automatización del proceso productivo y la redefinición del trabajo humano en dicha situación.

 La idea del “autómata inteligente” apareció en la Edad Media en la obra del erudito español Raimundo Lulio (siglo XIII). En la tradición rabínica medieval se sucedieron diversas versiones del gólem, un ser vivo similar al humano, pero artificial. Genios del Renacimiento, como Leonardo da Vinci, exploraron el asunto de las máquinas y la posibilidad de que pudiesen ir más allá de la repetición mecánica de tareas previamente fijadas. La acelerada “matematización” del mundo, propia de la modernidad, estableció nuevas condiciones para el debate en torno a la posibilidad del “autómata inteligente”. Mientras que Descartes la rechazó, la combinatoria de Leibniz abrió una posibilidad que continuaría desarrollándose en los siglos posteriores. En las primeras décadas del siglo XX, se definió el test decisivo para cualquier probable dispositivo inteligente: el problema de la decisión. Es decir, la capacidad de decidir a través de procedimientos mecánicos acerca de la validez universal de cualquier proposición. Alan Turing -genio, atleta, héroe y víctima de la homofobia- demostró que era imposible y a su vez estableció las condiciones para poder reconocer si se está, efectivamente, frente a un dispositivo “inteligente”. No en vano al modelo teórico de computadora se le llama “máquina de Turing” y a la prueba mencionada “prueba de Turing”. Lo decisivo en esta prueba no es la velocidad ni la complejidad de los insumos y del resultado. Lo decisivo es ese “plus” humano que Millones describe en varias secciones de su libro como experiencia estética o existencial en general.  

Ubicar las contribuciones que nos ofrece este libro en el marco de una comprensión más amplia del desarrollo de la tecnología y, en particular, del proceso de construcción, vía la imaginación o la matemática, del “autómata inteligente”, nos puede ayudar a entender mejor frente a qué estamos. Y discernir lo que hay de legítima aspiración humana de comprender para transformar de lo que es desmesura, hybris, que conduce a la catástrofe. Caben al menos tres opciones a las que apuntan las siguientes preguntas: ¿Se trata simplemente de una aceleración y complejización de procedimientos (algoritmos) que ya estaban presentes en etapas previas de la historia tecnológica de la humanidad? ¿O se trata de procedimientos nuevos, no solo más veloces y complejos que los anteriores, que rompen las fronteras que delimitó Turing? ¿O será tal vez que se ha llegado a un punto en el que la mayor velocidad y complejidad de procedimientos previos está dando origen a un sistema lógico-matemático nuevo capaz de pensar y decidir por sí mismo?

Leer este libro con estas preguntas como trasfondo puede ayudar a responder preguntas más de fondo: ¿Qué es esto: inteligencia artificial? ¿Y cuál, si la hubiera, su diferencia con la inteligencia humana?

Ahora bien, el objetivo explícito del libro va más allá de esclarecer el lugar de la “revolución tecnológica” dentro de la historia de la ciencia y la técnica. La opción, incluida en el título, por el término “capitalismo tecnológico” expresa la intención de ubicar los eventos y artefactos que se analiza dentro de una totalidad económico-social llamada capitalismo. Es decir, al interior de un régimen caracterizado por la separación entre productores y medios de producción, la concentración de estos en manos de los poseedores del capital y la organización de la producción e intercambio de mercancías en función de maximizar la ganancia capitalista a través de la extracción de plusvalía del trabajo vivo. Es fácil darse cuenta de la importancia que tiene la tecnología al interior del desarrollo del capitalismo desde sus orígenes. Tal como se ha mencionado previamente, Marx sintetiza dicha historia -hasta el momento en el que escribía- en la sección cuarta del tomo I de El Capital.

A lo largo del libro de Millones vamos a encontrar diversas formulaciones en torno a las modificaciones que la mencionada revolución introduce en el capitalismo contemporáneo. Antes de sugerir algunas pistas para comprender y articular estas aproximaciones, cabe una cuestión previa.

Se trata del esclarecimiento del lugar de la ciencia y la tecnología al interior de la historia de las formaciones histórico-sociales y, en particular, al interior del capitalismo. En diferentes partes del libro se asume la crítica a la visión de la ciencia y la tecnología como neutrales. Para ello se apela a la teoría crítica (con particular referencia a la escuela de Frankfurt), a la teoría feminista y a los estudios poscoloniales. También aquí los antecedentes son múltiples, vale la pena mencionar uno. En su célebre Leviatán, Thomas Hobbes llegó a afirmar que si los teoremas de la geometría estuviesen en conflicto con poderosos intereses materiales, estos no dudarían en cambiarlos. Ahora bien, afirmada la conexión entre el conocimiento y los intereses o enfoques situacionales, es de primera importancia esclarecer cómo se da esta relación. Las posiciones extremas durante el siglo XX se manifestaron, por ejemplo, en los intentos de construir “ciencias proletarias” contrapuestas a las “ciencias burguesas”. En el caso de la biología y la física, por ejemplo, estos intentos tuvieron impactos negativos en el desarrollo económico de la URSS. Y no solo en ese campo. Stalin, quien no solo fue un dictador criminal, sino también un estratega inteligente y pragmático, se dio cuenta a tiempo de que la condena de la física de Einstein como “idealista” los estaba dejando rezagados en la carrera por construir la bomba atómica. El cambio está descrito vívidamente en uno de los capítulos de Vida y Destino de Vasily Grossman. Similares han sido los intentos de formular ciencias “cristianas” o la condena de teorías por ser de origen judío en el caso de los nazis. En las últimas décadas, algunas propuestas extremas desde el campo del feminismo y del relativismo cultural han recaído en intentos similares.

La ciencia, y su aplicación práctica a través de la tecnología, es una permanente discusión abierta en torno a hechos y regularidades que los conectan estableciendo interpretaciones verificables, revisables e incluso refutables. Se refiere a un mundo objetivo, es decir independiente de los interpretantes, cuya taxonomía es parte de la discusión. Con todas las precisiones que se han establecido a lo largo de siglos, la discusión culmina, al menos provisionalmente, con la afirmación de la verdad de determinadas teorías y/o proposiciones. Y por tanto la falsedad de otras. Quienes participan del proceso de producción científico-tecnológica, lo hacen desde determinadas posiciones sociales, de género y culturales, además de estar motivados por fines morales, en el sentido más amplio de este término. Pero ni el posicionamiento social ni la adopción de determinados fines niegan la posibilidad de acceder a resultados compartidos, al menos parciales y provisionales. Las diversas formas de lucha por el reconocimiento (de clase, de género o étnico) atraviesan todos y cada uno de los momentos de la producción científica y tecnológica, inciden en ellos, desarrollan determinadas posibilidades y cierran otras, pero no pueden dejar de lado requisitos fundamentales de cualquier argumentación. El producto final, en la mayoría de los casos, será funcional a la totalidad vigente, pero no dejará de tener un potencial o reserva contrahegemónico.

La disquisición previa es importante para desarrollar una discusión teórica y política acerca del impacto de las nuevas tecnologías en la totalidad social. En este libro se da cuenta de múltiples impactos: en la economía, tanto en la producción como en la distribución y el consumo; en las relaciones sociales cotidianas, crecientemente reemplazadas por relaciones virtuales; en las relaciones de poder, al establecer o reforzar actitudes que predisponen a la aceptación de la dominación. A partir de identificar esos impactos específicos, nos toca preguntarnos acerca de la profundidad de los mismos.

Está claro que el autor afirma que estos cambios se están dando al interior del capitalismo. No es irrelevante afirmarlo. Al menos desde fines del siglo pasado, se han formulado teorías acerca del tránsito contemporáneo a economías y sociedades post capitalistas o post industriales. Varios de los rasgos que se identifican como característicos de la revolución tecnológica ocupan un lugar central en dichas propuestas. Lo central, en relación con la sociedad y la política, sería la disolución de las identidades de clase y del conflicto entre ellas. Hecha la afirmación en torno a la continuidad del capitalismo, cabe complementarla con varias preguntas: ¿Cuáles son las modificaciones que la revolución tecnológica y sus impactos específicos en la economía y la sociedad introducen en el capitalismo actual? ¿Estamos frente a una mutación similar a la que se produjo a fines del siglo XIX e inicios del XX cuando se transitó a una “fase superior” del capitalismo, el imperialismo?

A las preguntas previas, de carácter más bien estructural, cabría añadir interrogantes de carácter cultural y político: ¿Cómo afectan los cambios estructurales las prácticas e identidades de los sujetos subalternos? ¿De qué manera se experimentan las contradicciones inherentes al capitalismo en las condiciones del “capitalismo tecnológico”? ¿Qué posibilidades y qué nuevas amenazas ofrece esta nueva configuración del capitalismo para la acción política transformadora?

Si bien el término “capitalismo tecnológico” es el más utilizado en el libro para nombrar esta nueva configuración del sistema vigente, también aparecen otros que llaman la atención sobre aspectos relevantes de la transformación en curso: “capitalismo de la vigilancia”, “capitalismo cognitivo”, “capitalismo conductual”, entre otros. Cada uno de ellos refiere a algún aspecto a tener en cuenta en la construcción de una caracterización más precisa del momento actual del capitalismo. Cabe mencionar que en el libro también se hace referencia a caracterizaciones más radicales del tránsito en curso, entendiéndolo como una generalizada regresión, como “desmodernización”. Sintetiza bien esta perspectiva el término acuñado por Yanis Varoufakis: “tecnofeudalismo”, que se materializa en la alianza entre ultra capitalistas tecnológicos y movimientos fundamentalistas que gobierna hoy la primera, aunque decadente, potencia global.

Los análisis específicos acerca de los dispositivos del capitalismo tecnológico, así como las interpretaciones de conjunto que se recogen en el libro, nos deberían motivar a profundizar en el análisis de los diversos sujetos subalternos en el capitalismo contemporáneo. Para ello hay que superar algunas contraposiciones superficiales que buscan encubrir las nuevas formas de explotación y dominación. En primer lugar, la contraposición entre trabajo y conocimiento. Se asume que este último ha desplazado al primero como factor central de la producción. Esto supone una visión estrecha del trabajo humano y cuasi angelical del conocimiento. Está muy claro en Marx y en otros pensadores de la modernidad que el trabajo, como despliegue de la potencia productiva de las/os humanas/os, engloba todas las capacidades del productor(a). Y que los conocimientos son un resultado más de dicha potencia productiva. En ese sentido, es muy pertinente la recuperación que hace Millones de la idea de general intellect, expresión que da cuenta de la potencia cognitiva compartida por los seres humanos. Asimismo, hay que discutir la preminencia, en algunos análisis, del ámbito de la distribución (o el consumo) sobre el ámbito de la producción.

¿Cuáles y cómo son las relaciones de clase que se establecen dentro de esta versión contemporánea del capitalismo? Para responder a esta pregunta, en el libro se hace referencia a los procesos de precarización del trabajo que resultan de la incorporación de las nuevas tecnologías en la producción. Lo más importante, sin embargo, son las diversas referencias a la generalización de una nueva mercancía, o mejor de un universo de mercancías “virtuales” que se realizan apropiándose de la subjetividad de las personas. No se trata simplemente de una nueva forma de dominación o manipulación “desde fuera”. Se trata de algo más profundo: la introyección de dispositivos que predisponen a sentir y comportarse como si se viviese en otra realidad, en un “metaverso” que ofrece la posibilidad de imaginarse triunfador a pesar de los sucesivos game over. Este es uno de los aportes centrales de este libro. Merece un seguimiento detallado a fin de sacar a la luz no solo el fetichismo de la mercancía virtual, sino, sobre todo, descubrir su antagonismo interno en función de “revolucionarla”. Si esto sigue siendo capitalismo, la teoría de la crisis de Marx que se enraíza en el carácter contradictorio de la mercancía puede darnos la clave para procesos emancipatorios en las nuevas condiciones.

En el otro polo de la relación de clase fundamental del orden vigente, están los capitalistas. En el libro se los menciona con nombre propio y se da cuenta no solo del obsceno incremento de sus fortunas, sino también de su poder en cuanto a la producción de conocimiento y de las mercancías virtuales a las que se ha hecho referencia previamente. Si en base a la información y análisis que incluye el libro se hiciese una cronología y un mapa de la expansión de sus inversiones, fácilmente se visualizaría un proyecto de control totalitario que supera ampliamente cualquiera de los proyectos similares del siglo XX. Aquí también toca preguntarse acerca de las contradicciones y las potenciales reivindicaciones no solo democráticas, sino éticas que genera este autoritarismo tecnológico. Al respecto, este libro nos presenta algunos ejemplos pioneros.

Es evidente que el poder no se ha diluido ni transformado en un tejido de redes que influencian de manera casi inadvertida sobre los sujetos. Lejos de ser el terreno de la cooperación, la política es, cada vez, el terreno de la lucha despiadada por imponer no solo políticas, sino también creencias y comportamientos de sumisión a lo vigente. Las redes virtuales de dispositivos tecnológicos “cuasi inteligentes” (reconociendo que tienen capacidades de decisión cada vez más amplias) configuran un férreo sistema de control. Sin duda se han expandido los mecanismos de dominación caracterizados como “bio-política”, pero sin que esto haya menoscabado las características esenciales de lo que hace más de un siglo se caracterizó como imperialismo. El tránsito a un supuesto “imperio” definido como “aparato de mando descentrado y des territorializado que incorpora progresivamente a todo el reino global dentro de sus fronteras abiertas y expansivas”, nunca se produjo. Nada más alejado de la realidad que la afirmación de que el “imperio maneja identidades híbridas, jerarquías flexibles e intercambios plurales por medio de redes moduladoras de comando.” (Michel Hardt y Toni Negri, 2000). Lo que tenemos delante, tal como muestran los análisis incluidos en este libro, es un mundo de identidades introyectadas, jerarquías rígidas, intercambios manipulados y un férreo centro de comando.

Los grandes conductores de la transición en curso son conscientes de que se aproxima un momento “catastrófico” y se preparan para ello. El libro da cuenta de varios indicios de esto. El proyecto de Elon Musk de construirse un hábitat fuera del planeta tierra es quizá la versión más espectacular y peligrosa, pero no es la única. Millones recoge una expresión que evoca a la vez utopías y apocalipsis, y tiene un hálito de juego informático: “El Gran Reinicio”. Más aún, las propuestas en juego apuntan a trascender la condición humana tal como la hemos entendido durante milenios, de allí que se hable de “transhumanismo”. El seguimiento de este término en el libro da otra pista de lectura transversal. Lo complementa el término “posthumanismo”. Este último se vincula de alguna manera con las críticas al antropocentrismo que se han difundido en las últimas décadas en diversos movimientos alternativos.

Culminada una primera lectura de este libro, se nos volverá a plantear una vieja pregunta: ¿Qué hacer?  Responderla sin duda tomará tiempo. No se trata de encontrar una respuesta teórica, aun cuando sin duda la respuesta tendrá un fuerte componente teórico. Por ejemplo, la dilucidación del asunto del lugar del humanismo es crucial. La respuesta habrá de tener un fuerte componente volitivo y por tanto una delimitación, al menos provisional, del sujeto que la construya y lleve adelante. La multitud híbrida, articulada en red y sin centro estratégico, está lejos de ser el paradigma del referente a construir.

Para concluir, vale la pena recordar que una de las tensiones irresueltas en los procesos de cambio a lo largo del siglo XX ha sido asumir, por un lado, que no se puede construir un orden nuevo prescindiendo de la herencia cultural, científica y tecnológica; y, por otro, que la herencia recibida predispone a reproducir las relaciones de clase, de género e interétnicas al interior de las cuales se gestó. Lenin, por ejemplo, se entusiasmó con la idea de que el fordismo podía ser una poderosa herramienta para avanzar en la construcción del socialismo y el comunismo. De ahí la fórmula: comunismo = soviets + electricidad. Los conflictos del poder soviético con los sindicatos a lo largo de la década de 1920 tuvieron este trasfondo. Que el gerente pasase a llamarse comisario sin alterar las relaciones de producción cotidianas llevó a que el régimen reprodujese relaciones jerárquicas y burocráticas. En la década siguiente, Simone Weil, entre otros/as, desarrollaron una crítica sistemática de esta visión simplificada de la transición. Por otro lado, los intentos de depurar todos los vestigios de la vieja sociedad y recomenzar desde cero han sido rotundos fracasos. No solo políticos, sino también económicos y culturales. Tal es el caso de la Revolución Cultural en China y, en particular, del “Maha Lout Ploh”, nombre del proyecto de depuración y ruralización de la sociedad en Camboya que produjo un gigantesco genocidio.

Si de lo que se trata es de apropiarse de las tradiciones (y de las novedades) para transformar el mundo, no hay que olvidar que lo expropiado también debe ser transformado. Y que comprender e interpretar son parte de la transformación. Este libro, sin duda, es un enorme estímulo para persistir en esta tarea.