El 4 de septiembre, Iván Illich (1926-2002) habría cumplido cien años. Una parte de la comunidad intelectual y académica del mundo celebra ese aniversario con varios coloquios que revisitan su pensamiento cuya profundidad, como ha señalado recientemente Giorgio Agamben, se ha vuelto más que nunca legible frente a las graves convulsiones que atraviesa el mundo. Quienes hacemos Conspiratio no hemos querido dejar pasar esa fecha. La presencia de Illich no sólo ha animado muchas de nuestras conversaciones y debates, sino que también ha alentado el espíritu y la reflexión de varios de los colaboradores y editores de nuestra revista. Por ello hemos pedido a Humberto Beck, uno de los más penetrantes estudiosos de su pensamiento en México (véase Otra modernidad es posible. El pensamiento de Iván Illich, Malpaso, Barcelona, 2017), este texto con el que abrimos nuestro número dedicado a explorar la inteligencia artificial. Como nos muestra Beck, la historia crítica, que el Illich tardío llevó a cabo sobre el paso de la “era de las herramientas” a la “edad de los sistemas” es fundamental para entender la gravedad apocalíptica que, con la emergencia de la digitalidad y la inteligencia artificial, el mundo enfrenta.
No deja de ser sorprendente que el pensamiento tardío de Iván Illich, desarrollado desde finales de los años ochenta hasta su muerte en 2002, y expresado en los textos recopilados por Valentina Borremans y Sajay Samuel en The loss of the senses, así como en dos libros de conversaciones con el periodista canadiense David Cayley (Conversaciones con Iván lllich y Los ríos al norte del futuro), haya representado un quiebre tan fundamental con algunas de las tesis centrales del cuerpo previo de su obra, representado por títulos como La sociedad desescolarizada y La convivencialidad, el cual durante los años setenta lo había convertido en una figura pública internacional. Esta ruptura en su propio pensamiento no era sino el reflejo de un quiebre histórico y simbólico generalizado en el “espacio mental” de la humanidad que, de acuerdo con Illich, había tenido lugar a finales del siglo XX: el fin de la “era de la instrumentalidad” y el comienzo de la “edad de los sistemas”.
Illich llamaba “era de la instrumentalidad” a lo que otros historiadores y pensadores han caracterizado como modernidad. Para Illich, la clave de los “tiempos modernos” se encontraba en una cierta noción de las relaciones entre los seres humanos y la tecnología basada en la idea de una distancia entre el sujeto y sus herramientas. La periodización illichiana altera radicalmente y revela como artificial la oposición entre lo moderno y lo premoderno, ya que sitúa el origen de esta noción, no en el siglo XVI o en el XVIII, sino en el siglo XII. Fue entonces cuando en la obra de pensadores medievales como Teophilus Presbyter y Hugo de San Víctor se acuñó la idea de instrumento como aquel objeto que un sujeto puede tomar o dejar a voluntad, según sea el sentido de sus intenciones, como lo hace con el martillo el carpintero.
Esta concepción de las herramientas prevaleció en el mundo occidental desde su origen en plena Edad Media hasta los ciclos de las revoluciones industriales de los siglos XIX y XX. Pero, de acuerdo con Illich, “en algún momento durante los años ochenta” del siglo pasado la sociedad tecnológica llegó a su fin. Fue entonces que los sujetos a cargo de la manipulación de las herramientas comenzaron a concebirse a sí mismos como “usuarios” y “operadores” de un sistema. La diferencia del sistema con la tecnología en su sentido convencional de instrumentalidad radica en que “cuando uno se convierte en el usuario de un sistema, se convierte en parte del sistema”. Entonces, la distinción entre la mano y el objeto que la mano sostiene desaparece.
La idea del sistema, entendido como una entidad que constantemente se autorregula en reacción a los efectos de sus interacciones con el entorno que lo rodea, se volvió la imagen fundamental de nuestra era. El cuerpo humano devino en “sistema inmune” lo mismo que el planeta en “ecosistema”. Para Illich, la mejor manera de hablar acerca de los seres humanos en estos nuevos tiempos es como “organismos biológicos cibernéticos”, es decir, como cyborgs.
En el presente atestiguamos una intensificación sin precedentes de aquellos desarrollos que Illich había identificado hace ya tres décadas, con lo cual su pensamiento ha adquirido una inquietante urgencia y actualidad. En las décadas que han transcurrido después de su muerte, la digitalización de la vida cotidiana, así como el más reciente uso masivo de plataformas de inteligencia artificial generativa, han dado a la noción de la “edad de los sistemas” un sentido todavía más revelador del contenido histórico profundo de nuestra contemporaneidad.
Dado que la edad de los sistemas representa el fin de la instrumentalidad, esto supone, en cierta manera, también el fin de las condiciones de legibilidad de la obra de pensadores como Max Weber, György Lukács o los teóricos de la Escuela de Fráncfort, cuyo eje de reflexión había sido el despliegue ilimitado de la razón instrumental en la modernidad. De ahí la necesidad en el presente de la formulación de una Teoría Crítica postinstrumental, una de cuyas fuentes podría ser precisamente la obra de Iván Illich. Al haberse ocupado sucesivamente, primero de los efectos sociales de las herramientas contraproductivas y, después, de la entrada de la humanidad en la lógica sistémica, el pensamiento de Illich se encuentra particularmente bien situado para entender tanto la evolución del vínculo de lo humano con la tecnología como el estado actual de ese vínculo.
Y es que, en realidad, la denuncia illichiana de la contraproductividad del capitalismo industrial había sido ya un primer vislumbre o advertencia de la posibilidad de que la humanidad terminara encerrada dentro de la cárcel de una racionalidad totalizadora que dictaba la subordinación de los intereses concretos de individuos y comunidades a la lógica de la eficiencia general de grandes tecnologías sociales como la educación, la salud o los transportes motorizados. La contraproductividad del modo industrial de producción era un rostro del fenómeno de la técnica, en el sentido que Jacques Ellul otorgaba a este término: la autonomía de los procesos tecnológicos con respecto a la sociedad, la política, la cultura.
En este sentido, sería posible complementar el pensamiento del primer Illich con el vocabulario del Illich tardío, afirmando, por ejemplo, que cuando una herramienta supera un cierto umbral de crecimiento y se torna contraproductiva, lo que sucede es que esta herramienta amenaza con convertirse en un sistema. La contraproductividad anunciaría así nada menos que la autoabolición de la racionalidad instrumental: la ocurrencia de un cambio cualitativo en la naturaleza ontológica de la tecnología, que terminaba convertida en otro modo de dispositivo, en sistema.
Interpretadas de esta manera, las intuiciones illichianas permitirían una relectura de los clásicos de la crítica de la racionalidad instrumental. Permitiría darnos cuenta de que el anuncio de la llegad de la edad de los sistemas podía vislumbrarse desde la generalización del capitalismo industrial a principios del siglo XX, pues no había sido otra cosa lo que Weber había denunciado cuando hablaba de la “jaula de hierro” de la modernidad: ese entramado de industria, burocracia, acero y asfalto en el que los individuos de las sociedades avanzadas debían morar y del que no había salida. La sensación del ser humano, propia de la vida en un mundo industrial, de estar atrapado en lo que se suponía era el producto de su propia actividad, es lo que Karl Marx consideró como trabajo alienado y fetichismo de la mercancía. No es otro el universo de ese laberinto abstracto en el que suceden las novelas y relatos de Franz Kafka, como aquel en el que se condena a los hombres a sufrir bajo los tormentos de una máquina que con agujas transcribe sobre su carne los preceptos de la ley hasta asesinarlos.
Todo lo anterior —la existencia de intimaciones de lo sistémico desde los orígenes de lo industrial— no descalifica, sin embargo, la observación de Illich acerca de la ocurrencia, durante las últimas décadas del siglo XX, de un “quiebre epistémico” en nuestra relación con la tecnología. Esta ruptura fue la entrada de la humanidad a un nuevo mundo moral y simbólico en el que la autonomía ya no sólo era difícil de alcanzar, sino que se volvía inconcebible, una categoría anacrónica del pensamiento.
Por eso es posible afirmar, como lo hace Illich, que la computadora —la imagen mental que rige la era de los sistemas— es la metáfora más propia de los años del neoliberalismo y la globalización, cuando se consagró la idea de que no existía vida imaginable fuera de la participación en el juego ultracapitalista. Este cierre del horizonte que suponía el internamiento colectivo de la humanidad adentro de esta metáfora lo sintetizó Fredric Jameson en su dictum acerca de la incapacidad de los seres humanos contemporáneos para siquiera imaginar el fin del sistema, aunque cotidianamente pueden imaginar el fin del mundo. Atribuir al sistema una forma trascendente de hiperrealidad es revelador del quiebre epistémico señalado por Illich: el sistema como zona independiente del mundo, más real que lo real, más resistente y perdurable que los propios elementos.
Por esta razón, los sistemas suelen percibirse como la apoteosis de lo humano, cuando en realidad significan su disolución. Esta percepción entraña la fantasía de que la evolución tecnológica hacia lo digital produciría un nuevo estadio de la evolución de la humanidad en camino hacia una forma de existencia que superará las distinciones entre la materia y el espíritu, el ser humano y el instrumento, el adentro y el afuera, la realidad y la hiperrealidad. La fábula de “la matrix” es una alegoría de este proceso de sistemificación, de la humanidad entera acoplada a una gigantesca simulación colectiva.
Y es que los sistemas suponen otra idea de la tecnología y por lo tanto también otra idea de la subjetividad. El sistema destruye la antropología moderna de un sujeto controlador de los objetos a través de esa clase especial de entes que son las herramientas. Hay en su lugar una fusión de sujeto y herramienta: un cyborg. Pero este cyborg no es una subjetividad tecnificada, un “hombre-máquina” que seguiría siendo un sujeto, pero situado en un soporte híbrido de carne y tecnología. Este cyborg es el fin de la subjetividad: el sujeto enchufado al sistema deja de ser un sujeto —un ser racional de substancia individual, capaz de autodeterminarse— porque ahora es determinado heterónomamente por la racionalidad del sistema. La subjetividad deja de significar un punto de vista de la autonomía, la capacidad de “darse su propia ley”, y se resignifica como incorporación sistémica. El cuerpo mismo se concibe, entonces, como un subsistema que debe regularse con respecto al sistema más grande en el que está inscrito. Los sentidos también se sistematizan, porque ya no perciben el rostro, la presencia y el aura de los otros, sino una sucesión de espectáculos, simulacros de la percepción. En este mundo sistematizado ontológicamente, no sólo desaparece la carne, sino la materia misma, la cual queda degradada a mero stuff.
En la edad de los sistemas, el sentimiento del yo, de ser uno mismo, se ha resignificado como un deseo de integración, precisamente porque los sistemas digitales se presentan como el medio idóneo para la realización de la propia subjetividad. Pero en el mundo de la digitalidad, la subjetividad queda reducida a materia prima de la maquinaria sistémica. El sistema aniquila la subjetividad porque ofrece la falsa promesa de una subjetividad infinita.
Como escribe Jean Robert, los sistemas están “en la cabeza”, porque son, ante todo, una infraestructura cognitiva que permite imaginar cerebros colectivos. A primera vista, un sistema aparece como la síntesis del humano y el instrumento: una racionalidad instrumental integrada con los seres humanos. Pero en esta quimera, la integración no sucede solamente en el plano del individuo, sino también en el de las colectividades humanas en su conjunto. Inescapablemente, la legitimidad de la era de los sistemas depende de esta interpretación de la especie humana como un enorme sujeto gregario, porque es en nombre de sus intereses colectivos que se justifica la anulación del individuo implicada en la lógica del sistema. El sistema sería, en este discurso, como el supuesto “instrumento” de ese sujeto colectivo que es la especie humana. ¿Pero era el destino de la humanidad encerrarse en una jaula construida por ella misma?
En el presente, la inteligencia artificial constituye un paso más allá en el proceso de digitalización del mundo porque explícitamente se asume como la realización del sueño de la mecanización de la mente. Ésa es la promesa de la IA, su manto de legitimación: la creación de una mente mecanizada y universal que integre y asimile todo el conocimiento de la humanidad, de modo que pueda dar con los principios generativos del pensamiento.
La inteligencia artificial es, sin lugar a duda, una de las facetas del sistema. Pero es también algo más, algo que Illich consideraría un ídolo, una sacralidad invertida, porque, al pretenderse un remedio de los poderes creadores de lo humano, se presenta como la máxima creación humana, una que la asemeja a la divinidad. Lo cual destapa una de las capas más profundas de la interpretación illichiana: la relación entre el sistema y la perversión del Evangelio. Para Illich, la principal característica del mundo occidental contemporáneo es la gran paradoja de que este universo desencarnado surgió de la fe en la encarnación del Verbo.
El cristianismo, señala Alain Badiou, fue el inventor de la universalidad en tanto primer esquema bajo el cual se consideró a la totalidad de la especie humana, más allá de diferencias culturales, étnicas o sociales, como un sujeto unitario. Este sujeto había estado disperso por el planeta, aunque desde siempre unido por una misma falta (la Caída) y una misma capacidad de ser objeto de la redención. Por eso el horizonte de la evangelización fue, desde el principio, la totalidad de los integrantes de la especie. El cristianismo, más que la filosofía griega o el estoicismo romano, fue la configuración cultural que creó un relato para la unificación de la humanidad. Al mismo tiempo, dice Illich, la perversión del cristianismo comenzó con su misma institucionalización. A finales del siglo XX, esta marcha hacia la desencarnación llegó hasta la percepción de la propia carne como un “cuerpo generado por los médicos”, un “cuerpo iatrogénico” que resulta ilegible si no es a través de las mediciones e indicadores de las instituciones de salud.
Otro hito en esta marcha ha sido el crecimiento exponencial de los sistemas de inteligencia artificial cuyo éxito se basa en su alimentación feroz y constante por las actividades de todos los usuarios de las plataformas digitales, cuyos comportamientos, deseos y miedos son secuestrados por las grandes compañías y vendidos en el mercado con el fin de diseñar nuevas y mejores mercancías. Ése ha sido el destino del deseo en la digitalidad: ser el combustible de la máquina de reificación.
Illich vería con auténtico estupor la reciente aparición de un fenómeno sin precedentes: la llegada de los textos sin autor, generados automáticamente al presionar un botón, como en una máquina de discos del intelecto. Esta cosecha industrial de textos que, estrictamente, nadie ha escrito no hubiera sido posible sin un grado previo de explotación sistémica: la conversión de las palabras de todos en mercancía, flujo para activar los dinamos de los “grandes modelos de lenguaje”. La inteligencia artificial probablemente le parecería como un gólem colosal o un monstruoso cuerpo sin cabeza. La fantasía de inventar una maquinaria que “trabaje por nosotros” es llevada por la IA agéntica y generativa a un nuevo ámbito: el del artefacto que “piense” y “actúe por nosotros”. Motor inmóvil, mecánica del movimiento perpetuo, máquina célibe, artilugio capaz de autogenerarse y de ser su propia causa y su propio efecto: toda una genealogía de mitos antiguos y modernos discurre detrás de estas figuraciones.
Más allá del “imperativo tecnológico” identificado por Borremans e Illich hace medio siglo, pero en continuidad con él, está el nuevo “imperativo sistémico”, cuyo despliegue se legitima en el nombre de la eficacia instrumental, es decir, de la subjetividad de lo humano, de su ser sujeto, dueño de sí mismo y de su destino. Pero esta legitimación ocurre en realidad en nombre del Progreso, ese nuevo viejo sagrado evocado en el filme Metropolis por la imagen de una megamáquina que devora a los hombres. El “Moloch” de la inteligencia artificial devora mentes, subjetividades, identidades, deseos, para crear un potencial ejército de seres postizos, convocados solamente por diseño, para surgir de las sombras como simulacros de la subjetividad.
La antropología que se deriva de estas suposiciones —el transhumanismo— se presenta como una inmortalización tecnológica, una realización de la infinitud del sujeto humano que lo diviniza. Pero la infinitud del sujeto proyectada mediante dispositivos digitales debe distinguirse de la inmortalidad del alma. El alma es eterna, pero no infinita: depende ontológicamente de la experiencia singular, concreta, de una existencia humana, una historia singular incrustada en la carne, en el tiempo y la muerte. Sin esa singularidad, sin esos límites, el alma no puede ser. En cambio, el sujeto es infinito solamente en la proyección ilimitada de su abstracción en el plano unidimensional del tiempo. Mientras el alma es eterna porque forma parte de la eternidad del universo, el sujeto reifica la eternidad proyectándose infinitamente en el tiempo, no fuera de él. (La modernidad es un error de perspectiva, como un desenfoque del punto de vista de la eternidad.)
Es como si después de la negación de la alteridad de lo divino y de la creación de un universo objetivable y manipulable para sus proyectos, el ser humano hubiera creado también las condiciones para una confusión de lo divino y lo tecnológico. La imantación hacia la alteridad no desapareció del todo, sino que se orientó hacia los medios de su ser en el mundo, es decir, sus instrumentos. La ontología del ser humano moderno es una ontología tecnológica, porque la técnica es la forma en la que el sujeto moderno —el “gran controlador del universo”, el gran manipulador— imagina que es.
De ahí la tendencia a divinizar la tecnología, en especial la IA, en la creencia mesiánica en la Singularidad. La tecnología, el medio por excelencia, el símbolo de nuestra antropología secularizada, se realizaría plenamente en el momento en que nos revelara su divinidad, que sería el momento de su trascendencia. Se fabula que esa alienación divina sería extraña, misteriosamente nuestra propia realización: el paroxismo de la humanidad de lo humano en el momento de su obsolescencia, su aniquilación. La fantasía cibernética de la revelación de que, en cierto sentido oculto, nosotros mismos siempre fuimos tecnología.
El apocalipsis que quizás nos convoque sería distinto a otros fines del mundo, colapsos de un universo que han sucedido una y otra vez en la historia de la humanidad. El apocalipsis bajo cuya sombra vivimos es el de una humanidad unificada como nunca antes, verdaderamente planetaria, la especie como un solo y único organismo. La humanidad nunca había sido tan una, nunca había estado paradójicamente tan unida, sino ahora que toda ella puede de un solo golpe desaparecer.