El miedo a una IA que amenaza con sustituirnos en determinadas áreas productivas y administrativas, y ahora también en procesos creativos que creíamos a salvo de la digitalización generalizada, saca a la luz un viejo temor ilustrado: la pérdida de nuestra autonomía racional. La amenaza no consiste únicamente en que las máquinas nos desplacen del trabajo o lleguen a realizar tareas que considerábamos exclusivamente humanas. Tememos también que, al delegar en ellas cada vez más operaciones intelectuales, terminemos debilitando nuestra propia capacidad de pensar. La IA no solo podría sustituirnos en determinadas funciones; podría acostumbrarnos también a no ejercerlas.
Álvaro Rivera Larios |
El miedo a una IA que amenaza con sustituirnos en determinadas áreas productivas y administrativas, y ahora también en procesos creativos que creíamos a salvo de la digitalización generalizada, saca a la luz un viejo temor ilustrado: la pérdida de nuestra autonomía racional. La amenaza no consiste únicamente en que las máquinas nos desplacen del trabajo o lleguen a realizar tareas que considerábamos exclusivamente humanas. Tememos también que, al delegar en ellas cada vez más operaciones intelectuales, terminemos debilitando nuestra propia capacidad de pensar. La IA no solo podría sustituirnos en determinadas funciones; podría acostumbrarnos también a no ejercerlas.
En la Europa del siglo XVIII, la razón ilustrada se rebeló contra la ignorancia institucionalizada y durante los siglos siguientes soñó con democratizar la conciencia crítica entre los ciudadanos. Sin embargo, la modernidad no ha cumplido su promesa de emancipación intelectual. Las viejas creencias religiosas han perdido parte de su autoridad, pero han surgido otras, seculares y no menos avasalladoras, capaces de someter el juicio individual a certezas colectivas. El nazismo fue una de ellas. Su poder de fascinación no se limitó a las masas ni a los ciudadanos sin formación: también arrastró a intelectuales de extraordinaria capacidad, como Martin Heidegger.
¿Cómo pudo un filósofo de su talla comprometerse con el nazismo y poner su prestigio al servicio de Hitler? No basta con atribuirlo a una debilidad personal ni con despachar el episodio como una incongruencia biográfica. Heidegger no fue simplemente una inteligencia engañada desde fuera. Vio en el movimiento nacionalsocialista la posibilidad de una transformación radical de Alemania y creyó que podía contribuir a orientarla. Sus aspiraciones filosóficas, su idea de la comunidad nacional y sus prejuicios políticos le impidieron reconocer —o lo llevaron a menospreciar— la naturaleza del proyecto al que se adhería. Su caso nos enfrenta a una paradoja incómoda: una inteligencia excepcional puede convivir con una profunda incapacidad para juzgar críticamente sus propias convicciones. La brillantez intelectual no garantiza la autonomía del pensamiento; también puede ponerse al servicio de aquello que debería someter a examen.
Quizá cierta forma de estupidez secularizada sea una de las condiciones que hacen posibles los movimientos políticos de masas y contribuye también a la estabilidad de los sistemas políticos modernos. No se trata necesariamente de falta de conocimientos o de capacidad intelectual, sino de la disposición a suspender el juicio propio cuando una creencia promete dar sentido a la historia, ofrecer una identidad colectiva o resolver las incertidumbres del presente. De ahí que las paideias democráticas tengan a veces algo de mala poesía lírica: idealizan al ciudadano como un sujeto autónomo y racional, como si “ser cultivado” pudiera inmunizarlo contra la manipulación y el sometimiento ideológico. Confían en la fuerza emancipadora de sus ideales, pero subestiman las pasiones, los intereses y las necesidades de pertenencia que pueden llevar a los individuos a renunciar a su autonomía. Como si proclamar la razón bastara para conjurar las fuerzas que la amenazan.
La IA introduce una nueva dimensión en este viejo problema. Puede realizar operaciones intelectuales por nosotros, ofrecernos respuestas convincentes y facilitar que confundamos la disponibilidad de información con la comprensión, o la fluidez de un argumento con su verdad. Si nos habituamos a delegar no solo determinadas tareas, sino también la evaluación de sus resultados, la tecnología puede debilitar nuestra autonomía racional. Pero ese peligro no nace de la nada. La IA se incorpora a sociedades en las que la propaganda, los sistemas educativos deficientes, las ideologías y los medios de comunicación ya pueden favorecer la pasividad intelectual y la aceptación acrítica de discursos ajenos.
Por eso, el problema no consiste únicamente en preguntarnos si la IA nos volverá más estúpidos, sino en comprender por qué somos vulnerables a esa posibilidad. Si una inteligencia como la de Heidegger pudo ponerse al servicio de una creencia política avasalladora, no podemos confiar en que la cultura, la información o la capacidad intelectual nos protejan por sí solas contra la renuncia al juicio propio. La cuestión es cómo formar ciudadanos capaces de utilizar la IA sin someterse a ella, de aprovechar sus posibilidades sin confundir la asistencia con la sustitución del pensamiento. No basta con advertirnos de sus peligros ni con rechazarla: necesitamos transformar las condiciones culturales y educativas que hacen posible tanto su uso pasivo como las formas de estupidez que la precedieron.
Álvaro Rivera Larios con la asistencia de la IA