La omnipresente IA se está convirtiendo, como ya muchos vaticinaban, en la protagonista de nuestros tiempos. Si en su momento la irrupción de internet, de las redes sociales y de los dispositivos móviles modificó el estilo de vida de buena parte de los habitantes del planeta, la IA ha dado una nueva vuelta de tuerca y no solo ha irrumpido en el ámbito laboral sembrando cambios a hachazo limpio, sino que está presente en el devenir cotidiano de la ciudadanía y en las conversaciones que tenemos con nuestro entorno.
Estamos descubriendo a gran velocidad la infinidad de cosas que podemos hacer con ella, y no nos cortamos a la hora de preguntarle, por escrito o de viva voz (lo que aún impacta más), cualquier cuestión que nos planteemos, de la materia que sea, y nos sorprendemos de las respuestas y de su celeridad. Y todo eso está sucediendo, me atrevo a decir, con excesiva alegría, y sin darnos cuenta de que la distopía en la que ya vivimos va extendiendo sus tentáculos tentadoramente. La tecnología nos ha atrapado y casi sometido, porque el sistema se ha entregado a ella y por tanto no hay escapatoria a menos que hagas una renuncia a casi todo, y pienso que ni así.
En esta sociedad que quiere creer (y así nos lo repiten machaconamente, por si nos despistamos) que todo progreso es bueno y necesario, nos apuntamos sin pestañear a todo lo que nos van presentando como avances que han de mejorar nuestras vidas. Y cuando se plantean objeciones siempre te salen con aquello de que todo depende del uso que se haga. Pero eso no es cierto, o lo es solo a medias y muy a medias.
Decía E. F. Schumacher en su profético libro “Lo pequeño es hermoso” que toda ciencia es beneficiosa dentro de sus propios límites, pero tan pronto como los transgrede se convierte en mala y destructiva. Hace mucho tiempo que la ciencia ultrapasó los límites que le correspondían, y de la mano de la tecnología se erigió en un nuevo dios a venerar, un dios que ofrece seguridad y certeza, que se ha apoderado de la que considera que es la única verdad válida (lo demostrable científicamente), y que mira con desdén todo lo demás, que es mucho. Y la ciudadanía, ávida de esa seguridad, que la libera (presuntamente) de la incertidumbre que no soporta, se arroja en sus brazos y confía ciegamente en sus designios.
La vida no es procesar datos
La ciencia nos ayuda y mucho, eso nadie lo duda. Pero debería estar a nuestro servicio, y no al revés. Y me temo que no es así, porque la dependencia es cada vez mayor, y a más dependencia menos libertad. Sí, la tecnología puede hacer la vida más fácil, pero no puede resolver lo que verdaderamente importa.
La vida no consiste en un algoritmo de información procesada que nos dice lo que tenemos que hacer. La vida no es objetiva, nunca lo ha sido ni lo será. Pretender reducirlo todo a objetividad no solo es absurdo, sino que es profundamente inhumano. Deslumbrados por todo lo que la tecnología, ahora encarnada en la IA, nos puede ofrecer, perdemos de vista que eso no resolverá ninguna de las auténticas cuestiones a las que nos enfrentamos en la vida, ni le dará sentido ni propósito alguno. Como decía el propio Schumacher, la ciencia no puede producir ideas que nos sirvan para vivir, porque no hay que confundir que aumente nuestra comodidad y podamos invertir menos tiempo y esfuerzo en diversas tareas con que eso signifique que vivamos realmente mejor, más felices y con mayor plenitud. De manera que cuanto más estemos en sus manos, más alejados estaremos de todo lo subjetivo, que es la base de nuestro bienestar o malestar, y del misterio, que es la antítesis de la ciencia objetiva pero que es el campo en el que se juegan los partidos realmente decisivos de nuestra existencia.
De forma directa o indirecta, la IA tomará decisiones o empujará a tomarlas, y parecerán irrefutables, pues se habrá eliminado toda subjetividad. Alfombra roja para que la economía con sus reglas dicte sentencia. Un alma grande como Gandhi dijo que la ciencia no puede regir los valores humanos, como tampoco debe la técnica gobernar la sociedad. Pero lo hace, o lo intenta, en manos de quienes la manejan.
En el ámbito de la salud las cosas no son muy diferentes. Los pacientes se han convertido en objetos observables. La tecnología y sus cada vez más sofisticadas pruebas ofrecen más y más información (supuestamente objetiva), y al poner el foco en ella queda fuera del campo de visión lo que debería estar en el centro, que es la persona, con todas sus variables subjetivas, que no solo son las que la hacen humana y única, sino que son determinantes para la salud. Así se ha deshumanizado y se sigue deshumanizando la atención sanitaria, pese a los esfuerzos de unos profesionales cada vez más sobrepasados y saturados.
Lo objetivo, lo demostrable, lo tangible, parece ser lo único que cuenta (y así lo avala la ciencia), mientras que lo subjetivo, lo emocional, lo relacional, lo espiritual, es prescindible y no es una variable que se incluya en el algoritmo de decisión. Pero la salud no depende de un algoritmo.
Tal vez algún día no lejano la distopía dará paso a que sea la IA la que haga los diagnósticos (en base a datos, ¿qué datos?) y establezca los tratamientos, y habrá quien saltará de contento pensando que así se eliminarán los errores humanos y haremos mejor medicina y hasta habrá quien se creerá que curaremos más y enfermaremos menos, y hasta que no moriremos. Si llega ese día, la medicina abandonará definitivamente el grupo de las ciencias humanistas (al que nunca debió renunciar) y será abducida por el cientificismo. Y se hizo la oscuridad.
8 comentarios en “UNA TIRANÍA SILENCIOSA”
Bravo! Gracias por esta gran reflexión. Es muy necesaria. Veo reflejados todos mis miedos en este aspecto. El ser humano doblegado a la tecnología. Encima la IA consume un nivel de energia brutal y eso, a pesar de que es “medible” científicamente, casi nadie se lo cuestiona, rendidos a la comodidad. Fuí programadora informática en los inicios, cuando no había prácticamente nada informatizado. En aquel entonces la tecnología la hacíamos al servicio de las personas. Un programa (ahora debe ser una app) se diseñaba de arriba a abajo hablando directamente con las personas que iban a utilizarlo. La tecnología claramente al servicio de las personas (y también de las empresas, claro). Ahora nos volvemos locos con muchos objetos cotidianos. En aras de la “seguridad” los coches (por ejemplo) deciden por ti en muchas ocasiones, sensores para todo y con la osadía de corregirte. Por favor, déjenme ser humana y tomar mis deciones. Él tambien se equivoca (en mi caso fallan los sensores y ni los arreglan, ni se pueden desactivar) pero….los sensores, como toda la tecnología que nos envuelve y nos oprime, han venido para quedarse y parece que no tenemos ni voz ni voto.
Muchas gracias, Montse, por tu comentario.
Exactament lo que pensamos mucho… no solo esto, sinó que la mente humana puede perder poco a poco, el interès por el estudio, ya que consultando la IA, no necesita memorizar ni retener…
Todo con un equilibrio, es avanzar, pero el sentimiento humano necesita pensar, reflexionar razonar y madurar sus conclusiones, siendo esto parte de nuestra felicidad
Gracias Juan Carlos!
Gracias, Marta, por tu aportación.
Es de agradecer, como siempre, este nuevo post en un blog necesario.
Un cientificismo desbocado nos invade (a veces, coincidiendo con la pseudociencia, enemiga suya sólo en apariencia)
Se pierde el horizonte de la subjetividad humana, la de cada uno, singular en la Historia, irreducible a cualquier propósito pretendidamente tecnocientífico, sea la genómica concebida como información causal, sea la mecánica clásica o los últimos coqueteos con la cuántica para “explicar” la consciencia en sentido fuerte, sea la IA como nueva creatura colaboradora o competitiva.
Toda enfermedad pasa a concebirse como defecto de máquina por carencia inicial o sobrevenida.
Si esto es así, y parece que tal cientificismo va a más, la deshumanización del ser humano está servida y ligada a ella, sólo es concebible una Medicina Inhumana, que ignora el sufrimiento real y la muerte, también singulares, en aras de estadísticas y “eficiencias”
Un cordial saludo
Muchas gracias, Javier, por tu siempre interesante aportación.
Muchas gracias, Juan Carlos. Me he encantado el artículo y tienes mucha razón. La IA es un tsunami y parece imparable. Hoy más que nunca hace falta parar, reflexionar, interiorizar para ver adónde vamos cada uno de nosotros y a qué. Son fundamentales las asignaturas como la Filosofía o las de Humanidades, pues nos ayudan a pensar y a ir más allá. Si me das permiso, quizá algún día utilizaré este texto para comentarlo con mis alumnos adolescentes y seguro que les ayudará a pensar.
Me encanta el fondo y la forma del artículo.
Recibid un saludo cordial.
Gracias, Esther, y por supuesto que tienes mi permiso para utilizar el artículo.