Imagen generada con ChatGPT.
La eficiencia como moral
Desde hace tiempo, contemplo asombrado la vertiginosa carrera hacia la productividad infinita. No tengo nada contra la eficiencia; sería absurdo. Nos permite curar antes, construir mejor, perder menos tiempo, liberar energía para cosas más importantes. El problema empieza cuando deja de ser un medio y se convierte en una moral.
Cada día aparecen nuevos trucos para triplicar, quintuplicar, multiplicar por 10.000 las capacidades de un ser humano. ¿Sabrán lo que implica esa promesa en realidad? Sin embargo, casi nadie nos dice para qué. ¿Estamos resolviendo los grandes problemas de la humanidad, o sólo queremos mejorar la cuenta de resultados?
Y lo digo desde la fascinación, no desde el rechazo. La tecnología me interesa, me ha dado oficio, herramientas y posibilidades que hace veinte años habrían parecido magia. La IA puede ampliar nuestras capacidades de formas que apenas empezamos a intuir. Precisamente por eso me preocupa tanto que acabemos reduciendo una promesa inmensa a una maquinaria sin propósito.
Conviene no circunscribir esta obsesión al mercado laboral. ¿Qué pasa con los enfermos, los ancianos, los niños, los que viven en países donde no es que no tengan acceso a la IA, sino al agua corriente, a la electricidad, a equipos informáticos o a internet? ¿Qué pasa con quienes no pueden producir lo suficiente, quienes no optimizan bien su vida, quienes no encajan en los nuevos sistemas de puntuación invisible que empiezan a ordenar el mundo?
Me refiero a todos nosotros.
Porque antes o después, todos seremos ineficientes. Todos seremos lentos. Todos seremos dependientes. Todos necesitaremos que alguien nos espere.
Babel o Jerusalén
La encíclica Magnifica Humanitas del Papa León XIV llega en un momento extraño. Durante años hemos hablado de inteligencia artificial como quien habla de una herramienta. Una herramienta sofisticada, sí. Fascinante, inquietante, útil, peligrosa, pero herramienta al fin y al cabo. Y puede que esa sea ya la primera trampa. Porque una tecnología que decide qué vemos, qué compramos, a quién contratamos, qué crédito recibimos, qué reputación merecemos o qué posibilidades se nos abren, no es una simple herramienta. Pasa a convertirse en el ambiente, en arquitectura moral, en una forma de ver el mundo.
El Papa lo plantea con una imagen poderosa: Babel o Jerusalén. Babel como proyecto de dominio, uniformidad y autosuficiencia. Jerusalén como reconstrucción compartida, humilde, paciente, comunitaria. No es una elección técnica. Es una elección espiritual. O, si se prefiere decirlo sin lenguaje religioso, una elección antropológica: qué tipo de seres humanos queremos seguir siendo.
Y aquí es donde esta encíclica toca de lleno algo que llevo tiempo intentando expresar en esta serie de artículos sobre la experiencia compartida. He escrito sobre la empatía, la creatividad, el miedo, la duda y el humor como rasgos que no nos hacen más perfectos, sino más humanos. No nos salvan porque nos vuelvan invulnerables. Nos salvan precisamente porque nacen de nuestra vulnerabilidad.
Nos emociona una historia ajena porque algo en nosotros reconoce una herida que quizá no se ha vivido pero se podría vivir. Creamos porque necesitamos curarnos, consolarnos o iniciar una conversación con alguien que todavía no conocemos. Sentimos miedo porque sabemos que somos pequeños. Dudamos porque ninguna respuesta verdaderamente humana llega sin atravesar una zona de sombra. Nos reímos porque a veces no queda otra forma de mirar el abismo.
La IA puede imitar muchas de esas cosas. Puede escribir una elegía, contar un chiste, simular consuelo. Puede responder con aparente prudencia. Puede incluso parecernos compasiva. Pero no ha perdido a nadie, ni teme morir, ni se avergüenza, ni recuerda aquella tarde en la que hizo el ridículo. La IA no necesita esperanza.
Y sin esperanza no hay humanidad, sólo cálculo.
Por eso me parece tan relevante que Magnifica Humanitas insista en la dignidad humana intrínseca. Más allá de querer vestir la dignidad con prestigio, mérito o como el resultado de una vida bien gestionada, la articula como algo que no se gana y, por lo tanto, no puede perderse.
Esta idea, que puede parecer abstracta o piadosa, es hoy una de las afirmaciones más radicales que se pueden hacer.
Buena parte del imaginario tecnológico contemporáneo se dirige justo en la dirección contraria. Nos dice que el ser humano es un proyecto defectuoso. Nos quieren vender la idea de que somos un organismo mejorable, una suma de limitaciones que deben ser corregidas. La enfermedad, la vejez, la lentitud, la dependencia, la tristeza, incluso la muerte, aparecen como errores del sistema. Fallos que una combinación suficiente de datos, biotecnología, capital y capacidad de cómputo podría resolver.
A primera vista suena bien. ¿Quién no querría sufrir menos? ¿Quién no querría curar enfermedades? ¿Quién no querría aliviar la soledad, la discapacidad, el deterioro, el dolor?
Los descartados
¿Pero estamos combatiendo el sufrimiento o se ha iniciado una sutil batalla contra el que sufre?
Ahí aparece una forma nueva de eugenesia. No necesariamente con batas blancas, discursos raciales o laboratorios clandestinos. Una eugenesia más limpia, más presentable, más integrada en dashboards y hojas de ruta. Una eugenesia tecnológica que no necesita decir “esta vida vale menos”. Le basta con decir: “esta vida es menos eficiente”, “esta vida es menos rentable”, “esta vida es menos escalable”, “esta vida ralentiza el sistema”.
Y entonces la exclusión ya no parece violencia. Parece optimización. Empieza a sonar aceptable.
El peligro no es que una máquina se vuelva perversa y amenace nuestra existencia, sino que aceptemos como algo natural una moral cuya columna vertebral es el rendimiento neto. Que asumamos sin resistencia que un algoritmo clasifique a las personas según su utilidad aparente. Que llamemos progreso a un mundo en el que los poderosos lo son cada vez más y los frágiles se van diluyendo en coste, orillados en el ruido estadístico.
¿Es la IA la que piensa como nosotros, o somos nosotros quienes estamos empezando a pensar como una mala IA?
La encíclica no es una impugnación de la tecnología. Sería absurdo, además de ingrato. La tecnología nos ha permitido curar enfermedades, comunicarnos a distancia, explorar el espacio, mirar dentro del cuerpo, entrar en los entresijos del mundo subatómico y liberar a millones de personas de trabajos penosos. La IA puede formar parte de esa historia luminosa. De hecho, debería formar parte de ella. Pero sólo si sigue siendo una ampliación de lo humano y no una coartada para clasificarlo.
Porque ninguna tecnología llega al mundo en el vacío. Trae incorporadas prioridades: qué optimiza, qué mide, qué ignora, qué considera aceptable. Toma el rostro de quien la diseña, la financia, la regula y la utiliza. Y ahora mismo, buena parte de ese rostro pertenece a conglomerados tecnológicos con más recursos que muchos Estados, con menos mecanismos de control democrático que una administración pública y con una capacidad inédita para moldear el imaginario colectivo.
Durante siglos hemos temido que el poder viniera armado. Ahora también viene personalizado, gamificado y envuelto en comodidad. No entra echando la puerta abajo, sino a través de una suscripción mensual.
Las preguntas correctas ahora, al margen de qué será capaz de hacer la IA mañana, son quién fija los criterios de su uso, quién traduce nuestra humanidad a variables y procesos, y quién se beneficia de ello. Y sobre todo, quién se queda fuera de ese sistema que nadie ha elegido.
Porque uno de los rasgos más peligrosos de los sistemas automáticos, como vimos en relación con los coches autónomos, es que despersonalizan la injusticia. Como nadie toma la decisión concreta, como nadie ejerce la crueldad de forma patente, como nadie te condena directamente, la responsabilidad se diluye. Es el sistema quien determina que no cumples los parámetros. Así que no encajas.
La esperanza como resistencia
Aquí la esperanza deja de ser una virtud decorativa. La esperanza se convierte en una forma de resistencia. Esperar no es confiar ingenuamente en que todo saldrá bien, lo que sería más bien una forma de anestesia. Esperar es negarse a aceptar que el futuro pertenece necesariamente a quienes tienen más datos, más servidores, más capital y más capacidad para imponer su visión del mundo.
La esperanza es proclamar que no todo está decidido.
¿O queremos aceptar que los débiles deban adaptarse al ritmo de los fuertes? ¿Que educar consista en preparar a los niños para obedecer a sistemas automáticos? ¿Que trabajar, algo que siempre nos dignificó, implique competir contra máquinas en una carrera diseñada por otros? ¿Que la vejez sea un residuo incómodo? ¿Que la discapacidad sea un error? ¿Que la tristeza deba medicarse con entretenimiento infinito? ¿Que una persona valga lo que produce, lo que consume o lo que predice un modelo sobre ella?
No está decidido, salvo que nos rindamos.
Quizá por eso me interesa tanto la expresión “experiencia compartida”. Porque no apunta a una cualidad aislada, sino a un tejido. Somos humanos porque algo nos ocurre y porque eso que nos ocurre puede alcanzar a otros. Una vida humana no es una unidad de procesamiento. Es una biografía atravesada por vínculos, pérdidas, deseos, fracasos, torpezas, gestos de cuidado y pequeñas lealtades que no caben en un cuadro de mando.
La dignidad humana no está en nuestra superioridad intelectual. Esa frontera, si alguna vez existió, se está volviendo confusa. Tampoco está en nuestra capacidad de producir objetos bellos, resolver problemas o acumular conocimiento. Todo eso podrá ser imitado, aumentado o superado.
La dignidad está en que cada persona es alguien y no algo.
Y esto, que parece tan simple, es precisamente lo que tendremos que repetir con más fuerza en los próximos años. Ante los sistemas que clasifican. Ante los mercados que descartan. Ante las empresas que optimizan sin responsabilidad. Ante los discursos que prometen una humanidad aumentada mientras dejan atrás a la humanidad concreta, cansada, enferma, contradictoria, necesitada de amor y de tiempo.
No sé si estamos construyendo Babel. A veces lo parece. Una torre inmensa de datos, automatismos, promesas de inmortalidad y lenguaje único. Una torre tan brillante que cuesta ver los cuerpos que quedan a su sombra.
Pero tampoco creo que todo esté perdido. Todavía podemos reconstruir algo. No desde la nostalgia ni desde el miedo, sino desde una esperanza incómoda y exigente. Una esperanza que no espera sentada. Una esperanza que regula, educa, discute, limita y protege. Una esperanza que se ensucia las manos.
Porque si algo nos recuerda Magnifica Humanitas es que la cuestión decisiva no es qué podrán hacer las máquinas. La cuestión decisiva es qué no debemos dejar de hacer nosotros.
Cuidar al débil. Defender al lento. Escuchar al que no cuenta. Proteger al que no sabe protegerse. Dudar cuando todo parece demasiado claro. Reírnos de nuestra propia pretensión de grandeza. Crear algo que consuele a quien venga detrás. Mirar a una persona rota y no ver un fallo, sino un misterio.
Nos va la vida en ello.