Pasadas las nueve de la noche. Llueve con fuerza sobre la Gran Vía de Madrid. Fray Paolo Benanti, de 52 años, no se cubre la cabeza con la capucha de su hábito. Camina como si nada pese a que su jornada ha sido muy exigente. Por la mañana, cita en el Vaticano en un encuentro presidido por el papa León XIV; al mediodía, vuelo para llegar a toda prisa a una conferencia celebrada a las siete de la tarde en la sede de la Fundación Telefónica.
Los transeúntes le lanzan a su paso alguna mirada curiosa debido a su atuendo, sin sospechar que el hombre que viste una túnica gris casi marrón con esclavina ceñida por el cíngulo blanco que hace de cinturón -con tres nudos que representan los votos de pobreza, castidad y obediencia- es uno de los más reputados expertos en tecnología del mundo. Benanti es asesor de la Santa Sede, del estado italiano y de la ONU en temas de ética de inteligencia artificial (IA).
A pesar de la hora, cumple amablemente con su compromiso de conceder una entrevista tras un intercambio de correos unas semanas atrás. La charla con este doctor en Teología Moral y hasta hace unos meses profesor de la Universidad Pontificia Gregoriana de Roma se produce durante su cena, en uno de los pocos restaurantes de esta zona céntrica de Madrid que tiene mesas libres un viernes por la noche. Benanti pide ternera con patatas y una Pepsi sin azúcar.
-Por curiosidad, ¿qué teléfono tiene?
-Mi monasterio tiene un contrato conjunto con una determinada compañía italiana, así que sólo pagamos por la tarjeta SIM y se nos dio la opción de elegir entre diferentes planes de internet. Reconozco que yo escogí el más caro que ofrecían.
Este franciscano de la Tercera Orden Regular que departe con jefes de Estado como el Papa, primeros ministros como Georgia Meloni y gurús tecnológicos de la influencia de Bill Gates fue quien hace más de 20 años introdujo internet en su monasterio, cuando ante el asombro de sus compañeros diseñó una página web de la residencia monacal. Benanti es alguien espiritual y a la vez muy mundano, tanto que se define como «un friki» lleno de curiosidad. Y muy pasional. «Siento adoración por tres franciscos: ¡San Francisco de Asís, el papa Francisco y Francesco Totti!», cuenta en la cena. [Conviene hacer una aclaración para los no aficionados al fútbol: Totti, el gran ídolo de la Roma, es un ex jugador adorado por su afición por su talento y porque en su época de esplendor rechazó incluso fichar por el Real Madrid de los galácticos de Florentino Pérez para seguir jugando en el equipo de su ciudad ganando mucho menos, algo que muchos aficionados romanos como Benanti no olvidan].
Infiltrados en el último cónclave
A lo largo de estos años, el trabajo intelectual de este religioso se ha centrado en pensar en el papel de la tecnología en nuestras vidas y cómo construir con ella un futuro más rico y más humano. Sabe de su poder, tanto luminoso como oscuro. «La tecnología nunca es neutral», dice repetidas veces.
No es en absoluto un fatalista ni un neoludita, al contrario, si bien desconfía del poder omnímodo de las grandes empresas del sector. Inquietud que trata en su último libro, recién publicado en España con el título de El colapso de Babel (Ediciones Encuentro), cuyo mensaje bien podría resumirse con una frase que el fraile pronuncia: «Estoy listo para perder las llaves, incluso la tarjeta de crédito, pero no para perder la democracia que ha costado levantar con tanta sangre y esfuerzo».
La conversación con él resulta desordenada por la intromisión del camarero. El hilo musical del restaurante es caribeño. Aunque se tratan temas de su obra y de la actualidad, el objetivo primordial de la cita es averiguar de alguna manera cuál es la posición de la Iglesia ante la revolución tecnológica que se vislumbra. Qué mejor para hacerlo que alguien como el padre Benanti.
Son varios los teólogos y vaticanistas -los periodistas que cubren la información de la Santa Sede- que especulan con la posibilidad de que León XIV tenga el objetivo de hacer algo parecido durante su papado a lo que León XIII hizo en 1891 con su encíclica Rerum novarum (De las cosas nuevas) ante la Revolución Industrial. Un texto muy audaz en su tiempo dedicado a la situación de la clase obrera que daría pie a la llamada Doctrina social de la Iglesia. Lo cierto es que Prevost ha manifestado en varias intervenciones públicas un enorme interés por la revolución de la inteligencia artificial. Lo hace con expectación, pero alertado por los desafíos que presenta esta tecnología respecto a la dignidad humana, el empleo y la justicia social recomendando un enfoque ético para abordarlos.
El impacto de lo que diga el Papa al respecto merece mucha atención. Basta echar números. En el mundo, TikTok supera los mil millones de usuarios, ChatGPT cuenta con 800 millones y el X de Elon Musk ronda los 650. A pesar de la magnitud de estas cifras, ninguna de estas plataformas puede competir con el Papa, líder espiritual de 1.400 millones de católicos.
-¿Cree que veremos una encíclica de León XIV sobre este tema?
-Contestar a esto es competencia exclusiva del Papa, pero lo cierto es que se ven destellos aquí y allá que puede interpretarse como una señal de su profundo interés en el tema. Aunque no sabemos si la inteligencia artificial sería algo que trataría específicamente o formaría parte de un conjunto de novedades que suponen un desafío para la sociedad...
Cuando contesta, Benanti achina los ojos y lanza una sonrisa amable, romana, muy del actor Alberto Sordi. Recomienda para entender lo que quiere decir las palabras del Pontífice en sus discursos en mayo sobre los Movimientos Populares en los que trataba varios temas, incluida la IA y las demás fuerzas globales que moldean la sociedad.
Aunque nadie puede anticiparlo, lo cierto es que hay distintas pistas de que el Papa dará en algún momento una respuesta a este tema con la mayor profundidad eclesiástica. Por un lado, Prevost es un hombre de ciencia que estudió la carrera de matemáticas y, por otro, el nombre que eligió, como ha reconocido, tiene algo de evocación a León XIII y a la antes mencionada primera encíclica social de la historia.
El último indicio público de la sensibilidad con el tema quedó demostrado el 7 de noviembre en un tuit papal en su cuenta oficial @Pontifex en X:
«La innovación tecnológica puede ser una forma de participación en la acción divina de creación. Como tal, conlleva un peso ético y espiritual, ya que cada elección en el diseño expresa una visión de la humanidad. Por eso, la Iglesia exhorta a todos los creadores de la #IA a que cultiven el discernimiento moral como parte esencial de su trabajo, de forma que desarrollen sistemas que reflejen la justicia, la solidaridad y un genuino respeto por la vida».
Ante estos «destellos» que diría Benanti, lo que hace el fraile cuando se pide más concreción es pedir paciencia. Los ritmos en el Vaticano no son los de la política de los hombres. Un papa es elegido en un cónclave y de un día a otro dirige una institución gigantesca: no es un presidente electo que lleva preparando un equipo y una agenda y al que se le conceden 100 días de gracia en los inicios de su mandato después de unas elecciones. Tras esta explicación, muy de diplomacia vaticana, Benanti se limita a decir para pasar página: «Se verá cuándo y cómo, nadie lo sabe».
- Hemos pasado de la promesa de la conectividad global y del progreso a una realidad llena de incertidumbre. Usted define este proceso como "colapso de la utopía digital".
- Si nos fijamos en las primeras décadas del siglo, tenemos una primera fase que puede bien ser representada por la Primavera Árabe, en la que nos convencimos de que los medios digitales iban a permitir a la población alcanzar la libertad y la justicia. Diez años después, en 2021, llegan los disturbios del Capitolio en Washington, donde esa misma plataforma [Benanti se refiere a Twitter] nos inunda de fake news, polarización, posverdad... Ésa era para mí una señal de colapso. ¿Qué está fallando? Ese sueño de una torre digital de Babel en los orígenes de internet que pretendía unir al mundo bajo un lenguaje digital ha revelado ser más apta para un lenguaje de control que para la comunión y el compartir. Del sueño hemos pasado a la pesadilla.
- ¿Cómo sucedió eso?
- Yo lo fecho en 2012. Es el momento en que el capital y los inversores de estas plataformas empiezan a transformar sus compañías en sociedades únicamente orientadas a la maximización de beneficios a través de la extracción de los datos de los usuarios. Lo que era en su inicio un motor de transformación se convierte en una forma de manipular la opinión pública. Todo mediante algoritmos polarizadores que consumen el contrato social para generar valor para la empresa inundando la sociedad con un vertido de toxicidad digital.
- ¿Esta tecnología pone en cuestión el libre albedrío?
- Es imposible anular el libre albedrío, pero sí de alguna manera lo roban. Me explico. Si usted y yo subimos a la quinta planta de este edificio y le digo que tenemos que bajar pueden suceder dos cosas: la primera es que bajemos por las escaleras y la segunda que nos lancemos por el balcón. Usted es libre o no de saltar, pero si lo hace perderá de cierta forma el control, porque como consecuencia puede romperse la cadera, la crisma o quedar paralítico en una silla de ruedas. Es decir, su libertad no será la misma que la que tenía al principio. Por eso es importante hablar de tecnología y debatir el cómo afrontarla. Decidir si queremos permitir que una máquina limite nuestra libertad o si para preservarla debemos limitar nosotros a la máquina.
- Usted compara los peligros del mundo digital en la juventud con la epidemia de heroína de los años 70 y 80. ¿Se ha tardado mucho en advertir el peligro?
- Cada vez hay más estudios sobre los daños provocados en los más vulnerables por cómo interactuamos con las pantallas y las redes sociales. Toca plantearse si esto es un problema de la vulnerabilidad en sí o es un problema de la tecnología. En mi opinión, estamos ante una nueva versión de la pregunta clásica: ¿es una manzana la que está podrida o es el barril? Hemos empezado a darnos cuenta de que en el barril hay algo que huele mal, porque estas plataformas han sido diseñadas para cazarnos, para aislarnos del entorno, lo que a medio y largo plazo tiene un gran impacto en el cerebro. El problema es que esto no se hace por el bien de las personas, sino para maximizar las ganancias de unas empresas. Cuando eso sucede, lo hemos visto antes, las consecuencias para una sociedad son muy perniciosas, como sucedió con el exceso de azúcares añadidos en determinados alimentos, con la industria del tabaco, etc.
- Su amigo Richard Stallman, líder del movimiento del software libre, dice que el problema más grave con estas empresas está en el concepto de propiedad. Cuando compramos un dispositivo se nos entrega un 'hardware', pero nunca llegamos a ser dueños del 'software' que hace que funcione, sólo se nos da el derecho a una pequeña licencia de explotación.
- Piense que cuando va a una tienda y paga por un smartphone digamos mil euros resulta que lo que se le entrega no es algo plenamente suyo, como sucede con otros artículos. El Derecho Romano fijaba tres derechos relativos a la propiedad de una cosa: usus, abusus y fructus. Puedes coger el teléfono y estamparlo contra la pared si te da la gana, comprarte otro o llamar a quien quieras. Pero los frutos de su uso no son nunca tuyos, sino que se suben a la nube o a otro tipo de formato: es decir, se los queda otro. ¿Sabe cómo llamaban los antiguos romanos a quienes estaban privados del fruto?
- No.
- Esclavos.
La esclavitud tecnológica es una tema recurrente en la obra de Benanti y la define de distintas formas. La más interesante tal vez sea cuando la describe como un «tatuaje digital», en referencia a la imposibilidad de borrar nuestro pasado, algo que considera una condena terrible para las nuevas generaciones. Él, quizás todos, se libró de esa esclavitud por una cuestión de edad; otros no tienen tanta suerte. Recuerda el franciscano una historia de su infancia, cuando jugaba al fútbol en el recreo del colegio salesiano en el que estudiaba, Más que meter gol, el objetivo de los equipos era que la pelota golpeara la mano en alto de una estatua de Juan Bosco, fundador de la orden del colegio, que estaba en medio del patio. Un día el niño Benanti demostró tener una potencia de fuego digna de Mbappé porque un disparo suyo rompió la mano del santo. Como aprendizaje y penitencia los curas de la escuela le enseñaron a reparar con cemento el destrozo que había hecho.
«¿Se imagina que me buscara en Google y lo primero que le saliera sobre mí fuera una noticia que me definiera como «el terrorista infantil que rompió la estatua de don Bosco?», dice. «Estamos condenando a nuestros niños a una cárcel digital que los mantendrá presos sin salida por actos que les acompañarán siempre. Me temo que la tecnología hará que los críos se sientan cada vez más solos y necesitados de terapia». Este religioso considera que el problema actual más acuciante es que los adultos no tienen la energía ni los medios para ofrecer alternativas a esos niños que quedan atrapados en la fascinación adictiva de los dispositivos tecnológicos. «Silicon Valley gasta millones y millones en contratar a ingenieros brillantes para que sus productos molen». ¿Cómo puede un padre competir con ese arsenal?
- Además lo que sucede es que la tecnología cada vez es más difícil de digerir. En apenas tres años de ChatGPT ya hay muchos usuarios que lo usan como consultor amoroso, como terapeuta y hasta incluso para resolver preguntas existenciales. ¿Es desde el punto de vista religioso este culto desaforado a la IA una forma de idolatría?
- Lo único que sabemos es que nos enfrentamos a un cambio en el conocimiento. Antes ibas a una biblioteca y allí estaba el andamiaje de la información. Encontrabas libros de biología, matemáticas, poesía... Todo estaba junto. Y si alguien decía que el Covid se curaba con azúcar podías atribuir ese conocimiento no a la medicina, sino a la fantasía. Ahora, cuando interactúas con una máquina, ésta te ofrece una solución a modo de oráculo. Hay que creerla. No es un problema contra la fe, sino que la máquina te pide que confíes en ella sin darte ninguna razón para hacerlo. En teología, uno de los temas más importante está dedicado a qué se nos permite cuando decimos «tengo fe» usando la razón y eso es la credibilidad. Pero ahora la máquina es incapaz de ofrecer credibilidad.
- Sostiene que el fin de la utopía digital no fue solamente un asunto de inversiones y capital, sino que detrás estaban las cosmovisiones de los magnates. Aquellos que se hicieron ricos reventando la industria creada por los 'baby boomers' revolucionando las finanzas, los medios o el transporte y que de repente dan un salto y lo que quieren es ir más allá: cambiar la democracia.
- Hemos conocido dos tipos de poder en relaciones internacionales. Estaba el poder duro, basado en la fuerza, y el blando, basado en la atracción y la influencia cultural e ideológica. Pues ahora hay un tercero que se llama poder coercitivo. Este te permite usar el poder de las redes sociales para influir en la gente y dañar el funcionamiento democrático de una sociedad. Hablamos de una influencia que logra contaminar el debate público. Basta fijarse en lo que sucede en Francia con el populismo, en Alemania... Por eso necesitamos que haya regulación. Usted es periodista, sabe que si da una información falsa y es denunciado, un juez puede condenarle a usted y a su medio. Sin embargo, en las redes sociales se dicen mentiras gigantescas sin que nadie pague daños y perjuicios por ellas. La falta de derechos hace que haya surgido un nuevo problema para la democracia: la entrega del debate público a empresas tecnológicas que sólo buscan lucrarse.
- Ha mencionado la regulación, ¿es lo único camino que le queda a una Europa muy retrasada en la carrera tecnológica respecto a EEUU y China?
- Eso se dice mucho, pero no olvidemos que Estados Unidos de alguna manera también intenta regular Silicon Valley. La restricción de visas impuesta por Trump es una especie de regulación para limitar su poder. Así que esto es un problema mundial. No olvidemos que aparte de tener el control tecnológico, estas empresas lo que tienen es muchísimo dinero. Pueden invertir 30.000 millones de dólares para levantar un centro de datos, que es mucho más que lo que invierten estados como Italia y España. Es decir, son más poderosas que un país potente. Y además el dinero que gastan no es prestado, sino que sale de su flujo de caja. Durante un tiempo los europeos creíamos que bastaba con regular el mercado, con poner un sello de control de calidad. Lo que pasa es que nos hemos dado cuenta de que eso no es suficiente, ya que estas empresas tienen herramientas políticas capaces de moldear la opinión pública.
- Ahí está el verdadero peligro, vernos como consumidores y no como ciudadanos.
- Por eso necesitamos una ley europea para regular la IA, eso como primer paso, así como restar poder sobre los datos a las tecnológicas. Con eso estas empresas saben que más que dinero lo que pierden es poder. Fíjese en Apple, que en Europa va a eliminar la sincronización automática de redes Wi-Fi entre el iPhone y el Apple Watch. Esto lo hace porque este sector se resiste a ser regulado. En mi opinión, nadie debe estar por encima de la ley.
- Con este compartimiento tan censurable, resulta curioso ver cómo varios magnates tecnológicos anuncian su reencuentro con la religión. Gente como Peter Thiel o Trae Stephens, cofundador de Anduril Industries, afirman que el mundo debe recuperar la fe en Dios.
- Mire, si le respondo como un hombre de fe, le diría lo que han sostenido grandes teólogos del siglo XX: usted puede negar a Dios, pero Dios no puede negarlo a usted. Y tarde o temprano vendrá a buscarlo. Pero hay otro aspecto: sabemos que en la Historia hay muchos casos de gente que ha usado a Dios y a la religión para imponer su voluntad por la fuerza. Lo hemos visto en guerras y dictaduras. Ambas cosas están interconectadas. Hay personas del ámbito tecnológico en Silicon Valley que necesitan espiritualidad y es evidente que hay quienes utiliza ese discurso religioso para controlar a otros o para infundir miedo en el mundo.
"Hemos pasado del sueño de la utopía que pretendía unir al mundo con un lenguaje digital a una pesadilla"
- Hace poco más de 100 años Marx quería matar a Dios y ahora tenemos a gente en Silicon Valley que quieren matar al ser humano. ¿Qué ha cambiado?
- Vivimos en un cambio de era. Ya no se trata como en la modernidad de preguntarse si existe Dios. Ahora empezamos a preguntarnos si existe el ser humano. ¿Qué significa ser humano? Ese es el problema, no es una respuesta, sino una pregunta. Si no lo averiguamos no podremos definir derechos humanos asociados a la tecnología.
- ¿Son los derechos cognitivos el próximo desafío?
- No tengo duda alguna. Lo próximo no será perder un brazo o una pierna, problema que puede solucionarse con una prótesis, sino proteger nuestro cerebro. Piense que controlamos nuestro teléfono con el cuerpo. Un dedo mueve la pantalla, si bien una notificación puede hacer cambiar nuestro ánimo y comportamiento, provocarnos alegría o tristeza. Esto significa que ejerce un poder sobre nosotros. ¿Debe saber mi móvil cuando voy al hospital o cuando me toca tomarme una pastilla? Esta información afecta a nuestra productividad, a nuestro ánimo y a nuestro bienestar. Lo dramático es que mientras pagamos con nuestra salud, ellos se inflan a ganar dinero.