(por Davide Maniscalco, abogado y Jefe de la Región de Sicilia AIDR) "Si hay 'algocracia' también debe haber 'algorítmica'". Monseñor Vincenzo Paglia, presidente de la Pontificia Academia para la Vida, no tiene ninguna duda: "La dimensión tecnológica está al servicio de la humanidad, de lo contrario la discriminación se duplica". El Vaticano, por lo tanto, también se pregunta sobre las perspectivas de la inteligencia artificial. Mientras la Comisión Europea ha anunciado la presentación del "Libro Blanco" sobre inteligencia artificial para el 19 de febrero, la Iglesia católica insiste en pedir un sentido de responsabilidad sobre la "cuestión ética" esencial del progreso tecnológico. Junto a los gigantes digitales Microsoft e IBM, aceptó el desafío de apoyar a todos los actores de la comunidad científica, política y social involucrados en diversas capacidades, en la empresa de construir un nuevo y equitativo "humanismo digital" sobre la base de los valores humanos.
Durante una entrevista con enlace a Informe de ofcs., Monseñor Paglia discutió el papel de la Iglesia Católica en una transición de época de nuestra realidad contemporánea. “El progreso se convierte en desarrollo cuando se rige por elecciones éticas -explicó- por eso es muy importante aclarar el significado semántico de la ética, porque si eres preciso en la declinación del significado, te vuelves consistente con las expresiones lingüísticas 'dimensión ética' y 'enfoque antropocéntrico'. Y así, con total transparencia, las tecnologías emergentes también deben estar convergiendo hacia una revolución digital que represente un Renacimiento o un nuevo humanismo. Estamos desarrollando una Convocatoria a la Ética -agregó- que conducirá a una evaluación crítica de los efectos de estas tecnologías, de los riesgos que conllevan, de las posibles vías de regulación, también a nivel educativo ”. La ponencia del proyecto abordará los retos en los campos ético, regulatorio y sanitario y será compartida con Microsoft e IBM durante el evento "RenAIssance: por una inteligencia artificial humanística" que se celebrará el 28 de febrero en el Auditorio de la Academia Pontificia para la Vida.
Entonces, ¿hasta dónde puede llegar la tecnología y cuál es el límite más allá del cual la evolución ya no es progreso? Monseñor Paglia sigue una orientación sobre esto: “Digamos que hoy nos encontramos en una situación sin precedentes. Estamos viviendo la última fase de lo que podemos definir como un 'cambio de época' - subraya - En los últimos 70 años hemos producido una técnica que nos permite destruir todo con energía nuclear. Y esta es una técnica militar. De hecho, nos dimos cuenta de esto e inmediatamente elaboramos acuerdos para remediarlo. La segunda consideración se refiere al aspecto económico, en particular a la explotación sin sentido de los recursos energéticos. Se ha creado otro peligro mundial que es el de la destrucción del clima y por tanto de la humanidad. Ya nos habían advertido y no pudimos. Luego, hace cuatro años, todos los jefes de gobierno se reunieron en París para poner un banco. Hasta ahora, las técnicas militares y las de explotación capitalista se podían gobernar de manera muy directa: bastaba con no producirlas más o no implementarlas. Después de París todos estamos más atentos aunque todavía hay una conciencia muy débil ”. A continuación, el presidente de la Pontificia Academia para la Vida destaca una "tercera ola". “Nos enfrentamos a nuevas tecnologías 'emergentes y convergentes' - destaca - y tenemos la posibilidad de intervenir de manera 'técnica' sobre la raza humana. Entonces no solo existe el riesgo de destrucción, sino también de una autodeshumanización, tanto que algunos hablan de posthumanismo o de hombre aumentado. O de nuevo, la posibilidad de crear una especie de nueva esclavitud a partir de un capitalismo que esta vez ya no es dueño del petróleo sino del big data. Ante esto estamos llamados a una 'sacudida' moral, política, diría simplemente humana. En este sentido, ante este progresivo desarrollo de la tecnología, si no intervenimos de manera decisiva y adecuada, corremos el riesgo de una nueva implosión de la que desconocemos cuáles serán las consecuencias. Ciertamente, como primera consecuencia, se corre el riesgo de que las desigualdades que produce la economía y el desarrollo de la industria sean mucho más graves si se producen mediante algoritmos ”.
El alto prelado ha hablado repetidamente de una cura que puede ser peor que la enfermedad.
¿Qué tan éticamente le importa el desarrollo tecnológico en los campos médico y científico?
“Aquí hay una serie de consideraciones. Comencemos con el más duro, el más duro. Comencemos por la propuesta del científico japonés (Hiroshi Ishiguro ed) para crear un clon del ser humano. Aquí nos enfrentamos a una perspectiva escalofriante - advierte el presidente de la Academia Pontificia para la Vida - Cuando este científico habló el año pasado en la asamblea sobre roboética, habló del desarrollo humano actual como la última generación biológica y orgánica. Sin embargo, este es un futuro escalofriante. Es cierto que el desarrollo tecnológico puede ofrecer enormes y extraordinarias posibilidades de curación y todo esto es la puerta de entrada más lógica, y también estoy a favor. Pero quiero hacer una premisa de todos modos. El desarrollo tecnológico proviene del hombre y el hombre lo hace, para mí, que soy creyente, porque ha recibido una fuerza, una capacidad y una inteligencia de Dios mismo. Entonces, el progreso tecnológico es el resultado de nuestras manos. ¿Cuál es el punto crucial en este contexto? Es la conciencia del límite - continúa Monseñor Paglia - Además, en la creación, cuando el relato del Génesis dice 'se puede comer cualquier cosa, excepto (...)', afirma el concepto de la conciencia del límite. Si quemamos la conciencia llegamos a la tentación prometeica, es decir, a creer que realmente somos dioses. Por lo tanto, una cosa es saber y cuidar, otra cuenta es saber y crear. En el sentido de que no todo lo que se puede hacer debe hacerse. Es por eso que debemos enfrentar el desarrollo tecnológico progresivo de una manera inteligente y sabia, sabiendo que la técnica es para el hombre y no al revés. Y aquí está la advertencia que varios pensadores nos han dado desde la década de 50. Además, el propio Heidegger cuando dijo que solo Dios puede salvarnos, no lo dijo por el Dios cristiano, sino por la razón de Dios. La única razón puede salvarnos. Esto significa atención: la técnica debe estar al servicio del hombre y no al revés. Entonces, mientras el descubrimiento ayude a saber sanar y ser siempre "humano", estamos en un camino que diría digno de desarrollo. Es cuando se trata de afectar y manipular al ser humano que debemos tener cuidado. Ahora aquí, en mi opinión, viene el punto más crucial. La tecnología avanza tan rápido en comparación con la conciencia ética y antropológica que corremos el riesgo de llegar "tarde", de no poder frenar más el automóvil, que ya está en un descenso vertiginoso. El problema es que tenemos que permanecer en el automóvil desde el principio y no llegar a un cierto punto cuando, quizás, sea difícil. En este sentido, se explica la razón del interés de la Academia Pontificia para la Vida en estos temas, para insertarlos en un horizonte más complejo y más sabio ". Y luego Monseñor Paglia enfatiza: “En primer lugar, cuando hablo en persona, agregaría otro elemento para entenderlo. Porque no solo existe la persona humana, existe la familia humana. Entonces, en un momento en que la tecnología es global, las conexiones y el comercio son globales, debemos tener en cuenta que la dimensión de la tecnología no puede dejar de estar al servicio de toda la humanidad también. El desarrollo integral concierne tanto a los individuos como a toda la familia humana.
El Vaticano, de hecho, quiere centrarse precisamente en el tema de la posible discriminación relacionada con el desarrollo de la tecnología. “Las desigualdades que produce el desarrollo económico son más graves de lo que se pensaba con una ideología un poco más simplificada, la de la pleamar: si sube el bienestar, sube tanto al transatlántico como al barco. En realidad no sucedió de esa manera. Hay algunos transatlánticos que han subido más, otros barcos que casi se han hundido. En este sentido, esta divergencia, que es uno de los problemas de la crisis de nuestra sociedad contemporánea, puede hacer de la divergencia una esclavitud total. En cambio, la gestión de big data corre el riesgo de hacer que los transatlánticos se levanten cada vez más en detrimento de los barcos. Por ejemplo -continúa- con el reconocimiento facial ya no hay ricos y pobres, sino tiranos absolutos y súbditos absolutos. Quién posee oro, big data, puede destruirte. Entonces para esto creo que se necesita un doble refuerzo ético. No basta con decir, como en el pasado, que solo necesitamos redistribuir la riqueza. Es necesario un aumento del conocimiento, del derecho, de la participación. Por tanto, en lo que respecta a la Iglesia católica, no podemos ofrecer hoy perspectivas de forma extrínseca. Tenemos que quedarnos adentro para poder captar, desde adentro, el potencial y también los peligros de las nuevas tecnologías. Aquí el problema no es solo del uso final de las tecnologías, sino que se trata de prestar atención a quienes son responsabilidad de cada uno a lo largo de la investigación, experimentación, construcción, distribución, uso personal y uso especial de estos dispositivos tecnológicos. y reconocimiento ".
¿Cuánto se siente esta responsabilidad y qué tan preocupado está el riesgo de un sacrificio de la libertad de autodeterminación humana? “Creo - admite el arzobispo - que la 'invasión' de algoritmos es imparable en cierto modo. Hasta el punto de que hay quien habla de algocracia. Dicho esto, está claro que si queremos salvar la dignidad humana, la democracia, la polis en el sentido más amplio, es fundamental, utilizando la terminología de la revolución francesa, mantener la primacía de la libertad, la igualdad y la fraternidad. La dignidad del hombre y de la familia humana debe poder ser enriquecida y no subyugada. Entonces, si hay algocracia, también debe haber un algoritmo para tejer las dos perspectivas juntas. Si tuviera que imaginarlo como un tejido, debería estar formado por los hilos de los algoritmos y los hilos de la ética al mismo tiempo. En este sentido, libertad, igualdad y fraternidad son tres dimensiones seculares e igualmente evangélicas que pueden ser comprendidas por todos: por los que creen y por los que no creen.
En este sentido, nosotros como Iglesia Católica debemos ser los 'centinelas' de quienes falsifican estas grandes masas de datos teniendo en cuenta que hay que garantizar la libertad y hay que garantizar la igualdad y también se debe promover la fraternidad. Por tanto, la técnica debe proponer todo esto y no negarlo. Esto significa que es indispensable, ante estas nuevas tecnologías, que estén rodeadas e impregnadas de todas las realidades decisivas de la sociedad, la política, la economía, la ética, la religión, las clases trabajadoras, por todas las instituciones, por todas las ciencias. Es fundamental promover la contaminación colegiada. Las diferentes ciencias y las diferentes realidades sociales también deben ser convergentes. En este sentido hablaría de un camino común indispensable. De hecho, personalmente me impresionó porque como académicos nos encontramos impulsando este proceso no por iniciativa propia, sino a pedido de una de las mayores multinacionales ”. Monseñor Paglia cuenta, por tanto, cómo los gigantes de la tecnología de la información querían involucrar al Vaticano en un tema ético candente para la Iglesia como es el desarrollo de la inteligencia artificial. “El presidente de Microsoft vino a decirnos -recuerda- 'todos somos ingenieros, y por eso estamos condenados a crear nuevos hallazgos cada semana para permanecer en el mercado. Sabemos que podemos hacer cosas excelentes, por ejemplo en medicina, pero también cosas dramáticas. En este punto necesitaríamos no hacer una conferencia con usted, pero nos gustaría preguntarle si podría acompañarnos a lo largo del proceso '. Esta es la solicitud, que también puede estar marcada por ambigüedad (queremos el sello). Pero aquí hay un "algoritmo espiritual" que se llama confianza. Porque no olvidemos que la inteligencia artificial es solo matemática. La confianza no es matemática. La confianza me convenció de que, teniendo total libertad para acompañar sin ningún condicionamiento, podríamos asumir el desafío, porque las consecuencias del desarrollo tecnológico son tan importantes que, pensamos, la Iglesia Católica no puede quedarse al margen. En este sentido, el ejemplo de la cuestión social es apropiado. La Iglesia católica a fines del siglo XIX, con un desarrollo industrial que evidentemente puso fin a la cultura económica campesina, sintió la responsabilidad de ingresar al mundo del trabajo con una nueva doctrina, un nuevo pensamiento. Del mismo modo, en esta coyuntura histórica, ya no podemos quedarnos afuera y mirar, también porque si estás afuera no puedes entender desde arriba, puedes llegar demasiado tarde y entonces el paradigma también ha cambiado. Es decir, si no estás directamente involucrado, creo que la realidad es muy difícil de entender. Estaremos en otro mundo que pueda hablar, dictar reglas, hablar un idioma y estar en una posición totalmente externa, inaudible, ineficaz y por lo tanto inútil y, en mi opinión, pecaminosa.
¿Cuáles podrían haber sido las razones por las cuales Microsoft solicitó la participación de la Academia? ¿Un dilema ético, algo que los sacudió?
“Creo - comenta el prelado - que la nueva gestión de Microsoft (y en realidad también noté la de IBM) es diferente a la de su fundación. Y este liderazgo planteaba problemas morales y esta dimensión humanista los involucraba más directamente. Esta fue la razón de fondo, porque son muy conscientes de que sin reglas es un problema incluso para la propia empresa. Y aquí hay un ejemplo que me dio el presidente Brad Smith. En comparación con el reconocimiento facial, que obviamente también puede ser desarrollado por otros competidores, si no encontramos una regulación legal entre todos nosotros caeremos al abismo. Los conflictos con estos dispositivos son mucho más peligrosos y fáciles que los de la energía nuclear. Por tanto, la necesidad de una regulación legal y ética surge de una forma cada vez más fuerte a medida que crece el potencial de la tecnología hasta el punto de que ambos gigantes acuerdan someterse a determinadas normas éticas, legales y educativas. Lo cual es una situación similar a la del clima. Aquí de alguna manera es aún más fuerte, porque aquí intervenimos directamente sobre el hombre, no sobre el medio ambiente. Y es por eso que el paso ético y también legal se impone en mayor medida y estar solo al mando de una revolución tan impactante no es fácil. También sientes la necesidad de estar en compañía o en todo caso de poder controlar al otro también. Está claro que será necesario intervenir por una regulación ética y legal sobre el uso del algoritmo a nivel internacional, de lo contrario la anarquía en la gestión de big data puede volverse muy peligrosa, incluso para la supervivencia de la empresa, al final. Yo diría que juntemos los dos: un poco de humanismo y un poco de riesgo predecible y el miedo a la energía nuclear. El miedo a la destrucción puede haber determinado la cuestión moral un poco como el clima ”.
¿Existe una conciencia concreta a nivel mundial?
“En Microsoft, sí - responde sin dudarlo el presidente de la Pontificia Academia para la Vida - A nivel mundial, sigo pensando que no. Estoy convencido de que al igual que los otros dos desafíos entre la energía nuclear y el clima, si no los golpeamos con la cabeza no tendremos plena conciencia. Es cierto que la atención está creciendo gradualmente. Esto debe provocar una sacudida de participación y reglas que se dicten, tanto éticas como jurídicas y también educativas. Sin embargo, dado que la tecnología corre muy rápido y la rendición de cuentas más lenta, debemos acelerar en este frente para ayudar a los gobiernos a tomar conciencia no solo para asegurar la tecnología, sino con una verdadera visión de la polis. En esto digo una palabra más sobre la responsabilidad de Europa porque tiene una herencia humanística que no tiene ni Extremo Oriente ni Extremo Oeste. No es casualidad que en nuestro evento utilizáramos la expresión humanismo ”.
Europa ha anunciado que el uso de tecnologías de reconocimiento facial por parte del sector público o privado estará prohibido por un período de tiempo (tres a cinco años), durante el cual una metodología para evaluar el impacto de estos Se pueden identificar y desarrollar tecnologías y posibles medidas para mitigar los riesgos. En particular, la presentación del Libro Blanco sobre inteligencia artificial se anuncia para el 19 de febrero. ¿Pero ya se compartió este documento de alguna manera entre todos los actores de la Llamada a la Ética?
“La presencia de David Sassoli para el Parlamento Europeo demuestra el claro interés de Europa, así como el interés de la FAO y puedo decir que hay otros gobiernos que a través de sus embajadas nos piden poder difundir esta convocatoria a nivel internacional y , seguro que lo haremos - revela Monseñor Paglia - Gracias a Dios hay un eco importante, una señal de que hay una conciencia importante de que cuanto más se ensancha, más involucra también al nivel político ”.
¿Qué tan importantes son los cuerpos intermedios en esto?
“Los cuerpos intermedios son el camino a seguir para evitar que la individualización de la sociedad se empuje a buscar al 'Salvador'. Gracias a Dios solo hay uno de 'Salvatore' y ya nos ha salvado. En ese sentido, por tanto, la ayuda, el empujón para dar responsabilidad a los cuerpos intermedios, que están ahí, no es que no estén ahí, es solo que se están licuando de forma irresponsable, es fundamental. Todos deben hacer su parte y en esto los cuerpos intermedios ciertamente pueden ayudar en el empoderamiento - señala Monseñor Paglia - Este es el punto de convergencia y contaminación entre todos, porque esto ayuda al crecimiento de la conciencia de todos y de una intervención positiva no individual. pero en plural ".
Mientras tanto, en vista de la asamblea de la Academia Pontificia para la Vida, del 26 al 28 de febrero próximo, se han tenido noticias de la ampliación de la composición del grupo de académicos, divididos en jóvenes ordinarios, honorarios, corresponsales.
¿Es esto también una señal del enfoque renovado de la Iglesia Católica a los desafíos éticos que plantea el progreso tecnológico?
Estos nombramientos, concluye el arzobispo Paglia, están en línea con las indicaciones del Papa, es decir, "una renovación en la doble lógica de ampliación y profundización. La novedad ciertamente no radica en un cambio en el objeto: la doctrina católica, la sabiduría del Evangelio sobre el inmenso don de la vida humana, debe continuar inspirando profundamente nuestro compromiso, para iluminar todos los aspectos de la experiencia humana y la cultura de la vida. Pero las buenas noticias del Evangelio sobre la vida humana piden que se les ofrezca como fuente de inspiración y como tema de diálogo cultural, político y social, también y sobre todo con aquellos que no piensan exactamente como nosotros pero, como nosotros, tienen en el corazón el vida y sociedad humana ".
Por lo tanto, el nombramiento se pospone para el 26 de febrero, el día inaugural de la Asamblea de la Academia Pontificia para la Vida, dedicada a la inteligencia artificial, que se llevará a cabo en el Auditorio PAV en via della Conciliación. 1.