Kielce Gussie - Ciudad del Vaticano
Al dirigirse a los participantes en el congreso «El futuro de la IA: un diálogo entre el Vaticano y el mundo científico sobre los avances y las aplicaciones de las tecnologías inteligentes», el Papa León XIV señaló que el hecho de provenir de diferentes países genera nuevas preguntas y perspectivas.
Sin embargo, «comparten una cierta sensación de inquietud respecto al desarrollo de la inteligencia artificial. Reconocemos la dirección que debemos tomar, pero no se está haciendo lo suficiente para avanzar», argumentó.
Las inquietudes, ideas y sugerencias del grupo para el futuro son los «primeros frutos de un enfoque transdisciplinario», cada vez más necesario para abordar los complejos desafíos de la actualidad.
Palabras que siguen siendo válidas
El Papa destacó que la Pontificia Academia para la Vida y el Future of Life Institute, que organizaron conjuntamente este encuentro, están «plenamente conscientes de los desafíos que surgen allí donde se ve amenazada la dignidad humana».
Con esto en mente, recordó las palabras del Papa Francisco dirigidas a los líderes del G7 en 2024, en las que describió la IA como «Un instrumento fascinante y tremendo» y subrayó que ninguna máquina debería poder decidir jamás si quitar una vida humana.
Estas palabras siguen siendo válidas. Refiriéndose a su propia encíclica Magnifica Humanitas, el Papa León esbozó cinco consideraciones con respecto a la inteligencia artificial: el futuro de la IA no está predeterminado; las máquinas son herramientas, no personas; ciertas decisiones nunca pueden delegarse; las tecnologías inteligentes deben orientarse hacia el bien común; y se necesitan instituciones que establezcan principios éticos para guiar el desarrollo de la IA.
¿Cuál es el propósito de la IA?
El futuro de la inteligencia artificial no está predeterminado. Dado que son los seres humanos quienes desarrollan la IA, su futuro depende de las decisiones que tome la humanidad. Por eso, subrayó el Papa, «tenemos la responsabilidad de orientar, modificar y, cuando sea necesario, rechazar sus aplicaciones».
Por lo tanto, la pregunta no es simplemente: «¿Qué puede hacer la IA?», sino que debe ser: «¿A qué propósito debe servir?».
Desarrollar la IA no debería significar enfocarse únicamente en la meta e ignorar a quienes se quedan atrás. El Papa León argumentó que un sistema confiable que sirva a la persona humana tiene mucho más valor que uno que sea poderoso, pero cuyas «consecuencias no puedan preverse ni controlarse adecuadamente».
No se puede sustituir a los seres humanos
La segunda consideración que explicó el Pontífice es que las máquinas son herramientas y no personas. No tienen experiencias, cuerpos, sentimientos ni relaciones, y no comprenden el amor, el trabajo ni la responsabilidad.
Algunos han sugerido otorgar a estos sistemas derechos o personalidad jurídica. Sin embargo, el Papa León subrayó que esto corre el riesgo de «ocultar la responsabilidad humana y dejar a quienes sufren daños enfrentándose a una entidad sin rostro».
En tercer lugar, hay ciertas decisiones que nunca deberían delegarse a las máquinas. Por ejemplo, incluir a una persona en una lista de objetivos o en una base de datos de control fronterizo significa que se convertirá simplemente en un dato más.
“Las decisiones que afectan la vida humana, la libertad y el uso de la fuerza deben estar siempre sujetas a una supervisión humana efectiva, informada y responsable”, explicó el Papa. Por eso, la IA debe ser “desarmada”. Además, instó a los Estados que se reunirán en Ginebra en noviembre a tomar medidas para prohibir las armas autónomas letales.
Lo que necesitamos hoy
La cuarta consideración es que las tecnologías inteligentes deben orientarse hacia el bien común. «De hecho, nunca deben convertirse en un fin en sí mismas ni servir únicamente a los intereses de unos pocos privilegiados», subrayó el Papa ante los participantes.
Estas tecnologías deben fomentar la solidaridad y la participación en los distintos niveles de la comunidad global, asegurando que los beneficios del progreso se disfruten de manera equitativa.
La última consideración del Papa León es un desafío, que él describió como potencialmente el más urgente. El mundo necesita instituciones capaces de poner en práctica los principios éticos que guíen a la IA y de centrarse en la protección del bien común.
Lo que esto requiere son «normas compartidas, una supervisión independiente y mecanismos claros de rendición de cuentas, de modo que las decisiones relativas al desarrollo y el uso de la IA puedan ser examinadas, cuestionadas cuando sea necesario y acompañadas de medidas correctivas adecuadas para cualquier daño causado».
El Papa León concluyó su discurso ante los participantes en el encuentro expresando su gratitud por sus contribuciones en el campo de la IA y alentándolos a perseverar, a trabajar juntos con un espíritu de diálogo y responsabilidad compartida orientada al bien común.
