« L’utilisation du potentiel créatif donné aux hommes par Dieu est à l’origine de l’intelligence artificielle… Cette dernière est un outil extrêmement puissant. Le thème de l’intelligence artificielle est cependant souvent perçu comme ambivalent… » Le pape a conscience de ce que l’intelligence artificielle « représente une véritable révolution cognitivo-industrielle ». Il en perçoit les gains potentiels, mais aussi les dangers. « Elle pourrait entrainer une plus grande injustice » entre les riches et les pauvres. L’intelligence artificielle est « un outil fascinant et redoutable ». La capacité de l’homme à fabriquer des outils est une caractéristique de la civilisation humaine. Tout dépend ensuite de la manière selon laquelle les outils sont utilisés. Cependant, l’intelligence artificielle est un outil très particulier. « L’intelligence artificielle peut s’adapter de manière autonome à la tâche qui lui est assignée et, si elle est conçue de cette manière, faire des choix indépendants de l’être humain pour atteindre l’objectif fixé ». « Face aux prodiges des machines qui semblent capables de choisir de manière autonome, nous devons être clairs sur le fait que la décision doit toujours être laissée à l’être humain, même dans une tournure dramatique et urgente avec laquelle elle se présente parfois dans nos vies… Nous devons garantir et protéger un espace de contrôle humain significatif sur le processus de choix des programmes d’intelligence artificielle…, la dignité humaine elle-même en dépend ». Ainsi, « il est indispensable d’interdire l’usage des « armes autonomes létales ». Le pape François pointe le danger que le bon usage de l’intelligence artificielle « ne soit pas entièrement sous le contrôle des utitisateurs et des programmateurs qui en ont défini les visées originelles au moment de la conception ». Le pape pointe les dangers de programmes dépendant de données biaisées. Il pointe les dangers d’une sophistication croissante dont la maitrise échappe aux programmateurs eux-mêmes. Enfin, le pape traite de l’apport de l’intelligence artificielle à l’accès à la connaissance. Cet apport parait impressionnant. Cependant « l’intelligence artificielle, au sens strict, n’est pas vraiment « générative ». En effet, cette dernière recherche dans les big data des informations et elle conditionne dans le style qui lui est demandé. Elle ne développe pas de nouveaux concepts et de nouvelles analyses. Elle répète ce qu’elle trouve… Et plus une notion ou une hypothèse est répétée, plus elle la considère comme légitime et valable. Plutôt que « générative », elle est donc « renforcatrice » … Cela risque non seulement de légitimer les « fake News » et de renforcer le poids de la culture dominante, mais aussi de saper le processus éducatif ‘in nuce’.
Le pape François constate que l’expansion de l’intelligence artificielle intervient à une époque où la société est divisée et court le risque de perdre le sens de la dignité humaine. « Nous ne pouvons pas occulter le risque concret, puisqu’il est inhérent à son mécanisme fondamental, que l’intelligence artificielle limite la vision du monde à des réalités exprimables en chiffres et enfermées dans des catégories préconçues… Le paradigme technologique incarné par l’intelligence artificielle risque alors de céder la place à un paradigme bien plus dangereux, que j’ai déjà identifié sous le nom de « paradigme technocratique ». Au contraire, nous devons faire de l’intelligence artificielle un rempart contre son expansion. Et c’est précisément là que l’action politique est urgente comme le rappelle l’encyclique Fratelli Tutti… ».