Cité du Vatican — Le pape Léon XIV a appelé lundi à ce que la loi stricte de l’intelligence artificielle et de ses développeurs travaille pour le bien de tous plutôt que pour le profit, et a fait une grande démonstration sur la protection de l’humanité car la technologie affecte tout, du travail à la guerre.
« Magnifica Humanitas » (L’humanité magnifique), le premier livre de Leo, est très attendu depuis que le premier pape né aux États-Unis a annoncé quelques jours après son élection que l’IA était le plus grand défi auquel l’humanité est confrontée aujourd’hui.
Dans l’article, Leo a critiqué la « culture du pouvoir » qui anime la communauté de l’IA, notamment pour développer des méthodes de guerre à distance hautement intelligentes. Il a déclaré qu’il était “inacceptable” de prendre des décisions arbitraires et fatales contre les systèmes d’IA, créant ainsi une nouvelle marque entre le pape américain et l’administration Trump, qui a travaillé dur pour supprimer le développement de l’IA.
“Le renseignement demande maintenant à être désarmé, à se libérer des idées qui se transforment en instruments de pouvoir, de destruction et de mort”, a déclaré le pape lors d’une présentation spéciale au Vatican sur le livre, l’un des types de documents pédagogiques les plus influents que le pape puisse publier.
Des experts de l’industrie technologique, du monde universitaire et de la morale catholique ont déclaré que le document pourrait devenir un jalon dans le débat sur l’IA, un point de référence pour les décideurs politiques, les chercheurs et les citoyens du monde entier. Cela survient alors que les développements technologiques quasi quotidiens suscitent des inquiétudes quant au remplacement du travail et de l’intelligence humains par l’IA.
Taylor Black, directeur de l’IA de Microsoft et directeur de l’institut d’IA de l’Université catholique d’Amérique, a déclaré que l’article forcerait les gens « devant ces appareils » à se poser des questions telles que « Que signifie être humain ?
Le lancement du Vatican comprenait également des commentaires du fondateur d’Anthropic, qui est impliqué dans une bataille juridique avec l’administration Trump concernant l’accès à sa technologie d’IA. Le Vatican a décidé d’embaucher Anthropic dans le cadre de ses efforts déployés depuis une décennie pour impliquer la Silicon Valley dans le débat sur le capital humain pour l’IA.
Dans son article, Leo continue de dénoncer la concentration du pouvoir et des données entre les mains de quelques-uns dans le secteur privé comme un problème, en particulier pour les enfants et les personnes vulnérables, et appelle à l’illégalité de leurs activités.
“Il ne suffit pas d’énoncer les règles du secteur ; il faut des cadres juridiques solides, une surveillance spéciale, des utilisateurs informés et un système politique qui ne nie pas sa responsabilité”, a-t-il écrit. “Une IA morale ne suffira pas si elle est décidée par quelques-uns.”
Leo a appelé les développeurs d’IA et les dirigeants politiques à se responsabiliser, à ralentir et à réfléchir à leurs actions. Il les a encouragés à utiliser des directives éthiques et spirituelles pour choisir de travailler non pas pour leur propre bénéfice et leur propre pouvoir, mais pour le bien de l’humanité.
Les concurrents de l’IA, OpenAI et Anthropic, sont les deuxième et troisième plus grandes entreprises privées aux États-Unis, valant chacune des centaines de milliards de dollars, soit plus que le PIB de nombreux pays. Les deux sociétés font face à des introductions en bourse d’une valeur de près d’un milliard de dollars.
Le fondateur d’Anthropic, Christopher Olah, a salué les critiques et les inquiétudes de Leo. Il a déclaré que la surveillance externe est importante pour une technologie « bonne » pour les humains, car le risque est élevé : « il existe une possibilité réelle que l’IA remplace l’activité humaine à un niveau très élevé ».
“Nous avons besoin que le reste du monde – les communautés religieuses, les sociétés civiles, les universitaires, les gouvernements – fassent ce que Sa Sainteté a fait ici : prendre cela au sérieux, y regarder de près, pour pousser les événements dans une direction positive”, a déclaré Olah. “Nous avons besoin de voix morales que la coercition ne peut pas plier.”
Dans un document formel, le pape mathématicien retrace l’histoire de l’enseignement social de l’Église catholique et applique ses principes clés – justice, solidarité, droit au travail et objectif des ressources mondiales – à la révolution numérique.
“Je suis sûr que ce sera un document déterminant de notre époque, un document profond et prophétique”, a déclaré Paolo Carozza, professeur de droit à la faculté de droit de Notre Dame et président du Meta Board of Reviewers.
“Le pape Léon nous envoie une voix claire, complète et faisant autorité qui nous encourage à assumer la responsabilité de créer un monde où la technologie sert les gens, plutôt que de les diminuer”, a-t-il déclaré.
Dans les chapitres percutants de l’article, Leo a critiqué la manière dont l’IA peut contribuer à accélérer la « remédiation de la guerre » en réduisant les coûts pour les gens. Il n’a pas cité de conflits spécifiques, mais a mentionné “des impérialismes opposés, entre les puissances qui veulent maintenir leur souveraineté et celles qui cherchent à s’emparer de cette souveraineté”.
Il a appelé à la transparence et à la responsabilité de la part des développeurs d’IA afin que la chaîne de commandement et le processus décisionnel concernant les commandes d’armes et les armes d’IA soient pleinement compris. Il a déclaré que la doctrine de la « guerre juste » de l’Église catholique, qui fournit des critères spécifiques pour déterminer dans quels cas la force est justifiée, a désormais été « piétinée » par les progrès technologiques en matière de guerre.
Léon a signé le document le 15 mai, jour du 135e anniversaire de la publication de “Rerum Novarum” (Des choses nouvelles), le document pédagogique le plus important du héros et homonyme de Léon, le pape Léon XIII. Cet article traitait des droits des travailleurs, des limites du capital et des obligations auxquelles les employeurs et les employés sont confrontés pendant la révolution industrielle.
Cela devient le fondement de la nouvelle pensée sociale catholique, et le pape actuel a déclaré au début de son pontificat à propos de la révolution de l’IA qu’il pensait que les mêmes questions avaient été soulevées par la révolution industrielle il y a un siècle. “Magnifica Humanitas” devient un nouveau chapitre dans l’histoire des papes qui adaptent “Rerum Novarum” aux questions socio-économiques de leur temps, souvent basées sur le pouvoir du travail pour la croissance humaine.
L’IA suscite des craintes et des visions mondiales au milieu d’un débat âprement débattu sur la question de savoir si elle deviendra un investissement qui enrichira l’humanité ou un poison technologique qui émoussera l’intelligence humaine tout en éliminant des millions d’emplois bien rémunérés.
“La recherche de plus grands profits ne peut pas conduire à des choix qui tuent le travail, parce que les gens sont la fin, pas le chemin, et l’économie doit toujours être sous le contrôle et l’efficacité humains”, a déclaré Leo.
Les responsables du Vatican ont refusé de dire qui avait accès au journal de Léon. Mais le Vatican et les dirigeants de l’Église sont engagés dans un dialogue avec les entreprises technologiques de la Silicon Valley depuis une décennie.
La décision d’inclure Anthropic dans le lancement du Vatican a été critiquée par certains qui ont déclaré qu’il s’agissait d’un signe papal de l’approbation de l’industrie de l’IA, qui défie l’administration Trump après avoir ordonné à toutes les agences américaines de cesser d’utiliser la technologie Anthropic pour son refus d’autoriser une utilisation sans restriction par l’armée américaine.
Brian Boyd, le coordinateur religieux américain du Future of Life Institute, a annoncé l’inclusion du co-fondateur d’Anthropic, Olah, comme signe de son excellence dans le domaine et comme audience avec le pape et le chef de l’État : pas de soutien.
Anthropic est une “grande entreprise qui assume un gros problème et une grande responsabilité”, a déclaré Boyd, ajoutant que l’entreprise a “fait preuve de beaucoup de bonne volonté, d’honnêteté et d’une volonté de parler”.
Winfield, Huamani et Santalucia écrivent pour Associated Press. Winfield a parlé depuis Middletown, Connecticut, et Huamani a parlé depuis Los Angeles. Les rédacteurs d’Associated Press Kelvin Chan à Londres et Colleen Barry à Milan ont contribué à ce rapport.
