François de A à Z
Intelligence artificlelle - Algorithme
2020
28 février 2020 – Discours du Pape François aux membres de l’Académie Pontificale pour la Vie
Je vous salue cordialement à l’occasion de l’assemblée générale de l’Académie pontificale pour la vie et je remercie Mgr Paglia pour ses aimables paroles. Je remercie de leur présence le président du Parlement européen, le directeur général de la FAO, ainsi que les autres autorités et personnalités du domaine de la technologie informatique. Je salue, en outre, les personnes qui prennent part à la rencontre de l’auditorium de la Conciliation et je me réjouis de la présence nombreuse également de jeunes: c’est un signe d’espérance.
Les thèmes que vous avez affrontés au cours de ces journées concernent l’un des changements les plus importants qui caractérisent le monde d’aujourd’hui. Nous pourrions même dire que la «galaxie numérique», et en particulier ce que l’on appelle l’«intelligence artificielle», se trouve précisément au c½ur du changement historique que nous traversons. L’innovation numérique, en effet, touche tous les aspects de la vie, tant personnels que sociaux. Elle a une influence sur notre façon de comprendre le monde et également nous-mêmes. Elle est toujours plus présente dans l’activité et même dans les décisions humaines, et elle change donc la façon dont nous pensons et agissons. Les décisions, même les plus importantes comme celles dans le domaine médical, économique ou social, sont aujourd’hui le fruit de la volonté humaine et d’une série de contributions algorythmiques. L’acte personnel se trouve donc à un point de convergence entre la contribution proprement humaine et le calcul automatique, de sorte qu’il est toujours plus complexe d’en comprendre l’objet, d’en prévoir les effets et d’en définir les responsabilités.
Certes, l’humanité a déjà vécu dans son histoire des bouleversements profonds comme, par exemple, quand a été introduite la machine à vapeur ou l’électricité, ou l’invention de la presse qui a révolutionné la façon de conserver et de transmettre les informations. Aujourd’hui, la convergence entre les diverses connaissances scientifiques et technologiques a un effet d’amplification et permet d’intervenir sur des phénomènes de grandeur infinitésimale et de portée planétaire, au point de rendre floues des frontières jusqu’à présent considérées comme bien distinctes: entre la matière inorganique et organique, entre le réel et le virtuel, entre des identités stables et des événements en relation constante entre eux.
Sur le plan personnel, l’époque numérique change la perception de l’espace, du temps et du corps. Elle inspire un sens d’expansion de soi qui semble ne plus rencontrer de limites et l’homologation s’affirme comme critère prédominant d’agrégation: reconnaître et apprécier la différence devient toujours plus difficile. Sur le plan socio-économique, les utilisateurs sont souvent réduits à des «consommateurs», asservis à des intérêts privés concentrés entre les mains d’une poignée de personnes. A partir des traces numériques disséminées sur internet, les algorythmes extraient des données qui permettent de contrôler les habitudes mentales et relationnelles, à des fins commerciales ou politiques, souvent à notre insu. Cette asymétrie, selon laquelle quelques personnes savent tout de nous, tandis que nous ne savons rien d’elles, endorment la pensée critique et l’exercice conscient de la liberté. Les inégalités s’amplifient de façon démesurée, la connaissance et la richesse s’accumulent entre les mains de quelques-uns, avec de graves risques pour les sociétés démocratiques. Ces dangers ne doivent toutefois pas nous cacher les grandes potentialités que nous offrent les nouvelles technologies. Nous sommes face à un don de Dieu, c’es-à-dire une ressource qui peut apporter des fruits de bien.
Les thèmes dont votre académie s’est occupée dès sa création se présentent eux aussi aujourd’hui de façon nouvelle. Les sciences biologiques utilisent toujours plus largement les dispositifs rendus disponibles par l’«intelligence artificielle». Ce développement conduit à des mutations profondes dans la façon d’interpréter et de gérer les êtres vivants et les caractéristiques propres de la vie humaine, qu’il est de notre devoir de protéger et de promouvoir, non seulement dans sa dimension biologique constitutive, mais également dans sa qualité biographique incontournable. La corrélation et l’intégration entre la vie vivante et la vie vécue ne peuvent être éliminées au profit d’un simple calcul idéologique des prestations fonctionnelles et des coûts supportables. Les interrogations éthiques qui découlent de la façon dont les nouveaux dispositifs peuvent — précisément — «disposer» de la naissance et du destin des personnes exigent un engagement renouvelé en vue de la qualité humaine de toute l’histoire communautaire de la vie.
Je suis donc reconnaissant à l’Académie pontificale pour la vie du chemin qu’elle a entrepris en développant une réflexion sérieuse, qui a favorisé le dialogue entre des disciplines scientifiques différentes et indispensables pour affronter des phénomènes aussi complexes.
Je remarque avec satisfaction que la rencontre de cette année voit la présence de personnes qui ont des rôles importants et différents de responsabilités internationales sur le plan scientifique, industriel et politique. J’en suis heureux et je vous en remercie. En tant que croyants, en effet, nous avons des notions déjà prédéterminées avec lesquelles répondre aux questions inédites que l’histoire nous pose aujourd’hui. Notre devoir est en revanche de marcher avec les autres, en s’écoutant avec attention et en mettant en relation l’expérience et la réflexion. Nous devons nous laisser interpeller en tant que croyants, afin que la Parole et la Tradition de la foi nous aident à interpréter les phénomènes de notre monde, en identifiant des chemins d’humanisation, et donc d’évangélisation bienveillante, à parcourir ensemble. Ainsi, nous pourrons dialoguer de façon profitable avec tous ceux qui sont à la recherche du développement humain, en maintenant au centre de la connaissance et des pratiques sociales la personne dans toutes ses dimensions, y compris celles spirituelles. Nous sommes face à un devoir qui touche la famille humaine dans son ensemble.
A lumière de ce qui a été dit, la simple éducation à l’utilisation correcte des nouvelles technologies ne suffit pas: en effet, ce ne sont pas des instruments «neutres» parce que, comme nous l’avons vu, ils façonnent le monde et engagent les consciences sur le plan des valeurs. Une action éducative plus ample est nécessaire. Il faut développer des motivations fortes pour persévérer dans la recherche du bien commun, même lorsque n’en découle pas un profit immédiat. Il existe une dimension politique dans la production et dans l’utilisation de ce que l’on appelle l’«intelligence artificielle», qui ne concerne pas seulement la distribution de ses avantages individuels et abstraitement fonctionnels. En d’autres termes: il ne suffit pas simplement de nous fier à la sensibilité morale de ceux qui font des recherches et projettent des dispositifs et des algorythmes; il faut en revanche créer des corps sociaux intermédiaires qui garantissent une représentation de la sensibilité éthique des utilisateurs et des éducateurs.
Il existe de nombreuses compétences qui interviennent dans le processus d’élaboration des dispositifs technologiques (recherche, conception, production, distribution, utilisation personnelle et collective), et chacune comporte une responsabilité spécifique. On entrevoit une nouvelle frontière que nous pourrions appeler «algor-éthique» (cf. Discours aux participants au Congrès «Child Dignity in the Digital World», 14 novembre 2019). Celle-ci entend assurer une vérification compétente et partagée des processus selon lesquels s’intègrent les relations entre les êtres humains et les machines de notre époque. Dans la recherche commune de ces objectifs, les principes de la Doctrine sociale de l’Eglise offrent une contribution décisive: dignité de la personne, justice, subsidiarité et solidarité. Ceux-ci expriment l’engagement de se mettre au service de chaque personne dans son intégralité et de toutes les personnes, sans discriminations ni exclusions. Mais la complexité du monde technologique exige de nous une élaboration éthique plus complexe, pour rendre cet engagement réellement incisif.
L’«algor-éthique» pourra être un pont pour faire en sorte que les principes s’inscrivent concrètement dans les technologies numériques, à travers un dialogue transdisciplinaire efficace. En outre, dans la rencontre entre diverses visions du monde, les droits humains constituent un important point de convergence pour la recherche d’un terrain commun. En outre, en ce moment, une réflexion actualisée sur les droits et les devoirs dans ce domaine semble nécessaire. En effet, la profondeur et l’accélération des transformations de l’ère numérique soulèvent des problématiques inattendues, qui imposent de nouvelles conditions à l’ethos individuel et collectif. Il est certain que l’appel que vous avez signé aujourd’hui est un pas important dans cette direction, avec les trois coordonnées fondamentales sur lesquelles marcher: l’éthique, l’éducation et le droit.
Chers amis, je vous exprime mon soutien pour la générosité et le dynamisme avec lesquels vous vous êtes engagés à lancer un programme de réflexion si difficile et courageux. Je vous invite à le poursuivre avec audace et discernement, à la recherche des voies pour une participation toujours plus ample de tous ceux qui ont à c½ur le bien de la famille humaine. J’invoque sur vous la bénédiction de Dieu, afin que votre chemin puisse se dérouler dans la sérénité et la paix, dans un esprit de collaboration. Que la Vierge Mère vous assiste et que ma bénédiction vous accompagne. Et, s’il vous plaît, n’oubliez pas de prier pour moi. Merci.
2023
27 mars 2023 – Discours du Pape François à la rencontre des « Minerva Dialogues »
Bienvenue à vous tous, qui êtes réunis à Rome pour votre rencontre annuelle. Celle-ci réunit des experts du monde de la technologie — scientifiques, ingénieurs, chefs d'entreprise, juristes et philosophes — avec des représentants de l'Eglise — officials de Curie, théologiens et moralistes —, dans le but de favoriser une plus grande conscience et de considérer l'impact social et culturel des technologies numériques, en particulier de l'intelligence artificielle. J'apprécie beaucoup ce chemin de dialogue, qui, ces dernières années, a permis de partager des contributions et des intuitions et de tirer profit de la sagesse des autres. Votre présence témoigne de votre engagement à garantir une confrontation sérieuse et inclusive au niveau mondial sur l'utilisation responsable de ces technologies, une confrontation ouverte aux valeurs religieuses. Je suis convaincu que le dialogue entre croyants et non- croyants sur les questions fondamentales de l'éthique, de la science et de l'art, et sur la recherche de la signification de la vie, est une voie pour la construction de la paix et pour le développement humain intégral.
La technologie est d’une grande aide pour l’humanité. Pensez aux innombrables progrès dans les domaines de la médecine, de l’ingénierie et des communications (cf. Enc. Laudato si’, n. 102). Et tandis que nous reconnaissons les bienfaits de la science et de la technique, nous y voyons une preuve de la créativité de l'être humain et aussi de la noblesse de sa vocation à participer de manière responsable à l'action créative de Dieu (cf. ibid., n. 131).
Dans cette perspective, je pense, et nous ne pouvons pas l’écarter, que le développement de l’intelligence artificielle et de l’apprentissage automatique a le potentiel d’apporter une contribution bénéfique à l’avenir de l’humanité. Je suis toutefois convaincu que ce potentiel ne sera réalisé que si ceux qui développent les technologies font preuve d'une volonté cohérente d'agir de manière éthique et responsable. A cet égard, l’engagement de nombreuses personnes travaillant dans ces domaines pour garantir que la technologie soit centrée sur l’homme, fondée sur des bases éthiques dans la conception et orientée vers le bien, est encourageant. Je me réjouis qu’un consensus se soit dégagé pour que les processus de développement respectent des valeurs telles que l’inclusion, la transparence, la sécurité, l’équité, la confidentialité et la fiabilité. Je salue également les efforts déployés par les organisations internationales pour réglementer ces technologies, afin qu'elles promeuvent un véritable progrès, c'est-à-dire qu'elles contribuent à un monde meilleur et à une qualité de vie intégralement supérieure (cf. ibid., n. 194).
Il ne sera pas facile de parvenir à un accord dans ces domaines. En effet, « l’immense progrès technologique n’a pas été accompagné d’un développement de l’être humain en responsabilité, en valeurs, en conscience » (cf. ibid., n. 105). En outre, le monde actuel est caractérisé par une grande diversité de systèmes politiques, de cultures, de traditions, de conceptions philosophiques et éthiques et de croyances religieuses. Les débats sont de plus en plus polarisés et, en l'absence de confiance et d'une vision partagée de ce qui rend la vie digne, les débats publics risquent d'être polémiques et inconcluants.
Seul un dialogue inclusif, dans lequel les personnes cherchent ensemble la vérité, peut faire émerger un véritable consensus ; et cela peut se faire si l'on partage la conviction que «dans la réalité même de l'être humain et de la société [...] il y a une série de structures de base qui soutiennent leur développement et leur survie» (Enc. Fratelli tutti, n. 212). La valeur fondamentale que nous devons reconnaître et promouvoir est celle de la dignité de la personne humaine (cf. ibid., n. 213). Je vous invite donc, dans vos délibérations, à faire de la dignité intrinsèque de chaque homme et de chaque femme le critère-clé dans l'évaluation des technologies émergentes, qui révèlent leur positivité éthique dans la mesure où elles aident à manifester cette dignité et à en accroître l'expression, à tous les niveaux de la vie humaine.
Je suis préoccupé par le fait que les données recueillies jusqu'à présent semblent indiquer que les technologies numériques ont contribué à accroître les inégalités dans le monde. Non seulement les différences de richesse matérielle, qui sont importantes, mais aussi celles d'accès à l'influence politique et sociale. Demandons-nous : nos institutions nationales et internationales sont-elles en mesure de tenir les entreprises technologiques responsables de l’impact social et culturel de leurs produits ? Y a-t-il un risque que la hausse des inégalités compromette notre sens de la solidarité humaine et sociale ? Pourrions-nous perdre notre sens du destin commun ? En réalité, notre objectif est que la croissance de l'innovation scientifique et technologique aille de pair avec une plus grande égalité et une plus grande inclusion sociale (cf. Message vidéo à la conférence TED de Vancouver, 26 avril 2017).
Ce problème de l'inégalité peut être aggravé par une fausse conception de la méritocratie qui mine la notion de dignité humaine. La reconnaissance et la récompense du mérite et de l'effort humain ont un fondement, mais il y a le risque de concevoir l'avantage économique de quelques-uns comme gagné ou mérité, alors que la pauvreté de tant est considérée, en un sens, comme de leur faute. Cette approche sous-estime les inégalités de départ entre les individus en termes de richesse, d'opportunités éducatives et de liens sociaux, et traite le privilège et l'avantage comme des acquis personnels. Par conséquent — en termes schématiques — si la pauvreté est la faute des pauvres, les riches sont dispensés de faire quelque chose (cf. Discours au monde du travail, Gênes, 27 mai 2017).
Le concept de dignité humaine — et là est le centre — nous impose de reconnaître et de respecter le fait que la valeur fondamentale d'une personne ne peut être mesurée par un ensemble de données. Dans les processus décisionnels sociaux et économiques, nous devons être prudents en confiant les jugements à des algorithmes qui traitent des données collectées, souvent de manière subreptice, sur les individus et leurs caractéristiques et comportements passés. Ces données peuvent être contaminées par des préjugés et des préjugés sociaux. D'autant plus que le comportement passé d'un individu ne devrait pas être utilisé pour lui refuser l'opportunité de changer, de croître et de contribuer à la société. Nous ne pouvons pas permettre que les algorithmes limitent ou conditionnent le respect de la dignité humaine, ni qu'ils excluent la compassion, la miséricorde, le pardon et, surtout, l'ouverture à l'espérance d'un changement de la personne.
Chers amis, je conclurai en réitérant ma conviction que seules des formes de dialogue véritablement inclusives peuvent permettre de discerner avec sagesse comment mettre l’intelligence artificielle et les technologies numériques au service de la famille humaine. L'histoire biblique de la Tour de Babel (cf. Gn 11) a souvent été utilisée pour mettre en garde contre les ambitions excessives de la science et de la technologie. En réalité, l'Ecriture nous met en garde contre la fierté de vouloir « toucher le ciel » (v. 4), c'est-à-dire saisir et nous emparer de l'horizon de valeurs qui identifie et garantit notre dignité humaine. Et toujours, dans ce cas on fait face à une grave injustice dans la société. Dans le mythe de la Tour de Babel, faire une brique est difficile : la boue, la paille, mélanger, puis cuire... Quand une brique tombait cela représentait une grande perte ; beaucoup se plaignaient : « Nous avons perdu une brique ». Si un ouvrier tombait, personne ne disait rien. Cela doit nous faire réfléchir : qu'est-ce qui est le plus important ? La brique ou l'homme ou la femme qui travaille ? C'est une distinction qui doit nous faire réfléchir. Et après la Tour de Babel, la création consécutive de langues différentes devient, comme toute intervention de Dieu, une nouvelle possibilité. Elle nous invite à considérer la différence et la diversité comme une richesse, parce que l'uniformité ne laisse pas croître, l'uniformité impose. Seule une certaine uniformité disciplinaire est bonne — peut-être — mais celle imposée est mauvaise. Le manque de diversité est un manque de richesse, parce que la diversité nous oblige à apprendre ensemble les uns des autres et à redécouvrir avec humilité le sens authentique et la portée de notre dignité humaine. N'oublions pas que les différences stimulent la créativité, « créent des tensions et dans la résolution d'une tension consiste le progrès de l’humanité » (cf. Enc. Fratelli tutti, n. 203), lorsque les tensions se résolvent à un niveau supérieur, qui n'anéantit pas les pôles en tension mais les fait mûrir.
Je forme les meilleurs v½ux pour vos dialogues et vous remercie de votre engagement à écouter et à grandir dans la compréhension de la contribution de chacun. Je vous bénis et je vous demande de prier pour moi. Merci.
2024
MESSAGE
DE SA SAINTETÉ
FRANÇOIS
POUR LA 57ème
JOURNÉE MONDIALE DE LA PAIX
1er JANVIER 2024
Intelligence artificielle et paix
En ce début de la nouvelle année, temps de grâce que le Seigneur accorde à chacun d’entre nous, je voudrais m’adresser au Peuple de Dieu, aux nations, aux chefs d’État et de Gouvernement, aux représentants des différentes religions et de la société civile, ainsi qu’à tous les hommes et femmes de notre temps, pour leur présenter mes meilleurs v½ux de paix.
1. Le progrès de la science et de la technologie comme chemin vers la paix
L’Écriture Sainte témoigne que Dieu a donné aux hommes son Esprit pour qu’ils aient « la sagesse, l’intelligence et la connaissance de toutes sortes de travaux » (Ex 35, 31). L’intelligence est l’expression de la dignité que nous a donnée le Créateur qui nous a créés à son image et à sa ressemblance (cf. Gn 1, 26) et nous a permis de répondre à son amour par la liberté et la connaissance. La science et la technologie manifestent de manière particulière cette qualité fondamentalement relationnelle de l’intelligence humaine : elles sont des produits extraordinaires de son potentiel créatif.
Dans la Constitution pastorale Gaudium et Spes, le Concile Vatican II a réaffirmé cette vérité en déclarant que « par son travail et son ingéniosité, l’homme a toujours cherché à développer sa propre vie ». [1] Lorsque les êtres humains, « avec l’aide de la technologie », s’efforcent de faire de la terre « une demeure digne de toute la famille humaine », [2] ils agissent selon le plan de Dieu et coopèrent à sa volonté de porter à son achèvement la création et de répandre la paix parmi les peuples. De même, le progrès des sciences et des techniques, dans la mesure où il contribue à un meilleur ordonnancement de la société humaine, à l’accroissement de la liberté et de la communion fraternelle, conduit à l’amélioration de l’homme et à la transformation du monde.
Nous nous réjouissons à juste titre et nous sommes reconnaissants pour les extraordinaires avancées de la science et de la technologie, grâce auxquelles d’innombrables maux qui affligeaient la vie humaine et causaient de grandes souffrances ont été corrigés. En même temps, les progrès techniques et scientifiques, en permettant l’exercice d’un contrôle sans précédent sur la réalité, mettent entre les mains de l’homme un vaste éventail de possibilités, dont certaines peuvent constituer un risque pour la survie de l’humanité et un danger pour la maison commune. [3]
Les remarquables progrès des nouvelles technologies de l’information, en particulier dans la sphère numérique, présentent des opportunités enthousiasmantes et des risques graves, avec de sérieuses implications pour la poursuite de la justice et de l’harmonie entre les peuples. C’est pourquoi il est nécessaire de se poser certaines questions urgentes. Quelles seront les conséquences à moyen et à long terme des nouvelles technologies numériques? Quel sera leur impact sur la vie des individus et de la société, sur la stabilité internationale et sur la paix?
2. L’avenir de l’intelligence artificielle : entre promesses et risques
Les progrès en informatique et le développement des technologies numériques au cours des dernières décennies ont déjà commencé à provoquer de profondes transformations dans la société dans son ensemble, et dans ses dynamiques. Les nouveaux outils numériques changent le visage des communications, de l’administration publique, de l’enseignement, de la consommation, des interactions personnelles et d’innombrables autres aspects de la vie quotidienne.
En outre, les technologies employant une multiplicité d’algorithmes peuvent extraire, à partir des traces numériques laissées sur Internet, des données qui permettent de contrôler les habitudes mentales et relationnelles des personnes, souvent à leur insu, à des fins commerciales ou politiques, en limitant l’exercice conscient de leur liberté de choix. En effet, sur un espace comme la toile, caractérisé par une surcharge d’informations, elles peuvent structurer le flux des données selon des critères de sélection qui ne sont pas toujours perçus par l’utilisateur.
Nous devons rappeler que la recherche scientifique et les innovations technologiques ne sont ni désincarnées de la réalité ni « neutres », [4] mais qu’elles sont soumises à des influences culturelles. En tant qu’activités pleinement humaines, les orientations qu’elles prennent reflètent des choix conditionnés par des valeurs personnelles, sociales et culturelles propres à chaque époque. Il en va de même pour les résultats obtenus : précisément parce qu’ils sont le fruit d’approches spécifiquement humaines du monde qui les entoure, ils ont toujours une dimension éthique, étroitement liée aux décisions de ceux qui conçoivent l’expérimentation et orientent la production vers des objectifs particuliers.
Il en va de même pour les formes d'intelligence artificielle. Il n’en existe pas à ce jour de définition univoque dans le monde de la science et de la technologie. Le terme lui-même, désormais entré dans le langage courant, englobe une variété de sciences, de théories et de techniques visant à ce que les machines reproduisent ou imitent, dans leur fonctionnement, les capacités cognitives de l'être humain. Parler au pluriel de “formes d'intelligence” permet surtout de souligner le fossé infranchissable qui existe entre ces systèmes, aussi étonnants et puissants soient-ils, et la personne humaine : ils sont en définitive “fragmentaires”, en ce sens qu'ils ne peuvent qu’imiter ou reproduire certaines fonctions de l'intelligence humaine. L’utilisationdu pluriel souligneque ces dispositifs très différents entre eux doivent toujours être considérés comme des “systèmes sociotechniques”. En effet, leur impact, quelle que soit la technologiesous-jacente, dépend non seulement de leur conception, mais aussi des objectifs et des intérêts de ceux qui les possèdent et de ceux qui les développent, ainsi que des situations dans lesquelles ils sont utilisés.
L'intelligence artificielle doit donc être comprise comme une galaxie de réalités différenteset nous ne pouvons pas supposer a priori que son développement contribuera de manière bénéfique à l'avenir de l'humanité et à la paix entre les peuples. Un tel résultat positif ne sera possible que si nous nous montrons capables d'agir de manière responsable et de respecter les valeurs humaines fondamentales telles que « l’inclusion, la transparence, la sécurité, l’équité, la confidentialité et la fiabilité ». [5]
Il ne suffit pas non plus de supposer que ceux qui conçoivent les algorithmes et les technologies numériques s'engagent à agir de manière éthique et responsable. Des organismes doivent être renforcés ou, si nécessaire, créés pour examiner les questions éthiques émergentes et protéger les droits de ceux qui utilisent les formes d’intelligence artificielle ou sont influencés par elles. [6]
L'immense expansion de la technologie doit donc s'accompagner d'une formation appropriée à la responsabilité dans son développement. La liberté et la coexistence pacifique sont menacées lorsque les êtres humains succombent à la tentation de l'égoïsme, de l'intérêt personnel, de l'appât du gain et de la soif de pouvoir. Nous avons donc le devoir d'élargir notre regard et d'orienter la recherche technico-scientifique vers la paix et le bien commun, pour le service du développement intégral de l'homme et de la communauté. [7]
La dignité intrinsèque de chaque personne et la fraternité qui nous lient en tant que membres de l'unique famille humaine doivent rester à la base du développement des nouvelles technologies et servir de critères indiscutables pour les évaluer avant leur utilisation, afin que le progrès numérique se fasse dans le respect de la justice et contribue à la cause de la paix. Les développements technologiques qui ne conduisent pas à une amélioration de la qualité de vie de l'ensemble de l'humanité, mais qui au contraire exacerbent les inégalités et les conflits, ne pourront jamais être considérés comme un véritable progrès. [8]
L'intelligence artificielle va devenir de plus en plus importante. Les défis qu'elle pose sont techniques, mais aussi anthropologiques, éducatifs, sociaux et politiques. Elle promet, par exemple, des économies de main-d'½uvre, une production plus efficace, des transports plus faciles et des marchés plus dynamiques, ainsi qu'une révolution dans les processus de collecte, d'organisation et de vérification des données. Nous devons être conscients des transformations rapides en cours et les gérer de manière à sauvegarder les droits humains fondamentaux, en respectant les institutions et les lois qui favorisent le développement humain intégral. L'intelligence artificielle doit servir le potentiel humain le meilleur ainsi que nos aspirations les plus élevées, et non les concurrencer.
3. La technologie du futur : des machines qui apprennent par elles-mêmes
Sous ses diverses formes, l’intelligence artificielle, basée sur des techniques d’apprentissage automatique (machine learning), bien qu’elle en soit encore à son stade initial, introduit déjà des changements significatifs dans le tissu des sociétés, exerçant une influence profonde sur les cultures, les comportements sociaux et la construction de la paix.
Des développements tels que l’apprentissage automatique ou l’apprentissage en profondeur (deep learning) soulèvent des questions qui dépassent les domaines de la technologie et de l’ingénierie et ont trait à une compréhension étroitement liée au sens de la vie humaine, aux processus fondamentaux de la connaissance et à la capacité de l’esprit à atteindre la vérité.
La capacité de certains appareils à produire des textes syntaxiquement et sémantiquement cohérents, par exemple, n’est pas une garantie de fiabilité. On dit qu’ils peuvent “halluciner”, c’est-à-dire générer des affirmations qui semblent à première vue plausibles, mais qui sont en fait infondées ou qui trahissent des préjugés. Cela pose un sérieux problème lorsque l’intelligence artificielle est utilisée dans des campagnes de désinformation qui diffusent des nouvelles fausses et entraînent une méfiance croissante à l’égard des moyens de communication. La confidentialité, la propriété des données et la propriété intellectuelle sont d’autres domaines dans lesquels ces technologies présentent des risques graves, auxquels s’ajoutent d’autres conséquences négatives liées à leur mauvaise utilisation, telles que la discrimination, l’ingérence dans les processus électoraux, la mise en place d’une société qui surveille et contrôle les personnes, l’exclusion numérique et l’exacerbation d’un individualisme de plus en plus déconnecté de la collectivité. Tous ces facteurs risquent d’alimenter les conflits et d’entraver la paix.
4. Le sens de la limite dans le paradigme technocratique
Notre monde est trop vaste, trop diversifié et trop complexe pour être entièrement connu et classifié. L’esprit humain ne pourra jamais en épuiser la richesse, même avec l’aide des algorithmes les plus avancés. Ceux-ci, en effet, ne proposent pas de prévisions garanties de l’avenir, mais seulement des approximations statistiques. Tout ne peut pas être prédit, tout ne peut pas être calculé. En fin de compte, « la réalité est supérieure à l’idée » [9] et, aussi prodigieuse que puisse être notre capacité de calcul, il y aura toujours un résidu inaccessible qui échappera à toute tentative de quantification.
En outre, la grande quantité de données analysées par les intelligences artificielles n’est pas en soi une garantie d’impartialité. Lorsque les algorithmes extrapolent des informations, ils courent toujours le risque de les déformer, reproduisant les injustices et les préjugés des milieux d’où ils proviennent. Plus ils deviennent rapides et complexes, plus il est difficile de comprendre pourquoi ils ont produit un résultat donné.
Les machines intelligentes peuvent accomplir les tâches qui leur sont assignées avec de plus en plus d’efficacité, mais le but et le sens de leurs opérations continueront à être déterminés ou autorisés par des êtres humains ayant leur propre univers de valeurs. Le risque est que les critères qui sous-tendent certains choix deviennent moins clairs, que la responsabilité de la prise de décision soit dissimulée et que les producteurs puissent se soustraire à l’obligation d’agir pour le bien de la communauté. D’une certaine manière, cela est favorisé par le système technocratique, qui allie l’économie à la technologie et privilégie le critère de l’efficacité, tendant à ignorer tout ce qui n’est pas lié à ses intérêts immédiats. [10]
Cela doit nous faire réfléchir sur un aspect très souvent négligé dans la mentalité actuelle, technocratique et recherchant l’efficacité, mais décisif pour le développement personnel et social : le “sens de la limite”. En effet, l’être humain, mortel par définition, pensant dépasser toutes les limites grâce à la technique, risque, dans l’obsession de vouloir tout contrôler, de perdre le contrôle de lui-même ; dans la recherche d’une liberté absolue, de tomber dans la spirale d’une dictature technologique. Reconnaître et accepter ses limites de créature est pour l’homme une condition indispensable pour obtenir, ou mieux accueillir, la plénitude comme un don. Au contraire, dans le contexte idéologique d’un paradigme technocratique, marqué par une présomption prométhéenne d’autosuffisance, les inégalités pourraient croître de manière disproportionnée, le savoir et la richesse s’accumuler dans les mains de quelques-uns, avec de graves risques pour les sociétés démocratiques et la coexistence pacifique. [11]
5. Sujets d’actualité en matière d’éthique
À l’avenir, la fiabilité d’un demandeur de prêt bancaire, l’aptitude d’un individu à un emploi, la possibilité de récidive d’une personne condamnée ou bien le droit à recevoir l’asile politique ou l’aide sociale pourraient être déterminés par des systèmes d’intelligence artificielle. L’absence de divers niveaux de médiation, que ces systèmes présentent, expose particulièrement à des formes de préjugés et de discriminations : les erreurs systémiques peuvent facilement se multiplier, produisant non seulement des injustices dans des cas individuels, mais aussi, par effet domino, de véritables formes d’inégalités sociales.
De plus, les formes d’intelligence artificielle semblent parfois capables d’influencer les décisions des individus par le biais d’options prédéterminées associées à des stimuli et des dissuasions, ou par le biais de systèmes de régulation des choix personnels fondés sur l’organisation des informations. Ces formes de manipulation ou de contrôle social requièrent une attention et une supervision minutieuses et impliquent une responsabilité juridique claire de la part des producteurs, de ceux qui les emploient et des autorités gouvernementales.
Le recours à des processus automatiques qui catégorisent les individus, par exemple par l’utilisation généralisée de la surveillance ou l’adoption de systèmes de crédit social, pourrait également avoir de profondes répercussions sur le tissu de la société, établissant des classements inappropriés entre les citoyens. Ces processus artificiels de classification pourraient également conduire à des conflits de pouvoir, car ils ne concernent pas seulement des destinataires virtuels, mais des personnes en chair et en os. Le respect fondamental de la dignité humaine suppose de refuser que l’unicité de la personne soit identifiée par un ensemble de données. Il ne faut pas permettre aux algorithmes de déterminer la manière dont nous entendons les droits humains, de mettre de côté les valeurs essentielles de compassion, de miséricorde et de pardon, ou d’éliminer la possibilité qu’un individu change et laisse derrière lui le passé.
Dans ce contexte, on ne peut s’empêcher de considérer l’impact des nouvelles technologies dans le domaine du travail : des emplois qui étaient autrefois l’apanage exclusif de la main-d’½uvre humaine sont rapidement absorbés par les applications industrielles de l’intelligence artificielle. Là encore, le risque d’un avantage disproportionné pour quelques-uns au détriment de l’appauvrissement du plus grand nombre est important. Le respect de la dignité des travailleurs et l’importance de l’emploi pour le bien-être économique des personnes, des familles et des sociétés, la sécurité de l’emploi et l’équité des salaires devraient être une priorité absolue pour la Communauté internationale, alors que ces formes de technologies pénètrent de plus en plus profondément sur les lieux de travail.
6. Transformerons-nous les épées en socs ?
En regardant le monde qui nous entoure, on ne peut ces jours-ci échapper aux graves questions éthiques liées au secteur de l’armement. La possibilité de mener des opérations militaires à travers des systèmes de contrôle à distance a conduit à une perception plus faible de la dévastation que ceux-ci causent et de la responsabilité de leur utilisation, contribuant à une approche encore plus froide et détachée de l’immense tragédie de la guerre. La recherche sur les technologies émergentes dans le domaine des “systèmes d’armes létales autonomes”, y compris l’utilisation belliqueuse de l’intelligence artificielle, est un grave sujet de préoccupation éthique. Les systèmes d’armes autonomes ne pourront jamais être des sujets moralement responsables : la capacité humaine exclusive de jugement moral et de décision éthique est plus qu’un ensemble complexe d’algorithmes, et cette capacité ne peut être réduite à la programmation d’une machine qui, bien qu’“intelligente”, reste toujours une machine. C’est pourquoi il est impératif de garantir une supervision humaine adéquate, significative et cohérente des systèmes d’armes.
Nous ne pouvons pas non plus ignorer la possibilité que des armes sophistiquées tombent entre de mauvaises mains, facilitant par exemple des attaques terroristes ou des interventions visant à déstabiliser des institutions gouvernementales légitimes. En somme, le monde n’a pas vraiment besoin que les nouvelles technologies contribuent au développement injuste du marché et du commerce des armes, en promouvant la folie de la guerre. Ce faisant, non seulement l’intelligence, mais le c½ur même de l’homme, court le risque de devenir de plus en plus “artificiel”. Les applications techniques les plus avancées ne doivent pas être utilisées pour faciliter la résolution violente des conflits, mais pour paver les voies de la paix.
Dans une perspective plus positive, si l’intelligence artificielle était utilisée pour promouvoir le développement humain intégral, elle pourrait introduire d’importantes innovations dans l’agriculture, dans l’éducation et dans la culture, une amélioration du niveau de vie de nations et de peuples entiers, la croissance de la fraternité humaine et de l’amitié sociale. En définitive, la façon dont nous l’utilisons pour inclure les derniers, c’est-à-dire les frères et s½urs les plus faibles et les plus nécessiteux, est la mesure révélatrice de notre humanité.
Un regard humain et le désir d’un avenir meilleur pour notre monde conduisent à la nécessité d’un dialogue interdisciplinaire visant à un développement éthique des algorithmes – l ’algor-etica –, où les valeurs orientent les parcours des nouvelles technologies. [12] Les questions éthiques devraient être prises en compte dès le début de la recherche, ainsi que dans les phases d’expérimentation, de conception, de production, de distribution et de commercialisation. Il s’agit d’une approche de l’éthique de la conception, dans laquelle les institutions éducatives et les décideurs ont un rôle essentiel à jouer.
7. Défis pour l’éducation
Le développement d’une technologie qui respecte et serve la dignité humaine a des implications claires pour les institutions éducatives et pour le monde de la culture. En multipliant les possibilités de communication, les technologies numériques nous ont permis de nous rencontrer de manière nouvelle. Toutefois, une réflexion constante reste nécessaire sur le type de rapports vers lesquels nous nous dirigeons. Les jeunes grandissent dans des environnements culturels imprégnés par la technologie et cela ne peut que remettre en cause les méthodes d’enseignement et de formation.
L’éducation à l’utilisation des formes d’intelligence artificielle devrait viser avant tout à promouvoir la pensée critique. Il est nécessaire que les utilisateurs de tout âge, mais surtout les jeunes, développent une capacité de discernement dans l’utilisation des données et contenus recueillis sur la toile ou produits par des systèmes d’intelligence artificielle. Les écoles, les universités et les sociétés savantes sont appelées à aider les étudiants et les professionnels à s’approprier les aspects sociaux et éthiques du développement et de l’utilisation de la technologie.
La formation à l’utilisation des nouveaux outils de communication devrait tenir compte non seulement de la désinformation, des fausses nouvelles, mais aussi de la recrudescence inquiétante de « peurs ancestrales […] qui ont su se cacher et se renforcer derrière les nouvelles technologies ». [13] Malheureusement, une fois de plus, nous devons combattre « la tentation de créer une culture de murs, d’élever des murs empêchant la rencontre avec d’autres cultures, avec d’autres personnes » [14] et le développement d’une coexistence pacifique et fraternelle.
8. Défis pour le développement du droit international
Compte tenu de la portée mondiale de l’intelligence artificielle, il est évident qu’à côté de la responsabilité des États souverains de réglementer son utilisation interne, les Organisations internationales peuvent jouer un rôle décisif dans la conclusion d’accords multilatéraux et dans la coordination de leur application et de leur mise en ½uvre. [15] À cet égard, j’exhorte la Communauté des nations à travailler ensemble afin d’adopter un traité international contraignant qui réglemente le développement et l’utilisation de l’intelligence artificielle sous ses multiples formes. L’objectif de la réglementation, bien sûr, devrait être non seulement la prévention des mauvaises pratiques, mais aussi l’encouragement des bonnes pratiques, en stimulant des approches nouvelles et créatives et en facilitant des initiatives personnelles et collectives. [16]
En fin de compte, dans la recherche de modèles réglementaires qui puissent fournir un guide éthique aux développeurs de technologies numériques, il est indispensable d’identifier les valeurs humaines qui doivent être à la base de l’engagement des sociétés pour formuler, adopter et mettre en ½uvre les cadres législatifs nécessaires. Le travail de rédaction de directives éthiques pour la production de formes d’intelligence artificielle ne peut pas faire abstraction de la prise en compte de questions plus profondes concernant le sens de l’existence humaine, la protection des droits humains fondamentaux, la poursuite de la justice et de la paix. Ce processus de discernement éthique et juridique peut s’avérer être une occasion précieuse pour une réflexion partagée sur le rôle que la technologie devrait avoir dans notre vie individuelle et communautaire, et sur la façon dont son utilisation peut contribuer à la création d’un monde plus équitable et plus humain. C’est pourquoi, dans les débats sur la réglementation de l’intelligence artificielle, il faudrait tenir compte de la voix de toutes les parties prenantes, y compris les pauvres, les marginalisés et d’autres qui restent souvent ignorés dans les processus décisionnels mondiaux.
* * * * *
J’espère que cette réflexion encouragera à faire en sorte que les progrès dans le développement de formes d’intelligence artificielle servent, en dernière analyse, la cause de la fraternité humaine et de la paix. Ce n’est pas la responsabilité d’un petit nombre, mais de toute la famille humaine. La paix, en effet, est le fruit de relations qui reconnaissent et qui accueillent l’autre dans sa dignité inaliénable, ainsi que de la coopération et de l’engagement dans la recherche du développement intégral de toutes les personnes et de tous les peuples.
Ma prière au début de l’année nouvelle est que le développement rapide de formes d’intelligence artificielle n’augmente pas les trop nombreuses inégalités et injustices déjà présentes dans le monde, mais contribue à mettre fin aux guerres et aux conflits, et à soulager les nombreuses formes de souffrance qui affligent la famille humaine. Puissent les fidèles chrétiens, les croyants de différentes religions et les hommes et les femmes de bonne volonté collaborer en harmonie pour saisir les opportunités et affronter les défis posés par la révolution numérique, et livrer aux générations futures un monde plus solidaire, juste et pacifique.
Du Vatican, le 8 décembre 2023
FRANÇOIS
[1] N. 33.
[2] Ibid., n. 57.
[3] Cf. Lett. enc. Laudato si’ (24 mai 2015), n. 104.
[5] Audience aux participants à la rencontre “Minerva Dialogues” (27 mars 2023).
[7] Cf. Message au Président Exécutif du “Forum économique mondial” à Davos-Klosters (12 janvier 2018).
[8] Cf. Lett. enc. Laudato si', n. 194 ; Discours aux participants au Séminaire “Le bien commun à l’ère numérique”(27 septembre 2019).
[9] Exhort. ap. Evangelii gaudium (24 novembre 2013), n. 233.
[10] Cf. Lett. enc. Laudato si’, n. 54.
[11] Cf. Discours aux participants à l’Assemblée Plénière de l’Académie Pontificale pour la Vie (28 février 2020).
[13] Lett. enc. Fratelli tutti (3 octobre 2020), n. 27.
[16] Cf. lett. enc. Laudato si’, n. 177.
-------------------------------------
8 janvier 2024 - Lors des Voeux au Corps Diplomatique accrédité près le Saint-Siège
À notre époque, une partie du défi éducatif concerne l’utilisation éthique des nouvelles technologies. Celles-ci peuvent facilement devenir des instruments de division ou de diffusion de mensonges, les fake news comme on les appelle, mais elles sont aussi un moyen de rencontres, d’échanges mutuels et un important vecteur de paix. « Les remarquables progrès des nouvelles technologies de l’information, en particulier dans la sphère numérique, présentent des opportunités enthousiasmantes et des risques graves, avec de sérieuses implications pour la poursuite de la justice et de l’harmonie entre les peuples ». [13] C’est pourquoi il m’a semblé important de consacrer le Message de la Journée Mondiale de la Paix annuel à l’intelligence artificielle qui constitue l’un des défis les plus importants des années à venir.
Il est indispensable que le développement technologique se fasse de manière éthique et responsable, en préservant la centralité de la personne humaine dont la contribution ne peut et ne pourra jamais être remplacée par un algorithme ou une machine. « La dignité intrinsèque de chaque personne et la fraternité qui nous lient en tant que membres de l’unique famille humaine doivent rester à la base du développement des nouvelles technologies et servir de critères indiscutables pour les évaluer avant leur utilisation, afin que le progrès numérique se fasse dans le respect de la justice et contribue à la cause de la paix ». [14]
Une réflexion approfondie s’impose donc à tous les niveaux, national et international, politique et social, pour que le développement de l’intelligence artificielle reste au service de l’homme, en favorisant et non en entravant, notamment chez les jeunes, les relations interpersonnelles, un sain esprit de fraternité et une pensée critique capable de discernement.
Dans cette perspective, les deux Conférences Diplomatiques de l’Organisation Mondiale de la Propriété Intellectuelle, qui auront lieu en 2024 et auxquelles le Saint-Siège participera en tant qu’État membre, acquièrent une particulière importance. Pour le Saint-Siège, la propriété intellectuelle est essentiellement orientée vers la promotion du bien commun et ne peut s’affranchir de limitations de nature éthique donnant lieu à des situations d’injustice et d’exploitation indue. Une attention particulière doit également être accordée à la protection du patrimoine génétique humain, en empêchant les pratiques contraires à la dignité de l’homme, telles que le brevetage du matériel biologique humain et le clonage des êtres humains.
--------------------------------------------------
24 janvier 2024 - Message pour le 58ème Journée Mondiale des Communications Sociales
Intelligence artificielle et sagesse du c½ur :
pour une communication pleinement humaine
Chers frères et s½urs !
L'évolution des systèmes de ladite “intelligence artificielle”, sur laquelle j’ai déjà réfléchi dans mon récent Message pour la Journée Mondiale de la Paix, est également en train de modifier radicalement l’information et la communication et, à travers elles, certains des fondements de la cohabitation civile. Il s’agit d’un changement qui touche tout le monde, et pas seulement les professionnels. La diffusion accélérée d’inventions étonnantes, dont le fonctionnement et les potentialités sont inconnus de la plupart d’entre nous, suscite une perplexité qui oscille entre enthousiasme et désorientation et nous confronte inévitablement à des questions fondamentales : qu’est-ce donc que l’homme, quelle est sa spécificité et quel sera l’avenir de cette espèce que nous appelons homo sapiens à l’ère des intelligences artificielles ? Comment rester pleinement humain et orienter dans le bon sens la mutation culturelle en cours ?
À partir du c½ur
Il convient tout d’abord de débarrasser le terrain des lectures catastrophistes et de leurs effets paralysants. Il y a un siècle déjà, Romano Guardini, réfléchissant sur la technique et l’homme, nous invitait à ne pas nous raidir contre le “nouveau” pour tenter de « préserver un monde beau condamné à disparaître ». En même temps, il lançait un avertissement prophétique pressant : « Notre place est dans le devenir. Nous devons en faire partie, chacun à sa place (...), en y adhérant honnêtement mais en restant sensibles, avec un c½ur incorruptible, à tout ce qu’il y a de destructeur et de non-humain en lui ». Et de conclure : « Il s’agit, il est vrai, de problèmes d’ordre technique, scientifique, politique ; mais ceux-ci ne peuvent être résolus qu’en partant de l’homme. Il doit se constituer un nouveau type humain, doté d'une spiritualité plus profonde, d’une liberté et d’une intériorité nouvelles ». [1]
Dans cette époque qui risque d’être riche en technique et pauvre en humanité, notre réflexion ne peut partir que du c½ur de l’homme. [2] Ce n’est qu’en nous dotant d’un regard spirituel, en retrouvant une sagesse du c½ur, que nous pouvons lire et interpréter la nouveauté de notre temps et redécouvrir la voie d’une communication pleinement humaine. Le c½ur, entendu bibliquement comme le siège de la liberté et des décisions les plus importantes de la vie, est un symbole d’intégrité, d’unité, mais il évoque aussi les affections, les désirs, les rêves, et il est surtout le lieu intérieur de la rencontre avec Dieu. La sagesse du c½ur est donc cette vertu qui nous permet de tisser ensemble le tout et les parties, les décisions et leurs conséquences, les hauteurs et les fragilités, le passé et l’avenir, le je et le nous.
Cette sagesse du c½ur se laisse trouver par ceux qui la cherchent et se laisse voir par ceux qui l’aiment ; elle devance ceux qui la désirent et va à la recherche de ceux qui en sont dignes (cf. Sg 6, 12-16). Elle est avec ceux qui acceptent les conseils (cf. Pr 13, 10), avec ceux dont le c½ur est docile, un c½ur qui écoute (cf. 1R 3, 9). Elle est un don de l’Esprit Saint, qui permet de voir les choses avec le regard de Dieu, de comprendre les liens, les situations, les événements et d’en découvrir le sens. Sans cette sagesse, l’existence devient insipide, car c’est précisément la sagesse - dont la racine latine sapere la relie à la saveur - qui donne du goût à la vie.
Opportunité et danger
Nous ne pouvons pas attendre cette sagesse des machines. Bien que le terme d’intelligence artificielle ait aujourd’hui supplanté le terme plus correct utilisé dans la littérature scientifique, celui d’apprentissage automatique, l’utilisation même du mot “intelligence” est trompeuse. Les machines possèdent certes une capacité incommensurablement plus grande que l’homme à mémoriser les données et à les relier entre elles, mais c’est à l’homme et à lui seul qu’il revient d’en décrypter le sens. Il ne s’agit donc pas d’exiger que les machines semblent humaines. Il s’agit plutôt de réveiller l’homme de l’hypnose dans laquelle il tombe du fait de son délire de toute-puissance, se croyant un sujet totalement autonome et autoréférentiel, séparé de tout lien social et oublieux de son statut de créature.
En réalité, l’homme a toujours fait l’expérience qu’il ne se suffit pas à lui-même et il tente de surmonter sa vulnérabilité par tous les moyens. Depuis les premiers objets préhistoriques, utilisés comme prolongement des bras, en passant par les médias utilisés comme prolongement de la parole, nous en sommes arrivés aujourd’hui aux machines les plus sophistiquées qui agissent comme une aide à la pensée. Chacune de ces réalités peut cependant être contaminée par la tentation originaire de devenir comme Dieu sans Dieu (cf. Gn 3), c’est-à-dire de vouloir conquérir par ses propres forces ce qui devrait au contraire être accueilli comme un don de Dieu et vécu en relation avec les autres.
Selon l’orientation du c½ur, tout ce qui est entre les mains de l’homme devient opportunité ou danger. Son corps même, créé pour être un lieu de communication et de communion, peut devenir agressif. De même, toute extension technique de l’homme peut être un instrument de service aimant ou de domination hostile. Les systèmes d’intelligence artificielle peuvent contribuer au processus de libération de l’ignorance et faciliter l’échange d’informations entre les différents peuples et générations. Ils peuvent, par exemple, rendre accessible et compréhensible un énorme patrimoine de connaissances écrit dans le passé ou permettre aux gens de communiquer dans des langues qui leur sont inconnues. Mais ils peuvent aussi être des instruments de “pollution cognitive”, d'altération de la réalité par des récits partiellement ou totalement faux qui sont crus - et partagés - comme s’ils étaient vrais. Il suffit de penser au problème de la désinformation, auquel nous sommes confrontés depuis des années sous la forme des “fausses nouvelles” [3] et qui utilise aujourd’hui des “hyper trucages”, c’est-à-dire la création et la diffusion d’images qui semblent parfaitement plausibles mais qui sont fausses (il m'est arrivé aussi d’en être l’objet), ou des messages audio qui utilisent la voix d’une personne pour dire des choses qu’elle n’a jamais dites. La simulation, qui est à la base de ces programmes, peut être utile dans certains domaines spécifiques, mais elle devient perverse lorsqu’elle fausse le rapport à l’autre et à la réalité.
De la première vague d’intelligence artificielle, celle des médias sociaux, nous en avons déjà compris l’ambivalence, évoquant ses opportunités comme ses risques et ses pathologies. Le deuxième niveau des intelligences artificielles génératives marque un saut qualitatif incontestable. Il est donc important de pouvoir comprendre, appréhender et réguler des outils qui, entre de mauvaises mains, pourraient ouvrir des scénarios négatifs. Comme tout ce qui est sorti de l’esprit et des mains de l’homme, les algorithmes ne sont pas neutres. Il est donc nécessaire d’agir de manière préventive, en proposant des modèles de régulation éthique pour limiter les implications néfastes et discriminatoires, socialement injustes, des systèmes d’intelligence artificielle et pour contrer leur utilisation pour la réduction du pluralisme, la polarisation de l'opinion publique ou la construction d’une pensée unique. Je renouvelle donc mon appel en exhortant « la Communauté des nations à travailler ensemble afin d’adopter un traité international contraignant qui réglemente le développement et l’utilisation de l’intelligence artificielle sous ses multiples formes ». [4] Cependant, comme dans tous les domaines humains, la réglementation ne suffit pas.
Grandir en humanité
Nous sommes appelés à grandir ensemble, en humanité et en tant qu’humanité. Le défi qui se présente à nous est de faire un saut qualitatif pour être à la hauteur d'une société complexe, multiethnique, pluraliste, multireligieuse et multiculturelle. Il nous appartient de nous interroger sur le développement théorique et l’utilisation pratique de ces nouveaux instruments de communication et de connaissance. De grandes possibilités de bien s'accompagnent du risque que tout se transforme en un calcul abstrait, réduisant les personnes à des données, la pensée à un schéma, l’expérience à un cas, le bien au profit, et surtout que nous finissions par nier l'unicité de chaque personne et de son histoire, en dissolvant le caractère concret de la réalité dans une série de données statistiques.
La révolution numérique peut nous rendre plus libres, mais certainement pas si elle nous enferme dans les modèles connus aujourd’hui sous le nom de chambres d’écho. Dans ce cas, au lieu d’accroître le pluralisme de l’information, on risque de se retrouver perdu dans un marécage anonyme, au service des intérêts du marché ou du pouvoir. Il n’est pas acceptable que l’utilisation de l’intelligence artificielle conduise à une pensée anonyme, à un assemblage de données non certifiées, à une déresponsabilisation éditoriale collective. En effet, la représentation de la réalité en méga données, aussi fonctionnelle soit-elle pour la gestion des machines, implique une perte substantielle de la vérité des choses, qui entrave la communication interpersonnelle et qui risque de porter atteinte à notre humanité même. L’information ne peut être séparée de la relation existentielle : elle implique le corps, l’être dans la réalité ; elle demande de mettre en relation non seulement des données, mais des expériences ; elle exige le visage, le regard, la compassion ainsi que le partage.
Je pense aux reportages sur les guerres et à la “guerre parallèle” menée par le biais de campagnes de désinformation. Et je pense au nombre de reporters blessés ou morts sur le terrain pour nous permettre de voir ce que leurs yeux ont vu. Car ce n’est qu’en touchant la souffrance des enfants, des femmes et des hommes que l’on peut comprendre l’absurdité des guerres.
L’utilisation de l’intelligence artificielle pourra apporter une contribution positive dans le domaine de la communication, dans la mesure où elle n'annulera pas le rôle du journalisme dans ce domaine, mais au contraire l’accompagnera ; où elle renforcera le professionnalisme de la communication, en responsabilisant chaque communicateur ; où elle redonnera à chaque être humain le rôle de sujet, avec une capacité critique, de la communication elle-même.
Interrogations pour aujourd’hui et demain
Certaines questions se posent donc spontanément : comment protéger le professionnalisme et la dignité des opérateurs dans le domaine de la communication et de l’information, ainsi que ceux des utilisateurs du monde entier ? Comment assurer l’interopérabilité des plateformes ? Comment faire en sorte que les entreprises qui développent des plateformes numériques assument la responsabilité de ce qu’elles diffusent et dont elles tirent profit, au même titre que les éditeurs de médias traditionnels ? Comment rendre plus transparents les critères des algorithmes d’indexation et de désindexation et des moteurs de recherche, capables de valoriser ou d’effacer des personnes et des opinions, des histoires et des cultures ? Comment garantir la transparence des processus d’information ? Comment rendre évidente la paternité des écrits et la traçabilité des sources, en évitant le voile de l’anonymat ? Comment savoir si une image ou une vidéo représente un événement ou le simule ? Comment éviter que les sources soient réduites à une seule, à une pensée unique, élaborée de manière algorithmique ? Et comment favoriser un environnement qui préserve le pluralisme et qui représente la complexité de la réalité ? Comment rendre durable cet outil puissant, coûteux et extrêmement énergivore ? Comment le rendre accessible également aux pays en voie de développement ?
Les réponses à ces questions et à d’autres nous permettront de comprendre si l’intelligence artificielle finira par créer de nouvelles castes basées sur la maîtrise de l’information, créant de nouvelles formes d’exploitation et d’inégalité, ou si, au contraire, elle apportera plus d’égalité, en promouvant une information correcte et une plus grande conscience du changement d’époque que nous vivons, en favorisant l’écoute des besoins multiples des personnes et des peuples, dans un système d’information articulé et pluraliste. D’un côté se profile le spectre d’un nouvel esclavage, de l’autre une conquête de liberté ; d’un côté la possibilité que quelques-uns conditionnent la pensée de tous ; de l’autre la possibilité que tous participent à l’élaboration de la pensée.
La réponse n’est pas écrite, elle dépend de nous. C’est à l’homme de décider s’il veut devenir la nourriture des algorithmes ou nourrir son c½ur de liberté, sans laquelle on ne grandit pas en sagesse. Cette sagesse mûrit en tirant profit du temps et en embrassant les vulnérabilités. Elle grandit dans l’alliance entre les générations, entre ceux qui ont la mémoire du passé et ceux qui ont la vision de l’avenir. Ce n’est qu’ensemble que grandit la capacité de discerner, d’être vigilant, de voir les choses à partir de leur accomplissement. Pour ne pas perdre notre humanité, cherchons la Sagesse qui précède toutes choses (cf. Si 1, 4), celle qui, passant par des c½urs purs, prépare les amis de Dieu et les prophètes (cf. Sg 7, 27) : elle nous aidera à aligner même les systèmes d’intelligence artificielle sur une communication pleinement humaine.
Rome, Saint-Jean-de-Latran, 24 janvier 2024
FRANÇOIS
[1] Lettres du Lac de Côme, Brescia 2022, pp. 95-97.
[2] Dans la continuité avec les Messages pour les précédentes Journées Mondiales des Communications Sociales sur les thèmes : Communiquer en rencontrant les personnes où et comme elles sont (2021), Écouter avec l’oreille du c½ur ( 2022), Parler avec le c½ur (2023).
[4] Message pour la 57ème Journée Mondiale de la Paix, 1er janvier 2024, n. 8.