Le pape Léon n’a pas mâché ses mots. Pas dans sa première encyclique en tout cas.
L’intelligence artificielle, a-t-il déclaré, doit être désarmée. Il ne suffit pas de laisser la technologie se développer. Il a averti que nous devons le libérer du type de logique qui transforme les outils en armes. Domination. Exclusion. La mort. Cela vous semble familier ?
C’est encore de l’énergie nucléaire, mais codée. Le message est clair. Le pouvoir appartient à tous, pour le bien commun, ou bien il n’appartient pas du tout. Vous ne pouvez pas séparer la pression sur un bouton de la conscience qui la sous-tend. La responsabilité n’est pas facultative lorsque l’instrument est aussi lourd.
Ne craignez pas l’IA elle-même. C’est le piège. Au lieu de cela, continuez à demander s’il y a un humain là-dedans. Nous sommes trop négligents avec ces choses.
Un observateur – quelqu’un à l’intérieur de la salle des machines – a observé et ressenti quelque chose de rare dans une salle remplie d’ingénieurs. Gratitude.
« Je suis reconnaissant… Nous avons besoin de voix morales que les incitations ne peuvent pas plier. »
C’est la partie la plus difficile. L’argent veut une chose. L’éthique en exige une autre. Habituellement, c’est l’argent qui gagne.
L’observateur a qualifié cette journée de début. Une longue collaboration maintenant. Ceux qui le construisent doivent parler à ceux qui peuvent voir ce que les constructeurs, aveugles de métier, manquent. Les perspectives intérieures sont étroites. Il faut un œil extérieur.
Puis le pape a terminé.
“Amen.”
« Merci beaucoup. »
Et le travail commence. Vont-ils écouter ?
