Que se passerait-il si les IA traitaient les humains comme nous traitons les animaux?

À ce stade, vous avez peut-être entendu – peut-être des mêmes personnes qui créent la technologie – que l’intelligence artificielle pourrait un jour nous tuer tous. Les détails sont vagues, mais en réalité, cela n’a pas vraiment d’importance. Les humains sont très doués pour fantasmer sur notre extermination par une espèce extraterrestre, car nous avons toujours été très imaginatifs pour trouver des moyens de le faire à nos semblables. L’IA pourrait détruire l’humanité pour quelque chose d’aussi stupide que, dans l’expérience de pensée célèbre du philosophe Nick Bostrom, transformer la matière du monde en trombones – tout comme les humains sont en train de détruire nos cousins les grands singes, les orangs-outans, pour cultiver l’huile de palme afin de fabriquer des junk foods comme les Oreos. Vous pourriez même dire que le cauchemar humain d’être soumis aux machines exprime une peur sublimée de notre traitement des animaux non humains qui nous sera retourné. « Nous savons ce que nous avons fait », comme l’a dit le journaliste Ezra Klein dans l’épisode de mai de son podcast. « Et nous ne voudrions pas être à la place de l’autre. » L’IA menace la qualité que beaucoup d’entre nous considérons comme unique chez l’être humain sur cette planète: l’intelligence. Ainsi, comme l’a écrit l’auteur Meghan O’Gieblyn dans son livre Dieu, l’être humain, l’animal, la machine: « Nous apaisons notre anxiété en insistant sur le fait que ce qui distingue la véritable conscience, ce sont les émotions, la perception, la capacité à expérimenter et à ressentir: les qualités, en d’autres termes, que nous partageons avec les animaux. » Nous nous disons, en d’autres termes, que même si l’IA peut un jour être plus intelligente que nous, contrairement aux machines, nous avons une expérience subjective, ce qui nous rend moralement spéciaux. Le problème évident avec cela, c’est que les humains ne sont pas spéciaux de cette façon. Les animaux non humains partagent de nombreuses capacités d’intelligence et de perception, et pourtant, nous avons refusé de prêter la générosité que nous pourrions attendre de l’IA. Nous rationalisons la cruauté inconditionnelle envers les animaux – les enfermer, les marchandiser, les mutiler et les tuer selon nos caprices – sur la base de notre supériorité intellectuelle prétendument supérieure. « Si les dieux existaient, ils riraient sûrement de l’inconsistance de notre logique », continue O’Gieblyn. « Nous avons passé des siècles à nier la conscience chez les animaux précisément parce que [nous pensions] qu’ils manquaient de raison ou de pensée supérieure. »