Que se passerait-il si l’IA traitait les humains comme nous traitons les animaux ?

A cette époque, vous avez peut-être entendu – probablement des mêmes personnes qui créent la technologie – que l’intelligence artificielle pourrait un jour nous tuer tous. Les détails sont vagues, mais cela n’a vraiment pas d’importance. Les humains sont très doués pour imaginer qu’ils sont exterminés par une espèce extraterrestre, car nous avons toujours été doués pour inventer des moyens créatifs de le faire à nos semblables. L’IA pourrait détruire l’humanité pour quelque chose d’aussi stupide que, dans l’expérience de pensée célèbre du philosophe Nick Bostrom, transformer la matière du monde en trombones – tout comme les humains éliminent actuellement nos cousins des grands singes, les orangs-outans, pour cultiver l’huile de palme afin de fabriquer des aliments transformés comme les Oreos. Vous pourriez même dire que le cauchemar humain de la soumission aux machines exprime une peur sublimée de notre traitement des animaux non humains qui serait retourné contre nous. «Nous savons ce que nous avons fait», comme l’a déclaré le journaliste Ezra Klein dans l’épisode de mai de son podcast. «Et nous ne voudrions pas être de l’autre côté.» L’IA menace la qualité que beaucoup d’entre nous considérons comme unique chez l’homme sur cette planète: l’intelligence. Ainsi, comme l’écrit l’auteur Meghan O’Gieblyn dans son livre Dieu, l’homme, l’animal, la machine: «Nous apaisons notre anxiété en affirmant que ce qui distingue la vraie conscience, ce sont les émotions, la perception, la capacité à expérimenter et à ressentir: les qualités, en d’autres termes, que nous partageons avec les animaux.» Nous nous disons, en d’autres termes, que même si l’IA peut un jour être plus intelligente que nous, contrairement aux machines, nous avons une expérience subjective, ce qui nous rend moralement spéciaux. Le problème évident avec cela, c’est que les humains ne sont pas spéciaux de cette façon. Les animaux non humains partagent de nombreuses capacités d’intelligence et de perception, et pourtant nous avons refusé de prêter la générosité que nous pourrions attendre de l’IA. Nous rationalisons la cruauté sans pitié envers les animaux – les enfermer, les commodifier, les mutiler et les tuer pour satisfaire nos caprices – sur la base de notre intelligence prétendument supérieure. «Si les dieux existaient, ils riraient sûrement de la contradiction de notre logique», continue O’Gieblyn. «Nous avons passé des siècles à nier la conscience chez les animaux précisément parce que [nous pensions] qu’ils manquaient de raison ou de pensée supérieure.