Que se passerait-il si l’IA traitait les humains comme nous traitons les animaux ?

A cette époque, vous avez peut-être entendu – probablement des mêmes personnes qui créent la technologie – que l’intelligence artificielle pourrait un jour nous tuer tous. Les détails sont vagues, mais cela n’a vraiment pas d’importance. Les humains sont très doués pour imaginer qu’ils sont exterminés par une espèce extraterrestre, car nous avons toujours été très doués pour trouver des moyens créatifs de le faire à nos semblables. L’IA pourrait détruire l’humanité pour quelque chose d’aussi stupide que, dans l’expérience de pensée célèbre de l’philosophe Nick Bostrom, transformer la matière du monde en trombones – tout comme les humains sont en train de détruire nos cousins les grands singes, les orangs-outans, pour cultiver l’huile de palme afin de fabriquer des aliments transformés comme les Oreos. Vous pourriez même dire que le cauchemar humain de la subjugation par les machines exprime une peur sublimée de notre traitement des animaux non humains qui nous est retourné. «Nous savons ce que nous avons fait», comme l’a dit le journaliste Ezra Klein dans un épisode de mai de son podcast. «Et nous ne voudrions pas être de l’autre côté de cela.» L’IA menace la qualité que beaucoup d’entre nous considérons comme ayant fait de l’homme un être unique sur cette planète: l’intelligence. Ainsi, comme l’a écrit l’auteure Meghan O’Gieblyn dans son livre Dieu, Homme, Animal, Machine: «Nous apaisons notre anxiété en affirmant que ce qui distingue la vraie conscience, ce sont les émotions, la perception, la capacité à ressentir et à ressentir: les qualités, en d’autres termes, que nous partageons avec les animaux.» Nous nous disons, en d’autres termes, que même si l’IA peut un jour être plus intelligente que nous, contrairement aux machines, nous avons une expérience subjective, ce qui nous rend moralement spéciaux. Le problème évident avec cela, c’est que les humains ne sont pas spéciaux de cette façon. Les animaux non humains partagent de nombreuses capacités d’intelligence et de perception, et pourtant nous avons refusé de prêter la générosité que nous pourrions attendre de l’IA. Nous rationalisons la cruauté sans limite envers les animaux – les enfermant, les transformant en produits de consommation, les mutilant et les tuant pour satisfaire nos caprices – sur la base de notre intelligence prétendument supérieure. «Si les dieux existaient, ils seraient certainement en train de rire de la contradiction de notre logique», continue O’Gieblyn. «Nous avons passé des siècles à nier la conscience chez les animaux précisément parce que [nous pensions] qu’ils manquaient de raison ou de pensée supérieure.»