« Et si les IA traitaient les humains comme nous traitons les animaux ? »

À ce stade, vous avez peut-être entendu – probablement de la part des mêmes personnes qui créent cette technologie – que l’intelligence artificielle pourrait un jour nous tuer tous. Les détails sont flous, mais cela n’a finalement pas d’importance. Les humains ont très bien imaginé l’extermination de notre espèce par une autre, car nous avons toujours été doués pour trouver des moyens créatifs de le faire à nos semblables. L’IA pourrait détruire l’humanité pour quelque chose d’aussi stupide que, dans l’expérience de pensée célèbre du philosophe Nick Bostrom, transformer la matière du monde en trombones – tout comme les humains sont en train d’éliminer nos cousins les grands singes, les orangs-outans, pour cultiver l’huile de palme afin de fabriquer des aliments transformés comme les Oreos. Vous pourriez même dire que le cauchemar humain de la soumission aux machines exprime une peur sublimée de notre traitement des animaux non humains qui serait retourné contre nous. «Nous savons ce que nous avons fait», comme l’a dit le journaliste Ezra Klein dans un épisode de mai de son podcast. «Et nous ne voudrions pas être de l’autre côté de cela.» L’IA menace la qualité que beaucoup d’entre nous considérons comme ayant fait des humains uniques sur cette planète: l’intelligence. Ainsi, comme l’a écrit l’auteure Meghan O’Gieblyn dans son livre Dieu, l’homme, l’animal, la machine, «nous calmons notre anxiété en affirmant que ce qui distingue la vraie conscience, ce sont les émotions, la perception, la capacité à ressentir et à ressentir: les qualités, en d’autres termes, que nous partageons avec les animaux». Nous nous disons, en d’autres termes, que même si l’IA peut un jour être plus intelligente que nous, contrairement aux machines, nous avons une expérience subjective, ce qui nous rend moralement spéciaux. Le problème évident avec cela, c’est que les humains ne sont pas spéciaux de cette façon. Les animaux non humains partagent de nombreuses de nos capacités d’intelligence et de perception, et pourtant nous avons refusé de nous étendre à la générosité que nous pourrions attendre de l’IA. Nous rationalisons la cruauté sans limite envers les animaux – les enfermer, les commercialiser, les mutiler et les tuer selon nos caprices – sur la base de notre intellect prétendument supérieur. «Si les dieux existaient, ils riraient sans doute de la contradiction de notre logique», poursuit O’Gieblyn. «Nous avons passé des siècles à nier la conscience chez les animaux précisément parce que [nous pensions] qu’ils manquaient de raison ou de pensée supérieure.