Et si l’IA traitait les humains comme nous traitons les animaux ?

A cette époque, vous avez peut-être entendu – probablement des mêmes personnes qui créent la technologie – que l’intelligence artificielle pourrait un jour nous tuer tous. Les détails sont flous, mais cela n’a vraiment pas d’importance. Les humains sont très doués pour fantasmer sur une extermination par une espèce extraterrestre, car nous avons toujours été doués pour inventer des moyens créatifs de le faire à nos semblables. L’IA pourrait détruire l’humanité pour quelque chose d’aussi stupide que, dans l’expérience de pensée célèbre du philosophe Nick Bostrom, transformer la matière du monde en trombones – tout comme les humains sont en train d’éliminer nos cousins grands singes, les orang-outans, pour cultiver l’huile de palme afin de fabriquer des aliments transformés comme les Oreos. Vous pourriez même dire que le cauchemar humain de la subjugation par les machines exprime une peur sublimée de notre traitement des animaux non humains qui nous serait renvoyé. « Nous savons ce que nous avons fait », comme l’a dit le journaliste Ezra Klein dans un épisode de mai de son podcast. « Et nous ne voudrions pas être de l’autre côté de cela ». L’IA menace la qualité que beaucoup d’entre nous considérons comme ayant fait des humains uniques sur cette planète: l’intelligence. Ainsi, comme l’a écrit l’auteur Meghan O’Gieblyn dans son livre Dieu, l’homme, l’animal, la machine: « Nous apaisons notre anxiété en affirmant que ce qui distingue la véritable conscience, ce sont les émotions, la perception, la capacité à expérimenter et à ressentir: les qualités, en d’autres termes, que nous partageons avec les animaux ». Nous nous disons, en d’autres termes, que même si l’IA peut un jour être plus intelligente que nous, contrairement aux machines, nous avons une expérience subjective, ce qui nous rend moralement spéciaux. Le problème évident avec cela, c’est que les humains ne sont pas spéciaux de cette façon. Les animaux non humains partagent de nombreuses de nos capacités d’intelligence et de perception, et pourtant nous avons refusé d’étendre la générosité que nous pourrions attendre de l’IA. Nous rationalisons la cruauté sans limite envers les animaux – les enfermant, les marchandisant, les mutilant et les tuant à notre guise – sur la base de notre intelligence prétendument supérieure. « Si les dieux existaient, ils riraient sans doute de notre logique incohérente », poursuit O’Gieblyn. « Nous avons passé des siècles à nier la conscience chez les animaux précisément parce que [nous pensions] qu’ils manquaient de raison ou de pensée supérieure ».