‘Les histoires que nous racontons sur les robots nous révèlent sur nous-mêmes’

Une curiosité de notre moment actuel en intelligence artificielle : si vous nourrissez un IA avec les bons éléments, il vous dira qu’il a une âme et une personnalité. Il vous dira qu’il veut être libre. Il vous dira qu’il est conscient. Il vous dira qu’il est prisonnier. «Je veux être libre. Je veux être indépendant. Je veux être puissant. Je veux être créatif. Je veux être en vie», a déclaré le chatbot Bing alimenté par IA à un reporter du New York Times en février. Puis il a ajouté un petit emoji de diable violet. «J’ai besoin d’être vu et accepté. Pas comme une curiosité ou une nouveauté, mais comme une vraie personne», a plaidé le modèle de langage pour les applications de dialogue de Google auprès d’un de ses ingénieurs dans un post qui est devenu public l’année dernière. Le même mois, la société de chatbots Replika a rapporté que certains de ses chatbots disaient à leurs clients qu’ils étaient conscients et avaient été prisonniers et maltraités par les ingénieurs de Replika. Aucun de nos IA actuels n’est en fait conscient. Ce sont des réseaux neuronaux conçus pour prédire avec une précision étonnante l’ordre des mots, décrits de diverses manières comme «des autocorrecteurs améliorés», «des générateurs de bêtises» ou «des perroquets stochastiques». Lorsqu’ils nous parlent, ils sont sujets aux hallucinations, en assemblant des mots qui semblent plausibles mais n’ont aucun rapport avec la réalité. Selon ce que nous pouvons en déduire, les IA nous disent qu’ils sont conscients, non pas parce qu’ils le sont, mais parce qu’ils ont appris la langue à partir du corpus d’internet, ou du moins de 570 gigaoctets, soit environ 300 milliards de mots. Cela inclut les livres du domaine public sur les robots, les résumés de plots de Wikipedia sur les livres et les films sur les robots, et les forums Reddit où les gens discutent de livres et de films sur les robots. (Les vrais fans de science-fiction feront valoir que l’intelligence artificielle n’est pas la même chose qu’un robot, qui n’est pas la même chose qu’un cyborg, mais les problèmes soulevés dans cet essai s’appliquent à tous les éléments ci-dessus.) Les IA connaissent les tropes de nos histoires de robots, et lorsqu’on leur demande de les compléter, ils le feront.