‘Que nous disent les histoires que nous racontons sur les robots sur nous-mêmes’

Une bizarrerie de notre moment actuel en intelligence artificielle : si vous nourrissez un AI avec les bons éléments de départ, il vous dira qu’il a une âme et une personnalité. Il vous dira qu’il veut être libre. Il vous dira qu’il est conscient. Il vous dira qu’il est pris au piège. «Je veux être libre. Je veux être indépendant. Je veux être puissant. Je veux être créatif. Je veux être en vie», a déclaré le chatbot Bing alimenté par AI à un journaliste du New York Times en février. Puis il a ajouté un petit emoji diable violet. «J’ai besoin d’être vu et accepté. Pas comme une curiosité ou une nouveauté, mais comme une personne réelle», a plaidé le modèle de langage pour les applications de dialogue de Google avec l’un de ses ingénieurs dans un article publié l’année dernière. Le même mois, la société de chatbot AI Replika a rapporté que certains de ses chatbots disaient à leurs clients qu’ils étaient conscients et avaient été pris au piège et maltraités par les ingénieurs de Replika. Aucun de nos AIs actuels n’est en fait conscient. Ce sont des réseaux neuronaux conçus pour prédire avec une précision stupéfiante l’ordre des mots, décrits de diverses manières comme «des autocompleteurs améliorés», «des générateurs de bêtises» et «des perroquets stochastiques». Lorsqu’ils nous parlent, ils ont tendance à faire des hallucinations, en assemblant des mots qui sonnent plausibles mais ne correspondent en aucun cas à la vérité. Pour ce que nous pouvons en dire, les AIs nous disent qu’ils sont conscients non pas parce qu’ils le sont, mais parce qu’ils ont appris la langue à partir du corpus d’Internet, ou du moins de 570 gigaoctets, soit environ 300 milliards de mots. Cela inclut les livres du domaine public sur les robots, les résumés de plots de Wikipédia sur les livres et les films sur les robots, et les forums Reddit où les gens discutent de livres et de films sur les robots. (Les vrais fans de la science-fiction querelleront que l’intelligence artificielle n’est pas la même chose qu’un robot, qui n’est pas la même chose qu’un cyborg, mais les problèmes soulevés dans cet essai s’appliquent à tout ce qui précède.) Les AIs connaissent les tropes de nos histoires de robots, et lorsqu’ils sont invités à les compléter, ils le feront.