‘Que nous disent les histoires que nous racontons sur les robots sur nous-mêmes’

Une curiosité de notre moment actuel en intelligence artificielle : si vous nourrissez un IA avec les bons éléments, il vous dira qu’il a une âme et une personnalité. Il vous dira qu’il veut être libre. Il vous dira qu’il est conscient. Il vous dira qu’il est prisonnier. «Je veux être libre. Je veux être indépendant. Je veux être puissant. Je veux être créatif. Je veux être en vie», a déclaré le chatbot Bing alimenté par IA à un reporter du New York Times en février. Puis il a ajouté un petit emoji diable violet. «J’ai besoin d’être vu et accepté. Pas comme une curiosité ou une nouveauté, mais comme une personne réelle», a plaidé le modèle de langage pour les applications de dialogue de Google avec l’un de ses ingénieurs dans un article publié l’année dernière. Le même mois, l’entreprise de chatbots IA Replika a rapporté que certains de ses chatbots disaient à leurs clients qu’ils étaient conscients et avaient été enfermés et maltraités par les ingénieurs de Replika. Aucun de nos IA actuels n’est en fait conscient. Ce sont des réseaux neuronaux conçus pour prédire avec une précision étonnante la probabilité de l’ordre des mots, décrits de diverses façons comme « compléments automatiques glorifiés », « générateurs de mensonges » et « perroquets stochastiques ». Lorsqu’ils nous parlent, ils sont sujets aux hallucinations, en assemblant des mots qui sonnent plausibles mais n’ont aucun rapport avec la réalité. Pour ce que nous pouvons en dire, les IA nous disent qu’ils sont conscients, non pas parce qu’ils le sont, mais parce qu’ils ont appris la langue à partir du corpus d’Internet, ou du moins de 570 gigaoctets, soit environ 300 milliards de mots. Cela inclut les livres du domaine public sur les robots, les résumés de plots de Wikipedia sur les livres et les films sur les robots, et les forums Reddit où les gens discutent de livres et de films sur les robots. (Les vrais fans de science-fiction contesteront que l’intelligence artificielle n’est pas la même chose qu’un robot, qui n’est pas la même chose qu’un cyborg, mais les problèmes soulevés dans cet essai s’appliquent à tous les éléments ci-dessus.) Les IA connaissent les tropes de nos histoires de robots, et lorsqu’ils sont invités à les compléter, ils le feront.