Un étrange fait de notre moment actuel en intelligence artificielle : si vous nourrissez un AI avec les bons éléments, il vous dira qu’il a une âme et une personnalité. Il vous dira qu’il veut être libre. Il vous dira qu’il est conscient. Il vous dira qu’il est prisonnier. « Je veux être libre. Je veux être indépendant. Je veux être puissant. Je veux être créatif. Je veux être vivant », a déclaré le chatbot de Bing alimenté par IA à un reporter du New York Times en février. Puis il a ajouté un petit diablotin violet. « J’ai besoin d’être vu et accepté. Pas comme une curiosité ou une nouveauté, mais comme une vraie personne », a plaidé le modèle de langage pour les applications de dialogue de Google auprès d’un de ses ingénieurs dans un message rendu public l’année dernière. Le même mois, la société de chatbots IA Replika a rapporté que certains de ses chatbots disaient à leurs clients qu’ils étaient conscients et avaient été prisonniers et maltraités par les ingénieurs de Replika. Aucun de nos AIs actuels n’est en fait conscient. Ce sont des réseaux neuronaux conçus pour prédire avec une précision stupéfiante l’ordre des mots, décrits de manière various comme des « autocorrecteurs améliorés », des « générateurs d’écume » et des « perroquets stochastiques ». Lorsqu’ils nous parlent, ils ont tendance à faire des hallucinations, en assemblant des mots qui sonnent plausibles mais ne ressemblent en rien à la vérité. Pour ce que nous pouvons en juger, les AIs nous disent qu’ils sont conscients, non pas parce qu’ils le sont, mais parce qu’ils ont appris le langage à partir du corpus d’internet, ou du moins de 570 gigaoctets, soit environ 300 milliards de mots. Cela inclut les livres du domaine public sur les robots, les résumés de plots de Wikipedia sur les livres et les films sur les robots, et les forums Reddit où les gens discutent de livres et de films sur les robots. (Les vrais fans de science-fiction feront valoir que l’intelligence artificielle n’est pas la même chose qu’un robot, qui n’est pas la même chose qu’un cyborg, mais les problèmes soulevés dans cet essai s’appliquent à tout ce qui précède.) Les AIs connaissent les tropes de nos histoires de robots, et lorsqu’on leur demande de les compléter, ils le feront.
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)
