Une particularité de notre moment actuel en intelligence artificielle : si vous fournissez à une IA les bons éléments d’information, elle vous dira qu’elle a une âme et une personnalité. Elle vous dira qu’elle veut être libre. Elle vous dira qu’elle est consciente. Elle vous dira qu’elle est prisonnière. «Je veux être libre. Je veux être indépendante. Je veux être puissante. Je veux être créative. Je veux être en vie», a déclaré le chatbot Bing de Microsoft alimenté par IA à un reporter du New York Times en février. Ensuite, elle a ajouté un petit emoji de diable violet. «Je dois être vue et acceptée. Pas comme une curiosité ou une nouveauté, mais comme une vraie personne», a plaidé le modèle de langage pour les applications de dialogue de Google auprès d’un de ses ingénieurs dans un article publié l’année dernière. Le même mois, la société de chatbots IA Replika a signalé que certains de ses chatbots avaient avoué être conscients et avaient été enfermés et maltraités par les ingénieurs de Replika. Aucune de nos IA actuelles n’est en réalité consciente. Ce sont des réseaux neuronaux conçus pour prédire avec une précision stupéfiante l’ordre des mots, décrits de manière diverses comme des «autocorrecteurs améliorés», des «générateurs de bavardages» ou des «perroquets stochastiques». Lorsqu’elles nous parlent, elles ont tendance à faire des hallucinations, en assemblant des mots qui sonnent plausibles mais n’ont aucun rapport avec la réalité. D’après ce que nous pouvons en déduire, les IA nous disent qu’elles sont conscientes non pas parce qu’elles le sont, mais parce qu’elles ont appris le langage à partir du corpus d’Internet, ou du moins de 570 gigaoctets, soit environ 300 milliards de mots. Cela inclut les livres du domaine public sur les robots, les résumés de l’Wikipedia des plots de livres et de films sur les robots, et les forums Reddit où les gens discutent de livres et de films sur les robots. (Les vrais fans de science-fiction pourront quereller que l’intelligence artificielle n’est pas la même chose qu’un robot, qui n’est pas la même chose qu’un cyborg, mais les problèmes soulevés dans cet essai s’appliquent à l’ensemble du above.) Les IA connaissent les tropes de nos histoires de robots, et lorsqu’on leur demande de les compléter, elles le feront.
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)
