Pourquoi est-il important de se souvenir que l’IA n’est pas humaine ?

Près d’un an après sa sortie, ChatGPT reste un sujet polarisant pour la communauté scientifique. Selon certains experts, il s’agit d’un présage de l’intelligence supérieure, susceptible de bouleverser la civilisation – ou de la mettre simplement fin. D’autres estiment qu’il ne s’agit que d’une version sophistiquée de l’auto-complétion. Jusqu’à l’arrivée de cette technologie, la maîtrise de la langue était toujours un indicateur fiable de la présence d’une intelligence rationnelle. Avant les modèles de langage tels que ChatGPT, aucun artefact de production linguistique n’avait jamais autant de flexibilité linguistique qu’un bébé. Maintenant, lorsque nous essayons de comprendre de quel genre de chose il s’agit, nous faisons face à un dilemme philosophique dérangeant: soit le lien entre la langue et l’esprit a été rompu, soit un nouveau type d’esprit a été créé. Lorsque l’on converse avec des modèles de langage, il est difficile de surmonter l’impression que l’on est en présence d’un autre être rationnel. Mais cette impression ne doit pas être fiable. Une raison de se méfier vient de la linguistique cognitive. Les linguistes ont longtemps noté que les conversations typiques regorgent de phrases qui seraient ambiguës si elles étaient prises hors contexte. Dans de nombreux cas, savoir ce que signifient les mots et les règles pour les combiner ne suffit pas à reconstruire le sens de la phrase. Pour gérer cette ambiguïté, quelque chose dans notre cerveau doit sans cesse faire des suppositions sur ce que l’orateur voulait dire. Dans un monde où chaque locuteur a des intentions, ce mécanisme est toujours utile. Dans un monde envahi par de grands modèles linguistiques, cependant, il a le potentiel de tromper. Si notre objectif est d’obtenir une interaction fluide avec un chatbot, nous devrons peut-être nous contenter de notre mécanisme de supposition d’intention. Il est difficile d’avoir un échange productif avec ChatGPT si vous insistez pour le considérer comme une base de données sans âme. Une étude récente, par exemple, a montré que les supplications chargées d’émotion constituent des déclencheurs plus efficaces pour les modèles de langage que les demandes neutres sur le plan émotionnel. Raisonner comme si les chatbots avaient des vies mentales humaines est une façon utile de faire face à leur virtuosité linguistique, mais elle ne doit pas être utilisée comme une théorie sur leur fonctionnement. Ce genre de prétention anthropomorphe peut entraver la science fondée sur des hypothèses et nous amener à adopter des normes inappropriées pour la réglementation de l’IA. Comme l’un d’entre nous l’a argumenté ailleurs, la Commission européenne a commis une erreur en choisissant la création d’une IA digne de confiance comme l’un des objectifs centraux de sa nouvelle proposition de législation sur l’IA. Être digne de confiance dans les relations humaines signifie plus que de simplement répondre aux attentes; cela implique également d’avoir des motivations qui vont au-delà de l’égoïsme étroit. Parce que les modèles actuels d’IA manquent de motivations intrinsèques – qu’elles soient égoïstes, altruistes ou autres – l’exigence qu’ils soient dignes de confiance est excessivement vague.