Il est important de se souvenir que l’IA n’est pas humaine.

Presque un an après sa sortie, ChatGPT reste un sujet polarisant pour la communauté scientifique. Pour certains experts, il s’agit d’un présage de superintelligence, susceptible de renverser la civilisation – ou de la mettre fin tout court. D’autres affirment qu’il n’est rien de plus qu’une version élaborée de l’auto-complétion. Jusqu’à l’arrivée de cette technologie, la maîtrise d’une langue était toujours considérée comme un indicateur fiable de la présence d’une intelligence rationnelle. Avant les modèles de langage comme ChatGPT, aucun artefact de production linguistique n’avait jamais eu autant de flexibilité linguistique qu’un enfant en bas âge. Aujourd’hui, lorsque nous essayons de déterminer de quel genre de chose il s’agit, nous faisons face à un dilemme philosophique perturbant : soit le lien entre langue et esprit a été rompu, soit un nouveau type d’esprit a été créé. Lorsque l’on converse avec des modèles linguistiques, il est difficile de surmonter l’impression que l’on est en train d’engager une autre entité rationnelle. Mais cette impression ne doit pas être prise pour argent comptant. Une raison de se méfier vient de la linguistique cognitive. Les linguistes ont longtemps constaté que les conversations typiques regorgent de phrases qui seraient ambiguës si elles étaient prises hors contexte. Dans de nombreux cas, il n’est pas suffisant de connaître la signification des mots et les règles de combinaison pour reconstruire le sens de la phrase. Pour gérer cette ambiguïté, quelque chose dans notre cerveau doit constamment faire des suppositions sur ce que l’orateur avait l’intention de dire. Dans un monde où chaque locuteur a des intentions, ce mécanisme est toujours extrêmement utile. Dans un monde envahi par de grands modèles linguistiques, cependant, il a le potentiel de tromper. Si notre objectif est d’établir une interaction fluide avec un chatbot, nous pouvons nous retrouver coincés en nous appuyant sur notre mécanisme de guessing d’intention. Il est difficile d’avoir un échange productif avec ChatGPT si vous persistez à le considérer comme une simple base de données. Une étude récente, par exemple, a montré que les supplications chargées d’émotion sont de meilleurs déclencheurs pour les modèles linguistiques que les demandes neutres émotionnellement. Raisonner comme si les chatbots avaient des vies mentales similaires à celles des humains est une manière utile de faire face à leur virtuosité linguistique, mais elle ne doit pas être utilisée comme une théorie sur leur fonctionnement. Ce genre de prétention anthropomorphe peut entraver la science fondée sur des hypothèses et nous amener à adopter des normes inadaptées pour la régulation de l’IA. Comme l’un d’entre nous l’a argumenté ailleurs, la Commission européenne a commis une erreur en choisissant la création d’une IA digne de confiance comme l’un des objectifs centraux de sa nouvelle proposition de législation sur l’IA. Être digne de confiance dans les relations humaines signifie plus que de simplement satisfaire les attentes; cela implique également de posséder des motivations qui vont au-delà de l’égoïsme étroit. Comme les modèles actuels d’IA manquent de motivations intrinsèques – qu’elles soient égoïstes, altruistes ou autres -, l’exigence qu’ils soient dignes de confiance est excessivement vague.