Il est important de se rappeler que l’IA n’est pas humaine.

Un an après sa sortie, ChatGPT demeure un sujet polarisant pour la communauté scientifique. Selon certains experts, il s’agit d’un précurseur de l’intelligence superflue, susceptible de renverser la civilisation – ou de la mettre simplement fin. D’autres affirment qu’il ne s’agit que d’une version sophistiquée de l’auto-complétion. Jusqu’à l’arrivée de cette technologie, la maîtrise d’une langue était toujours un indicateur fiable de la présence d’une pensée rationnelle. Avant les modèles de langage tels que ChatGPT, aucun artefact produisant du langage n’avait jamais eu autant de flexibilité linguistique qu’un enfant en bas âge. Maintenant, lorsque nous essayons de déterminer de quel genre de chose il s’agit, nous sommes confrontés à un dilemme philosophique dérangeant : soit le lien entre langage et esprit a été rompu, soit un nouveau type d’esprit a été créé. Lorsque l’on converse avec des modèles de langage, il est difficile de surmonter l’impression que l’on est en présence d’un autre être rationnel. Mais cette impression ne doit pas être prise au sérieux. Une raison de se méfier vient de la linguistique cognitive. Les linguistes ont longtemps noté que les conversations typiques regorgent de phrases qui seraient ambiguës si elles étaient prises hors contexte. Dans de nombreux cas, il n’est pas suffisant de connaître la signification des mots et les règles de combinaison pour reconstruire le sens de la phrase. Pour gérer cette ambiguïté, quelque chose dans notre cerveau doit constamment faire des suppositions quant à ce que le locuteur avait l’intention de dire. Dans un monde où chaque locuteur a des intentions, ce mécanisme est extrêmement utile. Dans un monde envahi par de grands modèles de langage, il a cependant le potentiel de tromper. Si notre objectif est d’établir une interaction fluide avec un chatbot, nous devrons peut-être nous contenter de notre mécanisme de détection d’intention. Il est difficile d’avoir une échange productive avec ChatGPT si vous insistez pour le considérer comme une simple base de données. Une étude récente a montré, par exemple, que les supplications chargées d’émotion sont de meilleurs déclencheurs pour les modèles de langage que les demandes neutres sur le plan émotionnel. Raisonner comme si les chatbots avaient des vies mentales semblables à celles des humains est une façon utile de faire face à leur virtuosité linguistique, mais elle ne doit pas être utilisée comme une théorie sur leur fonctionnement. Ce genre de prétention anthropomorphe peut entraver une science fondée sur des hypothèses et nous amener à adopter des normes inappropriées pour la réglementation de l’IA. Comme l’un d’entre nous l’a argumenté ailleurs, l’Union européenne a commis une erreur en choisissant la création d’une IA digne de confiance comme l’un des objectifs centraux de sa nouvelle proposition de législation sur l’IA. Être digne de confiance dans les relations humaines signifie plus que de simplement satisfaire les attentes ; cela implique également d’avoir des motivations qui vont au-delà de l’égoïsme étroit. Comme les modèles actuels d’IA ne disposent pas de motivations intrinsèques – qu’ils soient égoïstes, altruistes ou autres -, l’exigence selon laquelle ils doivent être dignes de confiance est excessivement vague.