Naviguer dans le labyrinthe de la vérité dans un monde de machines intelligentes et de marketeurs encore plus intelligents.

Les inquiétudes et les craintes concernant l’IA se résument à une seule question : comment savoir si elle fonctionne bien ? Les critères de performance auxquels l’informatique s’intéresse habituellement ont de l’importance. La vitesse à laquelle un ensemble de données est appris, la rapidité avec laquelle les sollicitations peuvent être traitées, les ressources nécessaires et l’échelle de tout cela ? Si vous créez un système IA dans le cadre de votre activité, vous feriez mieux de bien maîtriser ces aspects, ou du moins de comprendre leurs limites. Sinon, ils n’auront guère d’importance, bien que les marketeurs et les commentateurs puissent ne pas être d’accord. Le fait qu’ils n’aient pas d’importance est une bonne chose : les critères de performance ont souvent tendance à devenir des objectifs qui déforment la fonction, et ils doivent être soigneusement maintenus dans leur domaine. Le critère de performance le plus important pour l’IA est sa véracité, ou, plus utilement, son degré de dénaturation par ceux qui la vendent ou l’utilisent. Comme on prétend que Pontius Pilate l’a dit il y a 2000 ans, qu’est-ce que la vérité ? Il n’y a pas de critère. Malgré les millénaires écoulés et les infinies prétentions à avoir réglé ce problème, personne n’y est parvenu. Les menteurs les plus éhontés peuvent gagner le soutien de nations en plein âge d’or de la raison. Si personne n’est prêt ou capable de les arrêter, quelles chances avons-nous de garder l’IA du côté des anges ? Le seul mécanisme qui a une chance de fonctionner est ce curieux système de rouages que sont les organismes de réglementation et les systèmes judiciaires, qui existent – en théorie – en dehors de la sphère politique mais sous le contrôle démocratique. Les régulateurs établissent des normes, les tribunaux assurent le contrôle de ces pouvoirs et tranchent les différends.