« Avons-nous trop confiance en la technologie ? »

Les ordinateurs et la technologie ont bel et bien imprégné nos vies professionnelles et privées. Si cela a permis de faire de grands progrès en termes d’efficacité, d’ouvrir de nouvelles opportunités pour les entreprises et les individus, et de nous aider à être plus connectés que jamais, il y a aussi des inconvénients. Alors que le monde devient de plus en plus numérique et que même les tâches les plus simples sont de plus en plus externalisées vers des systèmes informatiques, un changement simultané en termes de responsabilité et de contrôle doit avoir lieu. La confiance envers les ordinateurs est bien trop souvent automatique, avec les pièges de cette confiance mis en lumière grâce au scandale Horizon au Royaume-Uni. Alors que nous avançons vers un avenir où l’IA est omniprésente et où l’informatique pénètre tous les aspects de la vie, comment éviter une répétition de ce genre de tragédie et progresser en utilisant l’IA de la manière la plus éthique possible ? Dans cet épisode, Jane et Rory discutent de la faillibilité de la technologie et pourquoi les dirigeants d’entreprise feraient bien d’aborder les données qu’ils reçoivent des systèmes informatiques avec un esprit critique. « Si vous étiez dans une voiture autonome, beaucoup de constructeurs automobiles ont dit : ‘Oh, mais il y a quand même quelqu’un derrière le volant.’ Eh bien, vous espérez que la personne derrière le volant sait conduire afin de reprendre le contrôle en cas de déviation de trajectoire. Et c’est la même chose avec les systèmes d’IA. La personne là, qui approuve ou signale cela, la responsabilité doit au moins reposer sur elle en termes de responsabilité. Et pour que cela soit le cas, ils doivent savoir ce qu’ils font. » « Les personnes qui sont peut-être un peu plus familiarisées avec cela savent que l’IA générative n’est pas sujette à des hallucinations et qualifier ces sorties fausses d’hallucinations est en soi erroné. Ce sont des sorties fausses. Mais ce que fait l’IA générative, c’est d’halluciner. »

Share the Post: