Avons-nous trop de foi en la technologie ?

Les ordinateurs et la technologie ont bel et bien imprégné nos vies professionnelles et privées. Bien que cela ait permis de faire d’énormes progrès en termes d’efficacité, ouvrant de nouvelles opportunités pour les entreprises et les individus, tout en nous aidant à être plus connectés que jamais, il existe également des inconvénients. Alors que le monde devient de plus en plus numérique et que même les tâches insignifiantes sont de plus en plus externalisées vers des systèmes informatiques, un changement simultané en matière de responsabilité et de supervision doit avoir lieu. La confiance envers les ordinateurs est bien trop souvent automatique, avec les pièges que cela implique qui ont été mis en lumière par le scandale Horizon au Royaume-Uni. Alors que nous avançons vers un avenir où l’IA est omniprésente et où l’informatique imprègne tous les aspects de la vie, comment éviter de répéter ce genre de tragédie et progresser en utilisant l’IA de la manière la plus éthique possible ? Dans cet épisode, Jane et Rory discutent de la fragilité de la technologie et pourquoi les dirigeants d’entreprise feraient bien d’aborder les données qu’ils reçoivent des systèmes informatiques avec une bonne dose de scepticisme. « Si vous étiez dans une voiture autonome, de nombreuses sociétés automobiles ont dit : « Oh, mais il y a toujours quelqu’un derrière le volant ». Eh bien, on espère que la personne derrière le volant sait conduire, ainsi si elle dévie de la trajectoire, elle peut reprendre le contrôle. Et c’est la même chose quand il s’agit de systèmes d’IA. La personne qui est là, qui approuve cela, qui signale cela, la responsabilité doit reposer sur elle, du moins en ce qui concerne la responsabilité. Et pour que cela soit le cas, elle doit savoir ce qu’elle fait. » « Les personnes qui sont peut-être un peu plus calées dans ce domaine savent que l’IA générative n’est pas sujette à des hallucinations et qualifier ces sorties fausses d’hallucinations est en soi erroné. Ce sont des sorties fausses. Mais ce que fait l’IA générative, c’est halluciner. »