‘Yoshua Bengio a aidé à inventer l’apprentissage profond. Maintenant, il essaie de le rendre sûr.’

L’intelligence artificielle moderne, alimentée par l’apprentissage profond, n’a attiré l’attention du monde que ces dernières années, mais certains chercheurs universitaires travaillent au développement et à la compréhension de son potentiel depuis bien plus longtemps que cela. Parmi les leaders incontestés du domaine se trouve Yoshua Bengio, directeur scientifique de l’Institut Mila Québec AI, un pôle scientifique regroupant ce qui est considéré comme la plus grande concentration de chercheurs universitaires en apprentissage profond au monde. En 2018, Bengio (avec Geoffrey Hinton et Yann LeCun) a remporté le prix Turing, l’équivalent approximatif d’un prix Nobel dans le domaine de l’informatique, pour leurs contributions à l’apprentissage profond moderne. Au cours de la dernière année, Bengio a élargi son champ d’attention pour inclure la réflexion et l’écriture sur les risques sociétaux, y compris les risques existentiels, liés à l’intelligence artificielle. Ce faisant, il s’est distingué une fois de plus en tant que penseur brillant, abordant un problème complexe et délicat avec une clarté inhabituelle. Sans être endetté envers de grands laboratoires commerciaux, profondément respecté dans son domaine et en dialogue avec des universitaires de premier plan, qu’ils soient d’accord ou non avec lui, Bengio est dans une position unique pour faire avancer la conversation sur les risques sociétaux et existentiels posés par les progrès de l’intelligence artificielle. Lors de son témoignage devant le Sénat américain cet été, Bengio a exposé les raisons de s’inquiéter des progrès rapides de l’IA vers des niveaux d’intelligence humaine équivalents : « Autrefois considéré comme étant à des décennies, voire à des siècles de distance, [Bengio et ses collègues lauréats du prix Turing] pensent maintenant que cela pourrait arriver dans quelques années ou quelques décennies », a-t-il déclaré au Congrès. « Aucun des systèmes avancés d’IA actuels n’est démontrablement sûr contre le risque de perte de contrôle face à une IA mal alignée ».