Yoshua Bengio a aidé à inventer l’apprentissage profond. Maintenant, il essaie de le rendre sûr.

Les dernières années ont vu l’essor de l’IA alimentée par l’apprentissage profond, et son potentiel n’a cessé d’être étudié et développé par les chercheurs académiques depuis bien plus longtemps. Parmi les leaders incontestés du domaine, on compte Yoshua Bengio, directeur scientifique de l’Institut québécois d’IA à Montréal, un hub scientifique abritant ce qui est considéré comme la plus grande concentration au monde de chercheurs en apprentissage profond. En 2018, Bengio (aux côtés de Geoffrey Hinton et Yann LeCun) a remporté le prix Turing – l’équivalent d’un prix Nobel en informatique – pour ses contributions à l’IA moderne. Au cours de la dernière année, Bengio a élargi son champ d’intérêt pour inclure la réflexion et l’écriture sur les risques sociaux, y compris les risques existentiels, liés à l’IA. En agissant ainsi, il s’est une fois de plus distingué comme un brillant penseur, abordant un sujet complexe et controversé avec une clarté inhabituelle. Indépendant des grands laboratoires commerciaux, profondément respecté de son domaine et en conversation avec les principaux académiques qui partagent ses vues comme ceux qui ne le font pas, Bengio est en position unique pour faire avancer la discussion sur les risques sociaux et existentiels posés par les progrès de l’IA. Dans sa déposition devant le Sénat américain cet été, Bengio a présenté les raisons de sa préoccupation face à la progression rapide de la capacité de l’IA à atteindre les niveaux d’intelligence humaine: «Auparavant considérés comme des décennies, voire des siècles, [Bengio et ses collègues lauréats du prix Turing] estiment maintenant qu’ils pourraient être atteints dans quelques années ou dans une couple de décennies», a-t-il déclaré au Congrès. «Aucun des systèmes d’IA avancés actuels n’est démontrablement sûr contre le risque de perte de contrôle en cas d’IA mal alignée.»