Yoshua Bengio a aidé à inventer l’apprentissage profond. Maintenant il essaie de le rendre sécuritaire.

L’IA moderne alimentée par l’apprentissage profond n’a capté l’attention du monde que ces dernières années, mais certains chercheurs universitaires travaillent depuis bien plus longtemps au développement et à la compréhension de son potentiel. Parmi les leaders incontestés du domaine se trouve Yoshua Bengio, directeur scientifique de l’Institut québécois de l’IA Mila, un pôle scientifique qui abrite ce qui est considéré comme la plus grande concentration mondiale de chercheurs universitaires en apprentissage profond. En 2018, Bengio (aux côtés de Geoffrey Hinton et Yann LeCun) a remporté le prix Turing – l’équivalent approximatif d’un prix Nobel dans le domaine de l’informatique – pour leurs contributions à l’apprentissage profond moderne. Au cours de l’année écoulée, Bengio a élargi son champ d’action pour inclure la réflexion et l’écriture sur les risques sociétaux, y compris les risques existentiels, liés à l’IA. Ce faisant, il s’est une fois de plus distingué en tant que penseur brillant, attaquant un problème complexe et délicat avec une clarté inhabituelle. N’étant redevable à aucun grand laboratoire commercial, profondément respecté dans son domaine et en dialogue avec des universitaires de premier plan qui sont d’accord avec lui ainsi qu’avec ceux qui ne le sont pas, Bengio est dans une position unique pour faire avancer la conversation sur les risques sociétaux et existentiels posés par les progrès de l’IA. Dans son témoignage devant le Sénat américain cet été, Bengio a exposé les raisons de s’inquiéter de la progression rapide de la capacité de l’IA pour rivaliser avec les niveaux d’intelligence humaine : « Pensé auparavant pour être encore à des décennies, voire des siècles de distance, [Bengio et ses collègues lauréats du prix Turing] pensent maintenant que cela pourrait se produire dans quelques années ou quelques décennies », a-t-il déclaré au Congrès. « Aucun des systèmes avancés d’IA actuels n’est démontrablement sûr contre le risque de perte de contrôle envers une IA non alignée. »