‘Yoshua Bengio a aidé à inventer l’apprentissage profond. Maintenant, il essaie de le rendre sûr.’

L’intelligence artificielle moderne alimentée par l’apprentissage profond n’a attiré l’attention du monde entier que ces dernières années, mais certains chercheurs universitaires travaillent depuis bien plus longtemps au développement et à la compréhension de son potentiel. Parmi les leaders incontestés de ce domaine se trouve Yoshua Bengio, directeur scientifique de l’Institut québécois d’intelligence artificielle Mila, un pôle scientifique abritant ce qui est considéré comme la plus grande concentration de chercheurs universitaires en apprentissage profond au monde. En 2018, Bengio (aux côtés de Geoffrey Hinton et Yann LeCun) a remporté le prix Turing – l’équivalent approximatif d’un prix Nobel dans le domaine de l’informatique – pour leurs contributions à l’apprentissage profond moderne. Au cours de l’année écoulée, Bengio a élargi son champ d’intérêt pour inclure la réflexion et l’écriture sur les risques sociétaux, y compris les risques existentiels, liés à l’IA. Ce faisant, il s’est distingué une fois de plus en tant que brillant penseur, abordant une question complexe et controversée avec une clarté inhabituelle. Sans aucune attache avec de grands laboratoires commerciaux, fortement respecté dans son domaine et en conversation avec des universitaires de premier plan qui sont d’accord avec lui ainsi qu’avec ceux qui ne le sont pas, Bengio est dans une position unique pour faire avancer la discussion sur les risques sociaux et existentiels posés par les progrès de l’IA. Lors de son témoignage devant le Sénat américain cet été, Bengio a exposé les raisons de s’inquiéter des progrès rapides de l’IA vers des niveaux d’intelligence humaine équivalents : « Autrefois considéré comme étant des décennies, voire des siècles, dans le futur, [Bengio et les autres lauréats du prix Turing] pensent maintenant que cela pourrait être une affaire de quelques années ou de quelques décennies », a-t-il déclaré au Congrès. « Aucun des systèmes d’IA avancés actuels n’est démontrablement sûr contre le risque de perte de contrôle au profit d’une IA mal alignée ».