Yoshua Bengio a inventé l’apprentissage profond. Maintenant, il essaie de le rendre sûr.

Les dernières années ont montré que l’intelligence artificielle moderne, alimentée par l’apprentissage profond, a captivé l’attention du monde entier, mais certains chercheurs universitaires travaillent depuis bien plus longtemps pour développer et comprendre son potentiel. Parmi les leaders incontestés de ce domaine, on retrouve Yoshua Bengio, directeur scientifique de l’Institut québécois d’intelligence artificielle Mila, un pôle scientifique abritant ce qui est considéré comme la plus grande concentration au monde de chercheurs en apprentissage profond. En 2018, Bengio (aux côtés de Geoffrey Hinton et Yann LeCun) a remporté le prix Turing – l’équivalent approximatif d’un prix Nobel dans le domaine de l’informatique – pour leurs contributions à l’apprentissage profond moderne. Au cours de la dernière année, Bengio a élargi son champ d’intérêt pour inclure la réflexion et l’écriture sur les risques sociaux, y compris les risques existentiels, liés à l’IA. En agissant ainsi, il s’est une fois de plus distingué comme un brillant penseur, attaquant un problème complexe et délicat avec une clarté inhabituelle. Ne devant rien aux grandes laboratoires commerciaux, profondément respecté dans son domaine et en conversation avec les principaux universitaires qui sont d’accord avec lui ainsi que ceux qui ne le sont pas, Bengio a été parfaitement positionné pour déplacer la conversation sur les risques sociaux et existentiels posés par la progression de l’IA. Bengio a présenté le cas en faveur des inquiétudes concernant les progrès rapides de la capacité de l’IA à atteindre des niveaux d’intelligence équivalents à ceux des êtres humains lors d’un témoignage devant le Sénat des États-Unis cet été : « Auparavant considérés comme des décennies, voire des siècles, [Bengio et ses collègues lauréats du prix Turing] estiment maintenant qu’ils pourraient être atteints dans quelques années ou quelques décennies », a-t-il déclaré au Congrès. « Aucun des systèmes d’IA avancés actuels n’est manifestement sûr contre le risque de perte de contrôle face à une IA mal alignée. »