‘Yoshua Bengio a aidé à inventer l’apprentissage profond. Maintenant, il essaie de le rendre sécuritaire.’

L’IA moderne alimentée par l’apprentissage profond n’a attiré l’attention du monde que ces dernières années, mais certains chercheurs universitaires travaillent depuis beaucoup, beaucoup plus longtemps pour développer et comprendre son potentiel. Parmi les leaders incontestés de ce domaine se trouve Yoshua Bengio, directeur scientifique de l’Institut québécois de l’IA Mila, un pôle scientifique qui abrite ce qui est considéré comme la plus grande concentration de chercheurs universitaires en apprentissage profond au monde. En 2018, Bengio (avec Geoffrey Hinton et Yann LeCun) a remporté le prix Turing – l’équivalent approximatif d’un prix Nobel dans le domaine de l’informatique – pour sa contribution à l’apprentissage profond moderne. Au cours de l’année écoulée, Bengio a élargi son domaine d’intérêt pour inclure la réflexion et l’écriture sur les risques sociétaux, y compris les risques existentiels, liés à l’IA. Ce faisant, il s’est encore une fois distingué en tant que penseur brillant, abordant un problème complexe et délicat avec une clarté inhabituelle. Sans être redevable à de grands laboratoires commerciaux, profondément respecté dans son domaine et en conversation avec des universitaires de premier plan qui sont d’accord avec lui ainsi qu’avec ceux qui ne le sont pas, Bengio est parfaitement placé pour faire avancer la conversation sur les risques sociétaux et existentiels posés par les progrès de l’IA. Dans son témoignage devant le Sénat américain cet été, Bengio a exposé les raisons de s’inquiéter des progrès rapides de l’aptitude de l’IA à atteindre les niveaux d’intelligence humaine : « Jusqu’à présent considérés comme étant à des décennies, voire des siècles de distance, [Bengio et les autres lauréats du prix Turing] pensent maintenant que cela pourrait se produire dans quelques années ou quelques décennies », a-t-il déclaré au Congrès. « Aucun des systèmes d’IA avancés actuels n’est démontrablement sûr contre le risque de perte de contrôle d’une IA mal alignée. »