‘Yoshua Bengio a aidé à inventer l’apprentissage profond. Maintenant, il essaie de le rendre sûr.’

L’intelligence artificielle moderne alimentée par l’apprentissage profond n’a attiré l’attention du monde que ces dernières années, mais certains chercheurs universitaires travaillent au développement et à la compréhension de son potentiel depuis bien plus longtemps que cela. Parmi les leaders incontestés de ce domaine se trouve Yoshua Bengio, directeur scientifique de l’Institut québécois d’intelligence artificielle Mila, un pôle scientifique qui abrite ce qui est considéré comme la plus grande concentration de chercheurs universitaires en apprentissage profond au monde. En 2018, Bengio (avec Geoffrey Hinton et Yann LeCun) a remporté le prix Turing, l’équivalent approximatif d’un prix Nobel dans le domaine de l’informatique, pour leurs contributions à l’apprentissage profond moderne. Au cours de l’année écoulée, Bengio a élargi son champ d’investigation pour inclure la réflexion et l’écriture sur les risques sociétaux, y compris les risques existentiels, liés à l’IA. En le faisant, il s’est une fois de plus distingué en tant que penseur brillant, abordant une question complexe et controversée avec une clarté inhabituelle. Sans être endetté envers de grands laboratoires commerciaux, profondément respecté dans son domaine et en dialogue avec des universitaires de premier plan qui sont d’accord avec lui, ainsi qu’avec ceux qui ne le sont pas, Bengio est parfaitement placé pour faire avancer la réflexion sur les risques sociétaux et existentiels posés par les progrès de l’IA. Lors d’un témoignage devant le Sénat américain cet été, Bengio a exposé les raisons de s’inquiéter de la progression rapide des capacités de l’IA vers une égalité avec les niveaux d’intelligence humaine : « Pensée auparavant à des décennies, voire même des siècles de distance, [Bengio et ses confrères récipiendaires du prix Turing] croient maintenant que cela pourrait être réalisé d’ici quelques années ou quelques décennies », a-t-il déclaré au Congrès. « Aucun des systèmes avancés d’IA actuels n’est démontrablement sûr face au risque de perte de contrôle envers une IA mal alignée. »