Yoshua Bengio a contribué à inventer l’apprentissage profond. Maintenant, il essaie de le rendre sûr.

La traduction en français du texte est la suivante : « L’intelligence artificielle moderne propulsée par l’apprentissage profond n’a attiré l’attention du monde que ces dernières années, mais certains chercheurs universitaires travaillent depuis bien plus longtemps pour développer et comprendre son potentiel. Parmi les leaders incontestés du domaine se trouve Yoshua Bengio, directeur scientifique de l’Institut québécois de l’IA Mila, un pôle scientifique abritant ce qui est considéré comme la plus grande concentration mondiale de chercheurs universitaires en apprentissage profond. En 2018, Bengio (accompagné de Geoffrey Hinton et Yann LeCun) a remporté le prix Turing – l’équivalent approximatif d’un prix Nobel dans le domaine de l’informatique – pour leurs contributions à l’apprentissage profond moderne. Au cours de la dernière année, Bengio a élargi son champ d’action pour inclure la réflexion et l’écriture sur les risques sociaux, y compris les risques existentiels, liés à l’IA. Ce faisant, il s’est distingué une fois de plus en tant que penseur brillant, abordant une question complexe et épineuse avec une clarté inhabituelle. Sans dette envers de grands laboratoires commerciaux, profondément respecté dans son domaine et en conversation avec des universitaires de premier plan qui sont d’accord avec lui ainsi qu’avec ceux qui ne le sont pas, Bengio est positionné de manière unique pour faire évoluer la discussion sur les risques sociaux et existentiels posés par les progrès de l’IA. Dans son témoignage devant le Sénat américain cet été, Bengio a exposé les raisons de s’inquiéter du progrès rapide de la capacité de l’IA à atteindre les niveaux d’intelligence humaine : « Autrefois considéré comme étant à des décennies, voire des siècles, [Bengio et ses collègues lauréats du prix Turing] pensent désormais que cela pourrait se produire d’ici quelques années ou quelques décennies, » a-t-il déclaré au Congrès. « Aucun des systèmes d’IA avancés actuels n’est démontrablement sûr contre le risque de perte de contrôle face à une IA mal alignée. »