Yoshua Bengio a aidé à inventer l’apprentissage profond. Maintenant, il essaie de le rendre sûr.

L’IA moderne alimentée par l’apprentissage profond n’a capté l’attention du monde que ces dernières années, mais certains chercheurs universitaires travaillent au développement et à la compréhension de son potentiel depuis bien plus longtemps. Parmi les leaders incontestés du domaine se trouve Yoshua Bengio, directeur scientifique de l’Institut Mila Québec IA, une plateforme scientifique qui abrite la plus grande concentration de chercheurs universitaires en apprentissage profond au monde. En 2018, Bengio (ainsi que Geoffrey Hinton et Yann LeCun) a remporté le prix Turing – l’équivalent approximatif d’un prix Nobel dans le domaine de l’informatique – pour leurs contributions à l’apprentissage profond moderne. Au cours de la dernière année, Bengio a élargi son champ d’action pour inclure la réflexion et l’écriture sur les risques sociétaux, y compris les risques existentiels, liés à l’IA. Ce faisant, il s’est distingué une fois de plus en tant que penseur brillant, abordant un problème complexe et conflictuel avec une clarté inhabituelle. N’ayant aucune affiliation avec de grands laboratoires commerciaux, profondément respecté dans son domaine et en dialogue avec les principaux universitaires qui sont d’accord avec lui ainsi que ceux qui ne le sont pas, Bengio est dans une position unique pour faire avancer la discussion sur les risques sociétaux et existentiels posés par les progrès de l’IA. Lors de son témoignage devant le Sénat américain cet été, Bengio a exposé les arguments pour s’inquiéter de la progression rapide des capacités de l’IA vers une égale intelligence humaine : « Autrefois considéré comme des décennies, voire des siècles à venir, [Bengio et ses collègues lauréats du prix Turing] pensent maintenant que cela pourrait être réalisé dans quelques années ou quelques décennies », a-t-il déclaré au Congrès. « Aucun des systèmes IA avancés actuels n’est démontrablement sûr contre le risque de perte de contrôle à cause d’une IA mal alignée. »

Share the Post: