Yoshua Bengio a aidé à inventer l’apprentissage profond. Maintenant, il essaie de le rendre sûr.

Les plus récents progrès en matière d’apprentissage profond ont attiré l’attention du monde entier seulement ces dernières années, mais certains chercheurs universitaires travaillent depuis bien plus longtemps pour développer et comprendre son potentiel. Parmi les chefs de file incontestés du domaine, on retrouve Yoshua Bengio, directeur scientifique de l’Institut québécois d’apprentissage profond Mila, un pôle scientifique qui abrite ce qui est considéré comme la plus grande concentration au monde de chercheurs universitaires en apprentissage profond. En 2018, Bengio (aux côtés de Geoffrey Hinton et Yann LeCun) a remporté le prix Turing – l’équivalent approximatif d’un prix Nobel dans le domaine de l’informatique – pour leurs contributions à l’apprentissage profond moderne. Au cours de la dernière année, Bengio a élargi son champ d’intérêt pour inclure la réflexion et l’écriture sur les risques sociétaux, y compris les risques existentiels, liés à l’IA. En agissant ainsi, il s’est une fois de plus distingué comme un brillant penseur, attaquant un problème complexe et difficile avec une clarté inhabituelle. Débiteur d’aucun grand laboratoire commercial, profondément respecté dans son domaine et en conversation avec les principaux universitaires qui partagent son point de vue ainsi que ceux qui ne le partagent pas, Bengio est parfaitement placé pour faire avancer la conversation sur les risques sociétaux et existentiels posés par les progrès de l’IA. Dans son témoignage devant le Sénat américain cet été, Bengio a présenté les raisons de sa préoccupation face à la rapidité des progrès de l’IA en matière d’intelligence égale ou proche de celle des êtres humains : « Auparavant considérés comme étant à des années, voire des siècles de là, [Bengio et ses collègues lauréats du prix Turing] estiment maintenant qu’ils pourraient être atteints dans quelques années ou dans quelques dizaines d’années », a-t-il déclaré au Congrès. « Aucun des systèmes d’IA avancés actuels n’est manifestement sûr contre le risque de perte de contrôle vis-à-vis d’une IA mal alignée. »

Share the Post: