Yoshua Bengio a aidé à inventer l’apprentissage profond. Maintenant, il essaie de le rendre sûr.

Les dernières années ont vu l’essor de l’intelligence artificielle alimentée par l’apprentissage profond, mais des chercheurs universitaires travaillent depuis bien plus longtemps à développer et à comprendre son potentiel. Parmi les incontestables leaders du domaine, on compte Yoshua Bengio, directeur scientifique de l’Institut québécois d’intelligence artificielle Mila, qui abrite ce qui est considéré comme la plus grande concentration au monde de chercheurs universitaires en apprentissage profond. En 2018, Bengio (aux côtés de Geoffrey Hinton et de Yann LeCun) a remporté le prix Turing – l’équivalent d’un prix Nobel dans le domaine de l’informatique – pour ses contributions à l’apprentissage profond moderne. Au cours de la dernière année, Bengio a élargi son champ d’intérêt pour inclure la réflexion et l’écriture sur les risques sociaux, y compris les risques existentiels, liés à l’IA. En agissant ainsi, il s’est une fois de plus distingué comme un brillant penseur, abordant avec clarté une question complexe et difficile. Délié de tout grand laboratoire commercial, profondément respecté dans son domaine et en conversation avec les principaux universitaires qui sont d’accord avec lui ainsi que ceux qui ne le sont pas, Bengio est parfaitement placé pour faire évoluer la conversation sur les risques sociaux et existentiels liés au progrès de l’IA. Bengio a présenté devant le Sénat américain cet été les raisons de sa préoccupation face au progrès rapide de la capacité de l’IA à égaler les niveaux d’intelligence humaine : « Auparavant considéré comme étant des décennies, voire des siècles, ils [Bengio et ses collègues lauréats du prix Turing] pensent maintenant que cela pourrait être dans quelques années ou quelques décennies. Aucun des systèmes d’IA avancés actuels ne sont démontrablement sûrs contre le risque de perte de contrôle face à une IA mal alignée », a-t-il déclaré au Congrès.