« Ce qu’il s’est réellement passé lorsque Google a évincé Timnit Gebru »

Un après-midi de novembre dernier, Timnit Gebru était assise sur le canapé de sa maison de la région de la baie de San Francisco, en train de pleurer. Gebru, une chercheuse chez Google, venait de quitter précipitamment une réunion vidéo de dernière minute avec une cadre nommée Megan Kacholia, qui lui avait donné un ordre choquant. Gebru était la co-leader d’un groupe au sein de l’entreprise qui étudie les répercussions sociales et éthiques de l’intelligence artificielle, et Kacholia avait ordonné à Gebru de retirer son dernier article de recherche, ou sinon de retirer son nom de la liste des auteurs, tout comme ceux de plusieurs autres membres de son équipe. Selon Gebru, l’article en question était assez inoffensif. Il passait en revue les écueils connus des grands modèles de langage, un type de logiciel d’IA – le plus célèbre étant un système appelé GPT-3 – qui suscitait l’excitation dans l’industrie technologique. La version de la technologie de Google aidait désormais à alimenter le moteur de recherche de l’entreprise. Jeff Dean, le vénéré responsable de la recherche chez Google, avait encouragé Gebru à réfléchir aux éventuels inconvénients de cette approche. L’article avait été approuvé par le processus de révision interne de l’entreprise et avait été soumis à une conférence de renom. Mais Kacholia avait déclaré que des responsables de produits et d’autres personnes à l’intérieur de l’entreprise avaient jugé que le travail était inacceptable, se souvient Gebru. Kacholia était vague sur leurs objections mais avait donné à Gebru une semaine pour agir. La date limite fixe était le lendemain de Thanksgiving. Cet article est paru dans le numéro de juillet/août 2021. Abonnez-vous à WIRED. La détresse de Gebru a laissé place à la colère à mesure que cette date approchait et que la situation devenait de plus en plus étrange. Kacholia avait remis à Samy Bengio, le responsable de Gebru, un document listant les prétendus défauts de l’article, mais lui avait dit de ne pas le transmettre à Gebru, juste de le lui lire. Le jour de Thanksgiving, Gebru a abandonné certaines festivités en famille pour écouter le récital de Bengio. Selon le souvenir de Gebru et ses notes contemporaines, le document ne proposait pas de modifications spécifiques mais se plaignait du traitement « superficiel » des sujets dans l’article et de la vision trop sombre de la nouvelle technologie. Il prétendait également que toutes les utilisations des grands modèles de langage de Google étaient « conçues pour éviter » les écueils décrits dans l’article.