Un après-midi à la fin du mois de novembre de l’année dernière, Timnit Gebru était assise sur le canapé de sa maison de la région de la baie de San Francisco, en pleurs. Gebru, une chercheuse chez Google, venait de sortir d’une réunion vidéo de dernière minute avec une cadre nommée Megan Kacholia, qui avait donné un ordre déconcertant. Gebru était la co-leader d’un groupe au sein de l’entreprise qui étudie les implications sociales et éthiques de l’intelligence artificielle, et Kacholia avait ordonné à Gebru de retirer son dernier article de recherche – ou sinon de retirer son nom de la liste des auteurs, ainsi que ceux de plusieurs autres membres de son équipe. L’article en question était, aux yeux de Gebru, assez incontestable. Il passait en revue les pièges connus des modèles de langage de grande taille, un type de logiciel d’IA – le plus célèbre étant exemplifié par un système appelé GPT-3 – qui suscitait de l’excitation dans l’industrie technologique. La propre version de la technologie de Google alimentait désormais le moteur de recherche de l’entreprise. Jeff Dean, le respecté chef de la recherche chez Google, avait encouragé Gebru à réfléchir aux possibles inconvénients de l’approche. L’article avait franchi le processus de révision interne de l’entreprise et avait été soumis à une conférence de renom. Mais Kacholia avait déclaré que certains responsables de produits et d’autres à l’intérieur de l’entreprise avaient jugé le travail inacceptable, se souvient Gebru. Kacholia était vague quant à leurs objections, mais a donné à Gebru une semaine pour agir. Sa date limite ferme était le lendemain de Thanksgiving. Cet article apparaît dans le numéro de juillet/août 2021. Abonnez-vous à WIRED. La détresse de Gebru s’est transformée en colère à mesure que cette date approchait et que la situation devenait plus étrange. Kacholia a donné à Samy Bengio, le manager de Gebru, un document listant les prétendus défauts de l’article, mais lui a demandé de ne pas le transmettre à Gebru, seulement de le lui lire. Le jour de Thanksgiving, Gebru a fait l’impasse sur certaines festivités en famille pour écouter la récitation de Bengio. Selon les souvenirs de Gebru et ses notes contemporaines, le document ne proposait pas d’éditions spécifiques mais se plaignait de ce que l’article traitait les sujets de manière « décontractée » et brossait un tableau trop sombre de la nouvelle technologie. Il prétendait également que toutes les utilisations des modèles de langage de grande taille par Google étaient « conçues pour éviter » les pièges décrits dans l’article.
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)
