Un après-midi de novembre dernier, Timnit Gebru était assise sur son canapé dans sa maison de la région de la baie de San Francisco, en pleurs. Gebru, une chercheuse chez Google, venait de sortir d’une réunion vidéo de dernière minute avec une cadre nommée Megan Kacholia, qui avait donné un ordre choquant. Gebru était la coleader d’un groupe au sein de l’entreprise qui étudie les implications sociales et éthiques de l’intelligence artificielle, et Kacholia avait ordonné à Gebru de retirer son dernier article de recherche, sinon de retirer son nom de la liste des auteurs, ainsi que ceux de plusieurs autres membres de son équipe. L’article en question était, selon Gebru, assez inoffensif. Il passait en revue les écueils connus des modèles de langage larges, un type de logiciel d’IA — le plus célèbre étant un système appelé GPT-3 — qui suscitait l’excitation dans l’industrie technologique. La propre version de la technologie de Google alimentait désormais le moteur de recherche de l’entreprise. Jeff Dean, le vénéré responsable de la recherche chez Google, avait encouragé Gebru à réfléchir aux inconvénients possibles de l’approche. L’article avait franchi le processus de révision interne de l’entreprise et avait été soumis à une conférence de renom. Mais Kacholia avait déclaré qu’un groupe de responsables de produits et d’autres en interne avaient jugé le travail inacceptable, se souvient Gebru. Kacholia restait vague quant à leurs objections mais avait donné à Gebru une semaine pour agir. Sa date limite était le lendemain de Thanksgiving. Cet article apparaît dans le numéro de juillet-août 2021. Abonnez-vous à WIRED. L’inquiétude de Gebru s’est transformée en colère à l’approche de cette date et la situation est devenue de plus en plus étrange. Kacholia a donné à Samy Bengio, le manager de Gebru, un document listant les prétendus défauts de l’article, mais lui a dit de ne pas le transmettre à Gebru, seulement de le lui lire. Le jour de Thanksgiving, Gebru a renoncé à certaines festivités en famille pour écouter la récitation de Bengio. Selon le souvenir et les notes contemporaines de Gebru, le document ne proposait pas de modifications spécifiques mais se plaignait du traitement « désinvolte » des sujets dans l’article et du tableau trop sombre dressé de la nouvelle technologie. Il prétendait également que toutes les utilisations par Google des modèles de langage larges étaient « conçues pour éviter » les écueils décrits dans l’article.
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)
