Lorsque le conseil d’administration d’OpenAI a organisé une mutinerie de pacotille en novembre dernier, évincant les dirigeants de l’entreprise pour les voir revenir alors que les membres du conseil étaient poussés à démissionner, quelque chose semblait pourri dans l’état de l’altruisme efficace. Nominalement, la mission d’OpenAI était de s’assurer que l’IA « bénéficie à toute l’humanité ». Fiduciairement, la mission d’OpenAI est de bénéficier au sous-ensemble de l’humanité ayant des intérêts dans OpenAI. Et puis, bien sûr, il y avait Sam Bankman-Fried, l’altruiste criminel qui plaidait en cour l’automne dernier que sa sinistre plateforme de cryptomonnaie était en réalité un noble exercice de gagner pour donner — en faisant certes de l’argent, mais seulement pour le redistribuer aux pauvres du monde entier. Le jury n’en a pas cru un mot, le déclarant coupable de sept chefs d’accusation de jouer à Dieu pour frauder. Cette semaine, il a été condamné à 25 ans de prison, et son équipe juridique a déploré que SBF ait été qualifié de « super-vilain dépravé ». Mais pendant qu’OpenAI et SBF étaient occupés à ternir l’image de l’altruisme efficace, l’interrogation centrale de cette philosophie a persisté. Comment aider le mieux les autres ? Devrions-nous nourrir les affamés ? Modéliser les catastrophes potentielles de l’IA générale ? Coloniser Mars ? Cette semaine dans WIRED, le philosophe Leif Wenar qualifie l’EA de « religion laïque des élites ». En effet, chaque prêcheur de rue de la Silicon Valley semble vouloir faire une homélie à ce sujet. (Strangers Drowning, de Larissa MacFarquhar, reste le meilleur livre récent sur l’altruisme et ses désagréments). Mais ce n’est qu’en discutant avec Elie Hassenfeld, le PDG de GiveWell, l’organisme d’examen des œuvres de bienfaisance qui a depuis longtemps été l’associé des philanthropes de la Silicon Valley, que j’ai réalisé que l’EA n’a pas à être un credo ou une philosophie ou un débat. À GiveWell, c’est une liste de choses à faire. La réponse de Hassenfeld à la question « Comment être bon ? » est déconcertamment précise. Elle est également utilitariste, et ennuyeuse. Donne à Malaria Consortium, à Against Malaria Foundation, à Helen Keller International et à New Incentives. Ce sont les principales œuvres de bienfaisance de GiveWell, choisies car elles préviennent le paludisme, empêchent la cécité et la mort chez les enfants, et vaccinent les enfants. Comment GiveWell en est-il si sûr ? Consultez, si vous osez, ses recherches pointues, et assurez-vous de jeter un œil à l’onglet « Nos erreurs » si vous voulez voir à quoi ressemble une exécution crédible de la franchise dans la collecte de données.
« Survivre cet été sur Internet »
Un après-midi d’août, alors qu’un suprémaciste blanc conduisait une voiture à travers une foule de manifestants pacifiques à Charlottesville, en
