Quand le conseil d’administration d’OpenAI a organisé une mutinerie bidon en novembre dernier, renversant la direction de l’entreprise pour ensuite voir les patrons revenir alors que les membres du conseil étaient poussés à démissionner, quelque chose semblait pourri dans l’état de l’altruisme efficace. Nominalement, la mission d’OpenAI avait été d’assurer que l’IA « bénéficie à toute l’humanité ». Fiduciairement, la mission d’OpenAI est de bénéficier au sous-ensemble de l’humanité ayant un intérêt dans OpenAI. Et puis, bien sûr, il y avait Sam Bankman-Fried, l’altruiste criminel qui plaidait en cour l’automne dernier que sa sombre bourse de crypto était en réalité un noble exercice de collecte de fonds pour redistribuer aux pauvres du monde. Le jury n’a pas été convaincu, le condamnant pour sept chefs d’accusation de jouer à Dieu pour frauder. Cette semaine, il a été condamné à 25 ans de prison et son équipe juridique a protesté contre le fait que SBF ait été qualifié de « super-vilain dépravé ». Mais tandis qu’OpenAI et SBF étaient occupés à ternir l’image de l’AE, l’enquête centrale de la philosophie a persisté. Comment aider au mieux les autres ? Devrions-nous nourrir les affamés ? Modéliser les catastrophes potentielles de l’IA générale ? Coloniser Mars ? Dans WIRED cette semaine, le philosophe Leif Wenar appelle l’AE « la religion laïque des élites ». En effet, chaque prédicateur de rue dans la Silicon Valley semble vouloir en faire la leçon. (Les étrangers qui se noient, par Larissa MacFarquhar, reste le meilleur livre récent sur l’altruisme et ses mécontentements). Mais ce n’est qu’en m’asseyant avec Elie Hassenfeld, le PDG de GiveWell, l’organisme d’évaluation de bienfaisance qui a longtemps été l’associé des philanthropes de la Silicon Valley, que j’ai réalisé que l’AE ne doit pas être un credo ou une philosophie ou un débat. Chez GiveWell, c’est une liste de choses à faire. La réponse de Hassenfeld à « Comment être bon ? » est troublante de précision. Elle est aussi utilitariste et ennuyeuse. Donnez à Malaria Consortium, à l’Against Malaria Foundation, à Helen Keller International et à New Incentives. Ce sont les meilleures organisations caritatives de GiveWell, choisies parce qu’elles combattent le paludisme, évitent la cécité et la mort infantile, et vaccinent les enfants. Comment GiveWell en est-il si sûr ? Consultez, si vous osez, sa recherche pointue, et assurez-vous de consulter l’onglet « Nos Erreurs » si vous voulez voir à quoi ressemble une performance crédible de franchise dans la collecte de données.
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)
