Lorsque le conseil d’administration d’OpenAI a organisé une mutinerie bidon en novembre dernier, évinçant la direction de l’entreprise pour voir les patrons revenir tandis que les membres du conseil étaient poussés à démissionner, quelque chose semblait pourri dans l’état de l’altruisme efficace. Nominativement, la mission d’OpenAI était de s’assurer que l’IA « profite à l’ensemble de l’humanité ». Fiduciairement, la mission d’OpenAI est de profiter au sous-ensemble de l’humanité ayant des intérêts dans OpenAI. Et puis, bien sûr, il y avait Sam Bankman-Fried, l’altruiste criminel qui a plaidé en cour l’automne dernier que son sordide échange de crypto était en fait un noble exercice de collecte de fonds – gagnant de l’argent à la Midas, bien sûr, mais seulement pour le diriger vers les pauvres du monde. Le jury n’a pas été convaincu, le condamnant à sept chefs d’accusation de jouer aux dieux pour tromper. Cette semaine, il a été condamné à 25 ans de prison, et son équipe juridique s’est plainte que SBF était qualifié de « super-vilain dépravé ». Mais tandis qu’OpenAI et SBF discréditaient la marque EA, l’enquête centrale de la philosophie a persisté. Comment aider au mieux les autres ? Devrions-nous nourrir les affamés? Modéliser les catastrophes potentielles de l’AGI? Coloniser Mars? Dans WIRED cette semaine, le philosophe Leif Wenar qualifie l’EA de « religion laïque des élites ». En effet, chaque prédicateur de rue de la Silicon Valley semble vouloir en faire la prédication. (Strangers Drowning, de Larissa MacFarquhar, reste le meilleur livre récent sur l’altruisme et ses mécontentements.) Mais ce n’est que en m’asseyant avec Elie Hassenfeld, le PDG de GiveWell, l’évaluateur de charité qui a longtemps été l’associé stable des philanthropes de la Silicon Valley, que j’ai réalisé que l’EA n’a pas à être un credo ou une philosophie ou un débat. Chez GiveWell, c’est une liste de tâches. La réponse de Hassenfeld à « Comment être bon ? » est déconcertante mais précise. C’est aussi utilitaire et ennuyeux. Donnez à Malaria Consortium, Against Malaria Foundation, Helen Keller International, et New Incentives. Ce sont les meilleures charités de GiveWell, choisies car elles luttent contre le paludisme, préviennent la cécité et la mort infantile, et vaccinent les enfants. Comment GiveWell en est-il si sûr ? Consultez, si cela vous tente, sa recherche approfondie, et assurez-vous de consulter l’onglet « Nos erreurs » si vous voulez voir à quoi ressemble une performance crédible de franchise dans la collecte de données.
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)
