Lorsque le conseil d’administration d’OpenAI a organisé une mutinerie bidon en novembre dernier, écartant le leadership de l’entreprise pour que les patrons reviennent tandis que les membres du conseil étaient poussés à démissionner, quelque chose semblait pourri dans l’état de l’altruisme efficace. Nominalement, la mission d’OpenAI était de s’assurer que l’IA « profite à toute l’humanité. » Fiduciairement, la mission d’OpenAI est de bénéficier au sous-ensemble de l’humanité ayant un intérêt dans OpenAI. Et puis, bien sûr, il y avait Sam Bankman-Fried, l’altruiste criminel qui a soutenu devant les tribunaux l’automne dernier que son sordide échange de cryptomonnaie était en fait un exercice noble de gains pour donner — générant de l’argent à la Midas, certes, mais seulement pour le redistribuer aux pauvres du monde entier. Le jury n’a pas adhéré, le condamnant pour sept chefs d’accusation d’imposture divine. Cette semaine, il a été condamné à 25 ans de prison, et son équipe juridique s’est plainte que SBF a été présenté comme un « super-méchant dépravé. » Mais alors qu’OpenAI et SBF étaient occupés à discréditer la marque de l’EA, l’interrogation centrale de la philosophie persistait. Comment aider au mieux les autres ? Devrions-nous nourrir les affamés ? Modéliser les catastrophes potentielles de l’IA générale ? Coloniser Mars ? Cette semaine dans WIRED, le philosophe Leif Wenar qualifie l’EA de « religion laïque des élites. » En effet, chaque prédicateur de rue de la Silicon Valley semble vouloir en donner la leçon. (Strangers Drowning, de Larissa MacFarquhar, reste le meilleur livre récent sur l’altruisme et ses désagréments.) Mais ce n’est qu’en m’asseyant avec Elie Hassenfeld, le PDG de GiveWell, l’organisme évaluateur de bienfaisance qui a longtemps été le partenaire stable des philanthropes de la Silicon Valley, que j’ai réalisé que l’EA n’a pas à être un credo ou une philosophie ou un débat. Chez GiveWell, c’est une liste de choses à faire. La réponse de Hassenfeld à « Comment être bon ? » est déconcertante de spécificité. Elle est aussi utilitaire et ennuyeuse. Donnez à Malaria Consortium, Against Malaria Foundation, Helen Keller International et New Incentives. Ce sont les principales organisations recommandées par GiveWell, choisies car elles combattent le paludisme, préviennent la cécité et la mort chez les enfants, et vaccinent les enfants. Comment GiveWell peut-il être si sûr ? Consultez, si vous osez, ses recherches pointues, et assurez-vous de regarder l’onglet « Nos erreurs » si vous voulez voir à quoi ressemble une performance crédible de transparence dans la collecte de données.
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)
