Il y a quatre ans, j’ai publié mon premier livre : End Times : A Brief Guide to the End of the World. Ce n’était pas mal… J’ai eu droit à une entrevue sur le site que vous lisez en ce moment – merci, Dylan ! – et le livre m’a finalement aidé à décrocher le poste de rédacteur en chef de Future Perfect. J’ai passé une journée entière à faire la tournée des radios, essayant d’expliquer en cinq minutes aux animateurs de matinale de Philadelphie, Phoenix et d’autres villes pourquoi nous devrions tous nous inquiéter davantage du risque d’extinction de l’espèce humaine et ce que nous pouvons faire pour l’éviter. Mais ce n’est pas un best-seller. Disons les choses clairement : environ tous les six mois, je reçois une lettre de mon éditeur contenant un « relevé de royalties non payées », c’est un peu comme recevoir une carte de Noël de vos parents, sauf qu’au lieu d’argent, il n’y a qu’une note vous expliquant combien ils ont dépensé pour vous élever. J’avoue que j’étais un peu ravi quand j’ai reçu un e-mail il y a quelques mois de la part de gens de aisafety.info, qui ont pour objectif de créer un centre central d’informations pour expliquer aux gens en général les questions relatives à la sécurité et à l’alignement des IA – comment rendre les IA responsables des objectifs des humains. À cette fin, ils entraînaient un grand modèle de langage – avec le délicieux nom de « Stampy » – qui pourrait agir en tant que chatbot, répondant aux questions que les gens pourraient se poser sur le sujet. (Le site vient d’être lancé en douceur, tandis que Stampy est toujours en phase de prototype.) Et ils me demandaient la permission d’utiliser mon livre End Times, qui contient un long chapitre sur les risques existentiels liés aux IA, comme partie des données sur lesquelles Stampy serait formé. Ma première pensée, comme celle de tout auteur : quelqu’un a effectivement lu (ou au moins est au courant de l’existence de) mon livre ! Mais ensuite, j’ai eu une seconde pensée : en tant qu’écrivain, que signifie-t-il de permettre à un chatbot d’être formé à partir de son propre travail ? (Et gratuitement, en plus.) Contribuais-je à un projet qui pourrait aider les gens à mieux comprendre un sujet complexe et important comme la sécurité des IA ? Ou bien accélérais-je simplement le processus de mon propre obsolescence ?
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)
