Il y a quatre ans, j’ai publié mon premier livre: « End Times: A Brief Guide to the End of the World ». Ca s’est plutôt bien passé? J’ai eu droit à une entrevue sur le site que vous lisez actuellement – merci, Dylan! – et le livre m’a finalement aidé à décrocher le poste de directeur de Future Perfect. J’ai eu une journée où je suis passé d’une émission de radio à l’autre, essayant d’expliquer en segments de cinq minutes aux animateurs de radio de Philadelphie à Phoenix pourquoi nous devrions tous nous inquiéter davantage du risque de l’extinction de l’humanité et ce que nous pouvions faire pour l’empêcher. Mais un best-seller, ce n’était pas. Voyons les choses de cette façon – environ tous les six mois, je reçois une lettre de mon éditeur contenant un « état de royalties non payé », ce qui ressemble un peu à recevoir une carte de Noël de vos parents, sauf qu’au lieu de l’argent, il contient juste une note vous expliquant combien ils ont dépensé pour vous élever. Alors j’avoue que j’étais un peu fier quand j’ai reçu un email il y a quelques mois de la part des gens de aisafety.info, qui ont pour objectif de créer un point central pour expliquer les questions concernant la sécurité des IA et l’alignement des IA – comment rendre les IA responsables des objectifs humains – à un public large. À cet effet, ils construisaient un grand modèle de langage – avec le charmant nom de « Stampy » – qui pouvait agir en tant que chatbot, répondant aux questions que les gens pourraient se poser sur le sujet. (Le site vient d’être lancé doucement, tandis que Stampy est toujours en phase de prototype.) Et ils me demandaient la permission d’utiliser mon livre End Times, qui contient un long chapitre sur les risques existentiels liés aux IA, comme partie des données que Stampy devrait apprendre. Ma première pensée, comme celle de tout auteur: quelqu’un a vraiment lu (ou est au moins conscient de l’existence de) mon livre! Mais ensuite j’ai eu une seconde pensée: en tant qu’écrivain, que signifie-t-il de permettre à un chatbot d’être formé sur votre propre travail? (Et gratuitement, en plus.) Contribuais-je à un projet qui pourrait aider les gens à mieux comprendre un sujet complexe et important comme la sécurité des IA? Ou bien accélérais-je simplement le processus de mon propre obsolescence?
« Les livres de Penguin Random House disent maintenant explicitement ‘non’ à la formation IA »
‘Écrit par Emma Roth, dont le portfolio couvre aussi bien les percées technologiques grand public, les dynamiques de l’industrie du
