Pourquoi j’ai laissé un chatbot IA s’entraîner sur mon livre

Il y a quatre ans, j’ai publié mon premier livre: « End Times: A Brief Guide to the End of the World ». Il a plutôt bien marché? J’ai eu un entretien avec le site que vous lisez en ce moment – merci, Dylan! – et le livre m’a finalement aidé à décrocher le poste de directeur de Future Perfect. J’avais une journée où je passais d’une émission de radio à l’autre, essayant d’expliquer en segments de cinq minutes aux animateurs de radio de Philadelphie à Phoenix pourquoi nous devrions tous nous inquiéter davantage du risque d’extinction de l’humanité et ce que nous pouvions faire pour l’empêcher. Mais ce n’était pas un best-seller. Disons-le simplement: environ tous les six mois, je reçois une lettre de mon éditeur contenant un « relevé de redevances non payées », ce qui est un peu comme recevoir une carte de voeux de vos parents, sauf qu’au lieu de l’argent, il n’y a qu’une note vous disant combien ils ont dépensé pour vous élever. J’avoue donc que j’étais un peu ravi quand j’ai reçu un email il y a quelques mois de la part de gens de aisafety.info, qui visent à créer un hub central pour expliquer les questions concernant la sécurité et l’alignement des IA – comment rendre les IA responsables des objectifs humains – à un public large. A cette fin, ils construisaient un grand modèle linguistique – avec le charmant nom de « Stampy » – qui pouvait agir en tant que chatbot, répondant aux questions que les gens pourraient se poser sur le sujet. (Le site vient d’être lancé en douceur, tandis que Stampy est toujours en phase de prototype.) Et ils me demandaient la permission d’utiliser mon livre End Times, qui contient un long chapitre sur les risques existentiels liés aux IA, comme partie des données sur lesquelles Stampy serait formé. Ma première pensée, comme celle de tout auteur: quelqu’un a vraiment lu (ou est au moins conscient de l’existence de) mon livre! Mais ensuite j’ai eu une seconde pensée: en tant qu’écrivain, que signifie-t-il de permettre à un chatbot d’être formé sur votre propre travail? (Et gratuitement, en plus.) Contribuais-je à un projet qui pourrait aider les gens à mieux comprendre un sujet complexe et important comme la sécurité des IA? Ou accélérais-je simplement le processus de mon propre obsolescence?