Pourquoi j’ai laissé un chatbot IA s’entraîner sur mon livre

Il y a quatre ans, j’ai publié mon premier livre: « End Times: A Brief Guide to the End of the World ». Il a … fonctionné? J’ai eu un Q&A avec le site que vous lisez maintenant – merci, Dylan! – et le livre m’a finalement aidé à obtenir le poste de directeur de Future Perfect. J’avais une journée où je passais d’une émission de radio à l’autre, essayant d’expliquer en segments de cinq minutes aux animateurs de radio du matin de Philadelphie à Phoenix pourquoi nous devrions tous nous inquiéter davantage du risque de l’extinction de l’humanité et de ce que nous pourrions faire pour l’empêcher. Mais ce n’était pas un best-seller. Disons-le simplement – environ tous les six mois, je reçois une lettre de mon éditeur contenant une « déclaration de royalties non payée », qui est un peu comme recevoir une carte de Noël de vos parents, seulement au lieu d’argent, il contient juste une note vous disant combien ils ont dépensé pour vous élever. J’avoue donc que j’étais un peu fier quand j’ai reçu un email il y a quelques mois de la part des gens de aisafety.info, qui ont pour objectif de créer un centre central pour expliquer les questions relatives à la sécurité et à l’alignement de l’IA – comment rendre l’IA responsable des objectifs humains – à un public général. À cette fin, ils construisaient un grand modèle linguistique – avec le délicieux nom de « Stampy » – qui pouvait agir en tant que chatbot, répondant aux questions que les gens pourraient avoir sur le sujet. (Le site a été lancé en douceur, tandis que Stampy est toujours en phase de prototype.) Et ils me demandaient la permission d’utiliser mon livre End Times, qui contient un long chapitre sur les risques existentiels liés à l’IA, dans le cadre des données sur lesquelles Stampy serait formé. Ma première pensée, comme celle de tout auteur: quelqu’un a effectivement lu (ou au moins est au courant de l’existence de) mon livre! Mais ensuite, j’ai eu une seconde pensée: en tant qu’écrivain, qu’est-ce que cela signifie de permettre à un chatbot d’être formé sur votre propre travail? (Et gratuitement, en plus.) Contribuais-je à un projet qui pourrait aider les gens à mieux comprendre un sujet complexe et important comme la sécurité de l’IA? Ou bien accélérais-je simplement le processus de mon propre obsolescence?