Pourquoi j’ai laissé un chatbot IA s’entraîner sur mon livre

Il y a quatre ans, j’ai publié mon premier livre: La fin des temps: un bref guide de la fin du monde. Ce n’était pas mal du tout? J’ai eu droit à une entrevue avec le site que vous lisez en ce moment – merci, Dylan! – et le livre m’a finalement aidé à obtenir le poste de rédacteur en chef de Future Perfect. J’ai eu une journée où je suis passé d’une émission de radio à l’autre, essayant d’expliquer en segments de cinq minutes aux animateurs de radio de Philadelphia à Phoenix pourquoi nous devrions tous nous inquiéter davantage du risque de l’extinction de l’humanité et ce que nous pouvions faire pour l’empêcher. Mais ce n’était pas un best-seller. Disons-le ainsi – environ tous les six mois, je reçois une lettre de mon éditeur contenant un « état de redevance impayée », qui est un peu comme recevoir une carte de voeux de vos parents, seulement au lieu d’argent, elle contient juste une note vous disant combien ils ont dépensé pour vous élever. J’avoue que j’étais un peu flatté quand j’ai reçu un email il y a quelques mois de la part de gens de aisafety.info, qui ont pour objectif de créer un hub central pour expliquer les questions relatives à la sécurité et à l’alignement de l’IA à un public large. À cette fin, ils construisaient un grand modèle linguistique – avec le délicieux surnom de « Stampy » – qui pouvait agir en tant que chatbot, répondant aux questions que les gens pourraient se poser sur le sujet. (Le site vient d’être lancé en douceur, tandis que Stampy est toujours en phase de prototype.) Et ils me demandaient la permission d’utiliser mon livre La fin des temps, qui contient un long chapitre sur les risques existentiels de l’IA, comme partie des données sur lesquelles Stampy serait formé. Ma première pensée, comme celle de tout auteur: quelqu’un a vraiment lu (ou au moins est conscient de l’existence de) mon livre! Mais alors j’ai eu une deuxième pensée: en tant qu’écrivain, qu’est-ce que cela signifie de permettre à un chatbot d’être formé sur votre propre travail? (Et gratuitement, en plus.) Contribuais-je à un projet qui pourrait aider les gens à mieux comprendre un sujet complexe et important comme la sécurité de l’IA? Ou bien accelérais-je simplement le processus de mon propre obsolescence?