Pourquoi j’ai laissé un chatbot IA s’entraîner sur mon livre

Quatre ans ago, j’ai publié mon premier book: « End Times: A Brief Guide to the End of the World ». Il a…okayé? J’ai gagné une entrevue avec le site que vous lisez maintenant- merci, Dylan! – et le book m’a finalement aidé à obtenir le job de diriger Future Perfect. J’avais un jour où je passais d’une entrevue radio à l’autre, essayant d’expliquer en cinq minutes aux DJs de matins de Philadelphie à Phoenix pourquoi nous devrions tous nous inquiéter davantage du risque d’extinction de l’humanité et ce que nous pouvions faire pour l’empêcher. Mais un bestseller, ce n’était pas. Mettons les choses de cette façon – tous les six mois, je reçois une lettre de mon éditeur contenant un « non-paiement de redevance », ce qui est un peu comme recevoir une carte de Noël de vos parents, sauf qu’au lieu d’argent, il contient juste une note vous disant combien ils ont dépensé pour vous élever. Alors je l’avoue, j’étais un peu content quand j’ai reçu un email il y a quelques mois de la part des gens de aisafety.info, qui ont pour objectif de créer un hub central pour expliquer les questions concernant la sécurité des IA et l’alignement des IA – comment rendre les IA responsables des objectifs humains – à un public général. A cette fin, ils construisaient un grand modèle linguistique – avec le nom délicieux de « Stampy » – qui pouvait agir comme un chatbot, répondant aux questions que les gens peuvent se poser sur le sujet. (Le site a été lancé en douceur, tandis que Stampy est toujours en phase de prototype.) Et ils me demandaient la permission d’utiliser mon livre « End Times », qui contient un long chapitre sur les risques existentiels des IA, comme partie des données que Stampy serait formé. Ma première pensée, comme tout auteur: quelqu’un a vraiment lu (ou au moins est conscient de l’existence de) mon livre! Mais ensuite j’ai eu une seconde pensée: en tant qu’écrivain, qu’est-ce que cela signifie de permettre à un chatbot d’être formé sur votre propre travail? (Et gratuitement, en plus.) Contribuais-je à un projet qui pourrait aider les gens à mieux comprendre un sujet complexe et important comme la sécurité des IA? Ou bien accélérais-je simplement le processus de mon propre obsolescence?