Il y a quatre ans, j’ai publié mon premier livre: « End Times: A Brief Guide to the End of the World ». Il a plutôt bien marché? J’ai eu droit à une interview sur le site que vous lisez actuellement – merci Dylan! – Et le livre m’a finalement aidé à décrocher un emploi chez Future Perfect. J’ai passé une journée à aller d’une émission de radio à l’autre, essayant de faire comprendre en cinq minutes aux animateurs de matinale de Philadelphie à Phoenix pourquoi nous devrions tous nous inquiéter davantage du risque d’extinction de l’humanité et ce que nous pouvions faire pour l’empêcher. Mais un best-seller, ce n’était pas. Mettez-le de cette façon – environ tous les six mois, je reçois une lettre de mon éditeur contenant un « état de règlement des royalties non payées », ce qui est un peu comme recevoir une carte de Noël de vos parents, sauf qu’au lieu d’argent, il y a juste une note vous disant combien ils ont dépensé pour vous élever. Donc j’avoue que j’étais un peu soulagé quand j’ai reçu un e-mail il y a quelques mois de la part des gens de aisafety.info, qui ont pour objectif de créer un hub central pour expliquer les questions concernant la sécurité des IA et l’alignement des IA – comment rendre les IA comptables des objectifs humains – à un public large. À cet effet, ils ont construit un grand modèle linguistique – avec le charmant nom de « Stampy » – qui pouvait agir en tant que chatbot, répondant aux questions que les gens pourraient se poser sur le sujet. (Le site vient d’être lancé en douceur, tandis que Stampy est toujours en phase de prototype.) Et ils m’ont demandé la permission d’utiliser mon livre « End Times », qui contient un long chapitre sur les risques existentiels liés aux IA, comme partie des données sur lesquelles Stampy serait formé. Ma première pensée, comme celle de tout auteur: quelqu’un a vraiment lu (ou du moins est au courant de l’existence de) mon livre! Mais ensuite j’ai eu une deuxième pensée: en tant qu’écrivain, qu’est-ce que cela signifie de permettre à un chatbot d’être formé sur son propre travail? (Et gratuitement, en plus.) Contribuais-je à un projet qui pourrait aider les gens à mieux comprendre un sujet complexe et important comme la sécurité des IA? Ou bien accélérais-je simplement le processus de mon propre obsolescence?
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)
