Il y a quatre ans, j’ai publié mon premier livre: « End Times: A Brief Guide to the End of the World ». Il s’en est … plutôt bien sorti? J’ai eu droit à une entrevue sur le site que vous lisez actuellement – merci Dylan! – et le livre m’a finalement aidé à décrocher le poste de directeur de Future Perfect. J’ai passé une journée à faire le tour des radios, essayant d’expliquer en segments de cinq minutes aux animateurs de radio de Philadelphie à Phoenix pourquoi nous devrions tous nous inquiéter davantage du risque d’extinction de l’humanité et ce que nous pouvions faire pour l’empêcher. Mais ce n’est pas un best-seller. Disons-le simplement – environ tous les six mois, je reçois une lettre de mon éditeur contenant un « état de droits non payés », qui est un peu comme recevoir une carte de Noël de vos parents, sauf qu’au lieu de l’argent, elle ne contient qu’une note vous indiquant combien ils ont dépensé pour vous élever. J’avoue donc que j’étais un peu soulagé quand j’ai reçu un email il y a quelques mois de la part de gens de aisafety.info, qui ont pour objectif de créer un centre central pour expliquer les questions concernant la sécurité et l’alignement de l’IA à un public large. À cette fin, ils construisaient un grand modèle linguistique – avec le nom délicieux de « Stampy » – qui pouvait agir comme un chatbot, répondant aux questions que les gens peuvent se poser sur le sujet. (Le site vient tout juste d’être lancé, tandis que Stampy est toujours en phase de prototype.) Et ils me demandaient la permission d’utiliser mon livre End Times, qui contient un long chapitre sur les risques existentiels de l’IA, comme partie des données sur lesquelles Stampy serait formé. Ma première pensée, comme pour tout auteur: quelqu’un a vraiment lu (ou au moins est conscient de l’existence de) mon livre! Mais ensuite, j’ai eu une seconde pensée: en tant qu’écrivain, qu’est-ce que cela signifie de permettre à un chatbot d’être formé sur votre propre travail? (Et gratuitement, en plus.) Contribuais-je à un projet qui pourrait aider les gens à mieux comprendre un sujet complexe et important comme la sécurité de l’IA? Ou bien accélérais-je simplement le processus de mon propre obsolescence?
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)
