Il y a quatre ans, j’ai publié mon premier livre: La fin des temps: Un bref guide de la fin du monde. Ce n’était pas si mal? J’ai eu droit à une entrevue avec le site que vous lisez en ce moment – merci, Dylan! – et le livre m’a finalement aidé à obtenir le travail de gestionnaire de Future Perfect. J’ai eu une journée où je suis passé d’une émission de radio à l’autre, essayant d’expliquer en segments de cinq minutes aux animateurs de radio de Philadelphie à Phoenix pourquoi nous devrions tous nous inquiéter davantage du risque d’extinction de l’espèce humaine et de ce que nous pouvons faire pour l’éviter. Mais ce n’était pas un best-seller. Voyons les choses de cette façon – environ tous les six mois, je reçois une lettre de mon éditeur contenant un « état de royalties non payé », ce qui ressemble un peu à recevoir une carte de Noël de vos parents, sauf qu’au lieu d’argent, il ne contient qu’une note vous indiquant combien ils ont dépensé pour vous élever. Je dois donc admettre que j’étais un peu content quand j’ai reçu un e-mail il y a quelques mois de la part des gens de aisafety.info, qui cherchent à créer un point central pour expliquer les questions liées à la sécurité des IA et à l’alignement des IA – comment rendre les IA responsables des objectifs humains – à un public large. A cette fin, ils construisaient un grand modèle de langage – avec le délicieux nom de « Stampy » – qui pourrait agir en tant que chatbot, répondant aux questions que les gens peuvent se poser sur le sujet. (Le site vient d’être lancé en douceur, tandis que Stampy est toujours en phase de prototype.) Et ils me demandaient la permission d’utiliser mon livre La fin des temps, qui contient un long chapitre sur les risques existentiels liés aux IA, comme partie des données sur lesquelles Stampy serait formé. Ma première pensée, comme celle de tout auteur: quelqu’un a-t-il vraiment lu (ou est au moins conscient de l’existence de) mon livre! Mais ensuite, j’ai eu une seconde pensée: en tant qu’écrivain, que signifie-t-il d’autoriser un chatbot à être formé sur votre propre travail? (Et gratuitement, en plus.) Contribuais-je à un projet qui pourrait aider les gens à mieux comprendre un sujet complexe et important comme la sécurité des IA, ou accélérais-je simplement le processus de mon propre obsolescence?
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)
