Il y a quatre ans, j’ai publié mon premier livre: Fin des temps: Un bref guide de la fin du monde. Ca allait … bien? J’ai eu droit à une entrevue sur le site que vous lisez en ce moment – merci Dylan! – et le livre m’a finalement aidé à décrocher le poste de responsable de Future Perfect. J’ai eu une journée où je suis passé d’une émission de radio à l’autre, essayant d’expliquer en segments de cinq minutes aux animateurs de radio de Philadelphie à Phoenix pourquoi nous devrions tous nous inquiéter davantage du risque d’extinction de l’humanité et ce que nous pouvions faire pour l’empêcher. Mais ce n’était pas un best-seller. Disons-le simplement: environ tous les six mois, je reçois une lettre de mon éditeur contenant un « état de royalties impayé », ce qui est un peu comme recevoir une carte de Noël de vos parents, sauf qu’au lieu d’argent, elle ne contient qu’une note vous indiquant combien ils ont dépensé pour vous élever. J’avoue donc que j’étais un peu fier quand j’ai reçu un email il y a quelques mois de la part de gens de aisafety.info, qui ont pour objectif de créer un point central pour expliquer les questions relatives à la sécurité des IA et à l’alignement des IA – comment rendre les IA responsables des objectifs humains – à un large public. À cette fin, ils entraînaient un grand modèle linguistique – avec le merveilleux nom de « Stampy » – qui pouvait agir en tant que chatbot, répondant aux questions que les gens pourraient se poser sur le sujet. (Le site vient d’être lancé en douceur, tandis que Stampy est toujours en phase de prototype.) Et ils demandaient la permission d’utiliser mon livre Fin des temps, qui contient un long chapitre sur les risques existentiels liés aux IA, comme partie des données que Stampy devrait apprendre. Ma première pensée, comme celle de tout auteur: quelqu’un a vraiment lu (ou au moins est conscient de l’existence de) mon livre! Mais ensuite, j’ai eu une seconde pensée: en tant qu’écrivain, qu’est-ce que cela signifie de permettre à un chatbot d’être entraîné sur votre propre travail? (Et gratuitement, en plus.) Contribuais-je à un projet qui pourrait aider les gens à mieux comprendre un sujet complexe et important comme la sécurité des IA? Ou bien accélérais-je simplement le processus de mon propre obsolescence?
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)
