Avec l’IA, comme avec tout le reste, les histoires ont de l’importance. Les mythes ont de l’importance. Les entreprises d’IA adorent le récit de l’IA comme une course aux armements – cela justifie leur précipitation sur le marché. Mais cela laisse les gens penser que peut-être nous devons avancer rapidement dans le développement de l’IA avancée, même si cela peut augmenter les chances d’extinction humaine. Katja Grace ne croit pas à ce mythe. En tant que chercheuse principale chez AI Impacts, un projet de sécurité de l’IA au Machine Intelligence Research Institute, Grace a soutenu que l’IA n’est pas réellement une course aux armements. En mai, elle a écrit un article dans Time affirmant que « la situation de l’IA est différente à bien des égards cruciaux. Notamment, dans la course aux armements classique, une partie pourrait toujours théoriquement prendre de l’avance et gagner. Mais avec l’IA, le gagnant peut être l’IA avancée elle-même. Cela peut rendre précipiter le mouvement perdant. » De plus, note-t-elle, si un laboratoire ou une nation prend le temps de résoudre certains problèmes de sécurité de l’IA au lieu de se précipiter en avant, d’autres laboratoires ou nations pourraient adopter ces améliorations, ce qui profiterait à tous. Elle écrit:
« Les livres de Penguin Random House disent maintenant explicitement ‘non’ à la formation IA »
‘Écrit par Emma Roth, dont le portfolio couvre aussi bien les percées technologiques grand public, les dynamiques de l’industrie du
