Katja Grace veut que vous cessiez de considérer l’IA comme une course aux armements.

Avec l’IA, comme avec tout le reste, les histoires comptent. Les mythes comptent. Les entreprises d’IA adorent le récit de l’IA en tant que course aux armements – cela justifie leur précipitation sur le marché. Mais cela laisse les gens penser que peut-être nous devrions avancer rapidement dans le développement de l’IA avancée, même si cela pourrait accroître les chances d’extinction humaine. Katja Grace ne croit pas à ce mythe. En tant que chercheuse principale d’AI Impacts, un projet de sécurité de l’IA au sein du Machine Intelligence Research Institute, Grace a fait valoir que l’IA n’est en réalité pas une course aux armements. En mai, elle a écrit un article dans Time argumentant que « la situation de l’IA est différente de manière cruciale. Notamment, dans la course aux armements classique, une partie pourrait toujours théoriquement prendre de l’avance et gagner. Mais avec l’IA, le vainqueur peut être l’IA avancée elle-même. Cela peut rendre précipiter la décision perdante. » De plus, elle souligne que si un laboratoire ou une nation prend le temps de résoudre certains problèmes de sécurité de l’IA au lieu de foncer en avant, d’autres laboratoires ou nations peuvent prendre en compte ces améliorations, ce qui profiterait à tous. Elle écrit: ‘