Katja Grace souhaite que vous arrêtiez de considérer l’IA comme une course aux armements.

Avec l’IA comme avec tout le reste, les histoires comptent. Les mythes comptent. Les entreprises d’IA adorent le récit de l’IA comme une course aux armements – cela justifie leur précipitation sur le marché. Mais cela laisse penser aux gens que peut-être nous devons avancer rapidement dans le développement de l’IA avancée, même si cela pourrait augmenter les chances d’extinction humaine. Katja Grace ne croit pas à ce mythe. En tant que chercheuse principale chez AI Impacts, un projet de sécurité de l’IA au Machine Intelligence Research Institute, Grace a affirmé que l’IA n’est en réalité pas une course aux armements. En mai, elle a écrit un article dans Time soutenant que « la situation de l’IA est différente à bien des égards cruciaux. Notamment, dans la course aux armements classique, une partie peut toujours théoriquement prendre de l’avance et gagner. Mais avec l’IA, le gagnant peut être l’IA avancée elle-même. Cela peut rendre la précipitation inutile ». De plus, elle souligne que si un laboratoire ou une nation prend le temps de résoudre certains problèmes de sécurité de l’IA au lieu de se précipiter, d’autres laboratoires ou nations peuvent adopter ces améliorations, ce qui profiterait à tous. Elle écrit : ‘