Katja Grace veut que vous arrêtiez de penser à l’IA comme une course aux armements.

Avec l’intelligence artificielle comme avec tout le reste, les histoires comptent. Les mythes comptent. Les entreprises d’intelligence artificielle adorent le récit de l’intelligence artificielle comme d’une course aux armements – cela justifie leur course au marché. Mais cela laisse les gens penser que peut-être nous devons nous précipiter vers le développement d’une intelligence artificielle avancée, même si cela pourrait augmenter les chances d’extinction de l’humanité. Katja Grace ne croit pas à ce mythe. En tant que chercheuse principale d’AI Impacts, un projet de sécurité des IA au sein de l’Institut de recherche en intelligence artificielle (IRIA), Grace a fait valoir que l’IA n’est pas en réalité une course aux armements. En mai, elle a publié un article dans Time argumentant que «la situation de l’IA est différente de manière cruciale. Notamment, dans la course aux armements classique, une partie pourrait toujours théoriquement prendre l’avantage et gagner. Mais avec l’IA, le gagnant pourrait être l’IA elle-même. Cela peut rendre la hâte perdante.» Elle note en outre que si un laboratoire ou une nation prend le temps de résoudre certains problèmes de sécurité liés à l’IA au lieu de se précipiter, d’autres laboratoires ou nations pourraient reprendre ces améliorations, ce qui serait bénéfique pour tout le monde. Elle écrit: