‘Katja Grace souhaite que vous arrêtiez de considérer l’IA comme une course aux armements’

Avec l’IA comme avec tout le reste, les histoires comptent. Les mythes comptent. Les entreprises d’IA adorent la narration de l’IA en tant que course aux armements – cela justifie leur précipitation sur le marché. Mais cela laisse les gens penser que peut-être nous devons nous précipiter pour développer une IA avancée même si cela pourrait augmenter les chances d’extinction humaine. Katja Grace ne croit pas à ce mythe. En tant que chercheuse principale chez AI Impacts, un projet de sécurité en matière d’IA au sein de l’Institut de recherche sur l’intelligence artificielle sans but lucratif, Grace a soutenu que l’IA n’est pas réellement une course aux armements. En mai, elle a écrit un article dans Time argumentant que « la situation de l’IA est différente de manière cruciale. Notamment, dans la course aux armements classique, une partie pourrait toujours théoriquement prendre de l’avance et gagner. Mais avec l’IA, le gagnant pourrait être une IA avancée elle-même. Cela peut rendre précipiter un mouvement perdant. » De plus, note-t-elle, si un laboratoire ou une nation prend le temps de régler certains problèmes de sécurité en matière d’IA plutôt que de se précipiter en avant, d’autres laboratoires ou nations pourraient prendre en compte ces améliorations, ce qui profiterait à tout le monde. Elle écrit : ‘