Avec l’IA comme avec tout le reste, les histoires ont de l’importance. Les mythes ont de l’importance. Les entreprises d’IA adorent le récit de l’IA comme une course aux armements – cela justifie leur précipitation sur le marché. Mais cela laisse les gens penser que nous devons peut-être nous précipiter pour développer une IA avancée même si cela pourrait augmenter les chances d’extinction de l’humanité. Katja Grace ne croit pas à ce mythe. En tant que chercheuse principale chez AI Impacts, un projet de sécurité de l’IA au Machine Intelligence Research Institute, Grace a plaidé pour le fait que l’IA n’est en réalité pas une course aux armements. En mai, elle a écrit un article dans Time affirmant que « la situation de l’IA est différente de manières cruciales. Notamment, dans la course aux armements classique, une partie pourrait toujours théoriquement prendre de l’avance et gagner. Mais avec l’IA, le gagnant pourrait être l’IA avancée elle-même. Cela peut rendre la précipitation déraisonnable ». De plus, elle fait remarquer que si un laboratoire ou une nation prend le temps de régler certains problèmes de sécurité de l’IA au lieu de se précipiter, d’autres laboratoires ou nations pourraient intégrer ces améliorations, ce qui profiterait à tout le monde. Elle écrit : ‘
« La Croisade acharnée d’un couple pour arrêter un tueur génétique »
En y repensant, cela aurait pu être un indice. Mais au début de l’année 2010, lorsque Kamni Vallabh a commencé
