Avec l’IA comme avec tout le reste, les histoires ont de l’importance. Les mythes ont de l’importance. Les entreprises d’IA adorent le récit de l’IA comme une course aux armements – cela justifie leur course au marché. Mais cela laisse les gens penser que nous devrions peut-être nous précipiter pour développer une IA avancée, même si cela pourrait augmenter les chances d’extinction de l’humanité. Katja Grace ne croit pas à ce mythe. En tant que chercheuse principale d’AI Impacts, un projet de sécurité des IA au sein de la Machine Intelligence Research Institute, Grace a fait valoir que l’IA n’était pas en fait une course aux armements. En mai, elle a écrit un article dans Time arguant que «la situation de l’IA est différente de manière cruciale. Notamment, dans la course aux armements classique, une partie pourrait toujours théoriquement prendre l’avantage et gagner. Mais avec l’IA, le gagnant peut être l’IA elle-même. Cela peut rendre la course une mauvaise idée.» De plus, note-t-elle, si un laboratoire ou une nation prend le temps de résoudre certains problèmes de sécurité liés à l’IA au lieu de se précipiter, d’autres laboratoires ou nations peuvent reprendre ces améliorations, ce qui serait bénéfique pour tout le monde. Elle écrit:
« La Croisade acharnée d’un couple pour arrêter un tueur génétique »
En y repensant, cela aurait pu être un indice. Mais au début de l’année 2010, lorsque Kamni Vallabh a commencé
