Avec l’IA comme avec tout le reste, les histoires comptent. Les mythes comptent. Les entreprises d’IA adorent le récit de l’IA comme une course aux armements – cela justifie leur précipitation sur le marché. Mais cela laisse les gens penser que peut-être nous devons avancer rapidement dans le développement de l’IA avancée, même si cela pourrait augmenter les chances d’extinction humaine. Katja Grace n’achète pas ce mythe. En tant que chercheuse principale chez AI Impacts, un projet de sécurité de l’IA au sein de l’organisation à but non lucratif Machine Intelligence Research Institute, Grace a soutenu que l’IA n’est pas vraiment une course aux armements. En mai, elle a écrit un article dans Time affirmant que « la situation de l’IA est différente de manières cruciales. Notamment, dans la course aux armements classique, une partie pourrait toujours théoriquement prendre une longueur d’avance et gagner. Mais avec l’IA, le gagnant peut être l’IA avancée elle-même. Cela peut rendre précipiter la décision perdante. » De plus, elle note que si un laboratoire ou une nation prend le temps de résoudre certains problèmes de sécurité de l’IA au lieu de se précipiter, d’autres laboratoires ou nations peuvent intégrer ces améliorations, ce qui profiterait à tous. Elle écrit :
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle
Les Problèmes Communs Rencontrés par la Société dans l’Utilisation Efficace des Derniers Développements de l’Intelligence Artificielle Introduction L’intelligence artificielle (IA)
