Katja Grace veut que vous arrêtiez de penser à l’IA comme une course aux armements.

Avec l’IA comme avec tout le reste, les histoires ont de l’importance. Les mythes ont de l’importance. Les entreprises d’IA aiment la narration de l’IA comme une course aux armements – cela justifie leur course au marché. Mais cela laisse les gens penser que peut-être nous devons nous précipiter pour développer une IA avancée, même si cela pourrait augmenter les chances d’extinction de l’humanité. Katja Grace ne croit pas à ce mythe. En tant que chercheuse principale d’AI Impacts, un projet de sécurité IA au sein de l’Institut de recherche en intelligence artificielle à but non lucratif, Grace a fait valoir que l’IA n’est en fait pas une course aux armements. En mai, elle a écrit un article dans Time argumentant que «la situation de l’IA est différente de manière cruciale. Notamment, dans la course aux armements classique, une partie pourrait toujours théoriquement prendre l’avantage et gagner. Mais avec l’IA, le vainqueur peut être l’IA elle-même. Cela peut rendre la course une mauvaise idée.» De plus, elle note que si un laboratoire ou une nation prend le temps de résoudre certains problèmes de sécurité de l’IA au lieu de se précipiter, d’autres laboratoires ou nations peuvent adopter ces améliorations, ce qui serait bénéfique pour tous. Elle écrit:

Share the Post: