Des IA plus intelligentes que les humains ? Les Américains répondent d’un ferme « non merci ».

Les principales entreprises de l’IA s’efforcent de construire une IA surdouée – pour le bien de vous et de moi, disent-elles. Mais ont-elles jamais pris le temps de se demander si nous le voulions vraiment ? Les Américains, dans l’ensemble, ne le veulent pas. C’est le résultat d’un nouveau sondage partagé en exclusivité avec Vox. Le sondage, commandé par le think tank AI Policy Institute et réalisé par YouGov, a interrogé 1 118 Américains de tous les âges, du spectre des genres, des races et des politiques au début du mois de septembre. Il révèle que 63% des électeurs disent que la réglementation devrait viser à empêcher activement l’IA surdouée. Les entreprises comme OpenAI ont fait savoir qu’une IA surdouée – un système plus intelligent que les humains – est exactement ce qu’elles cherchent à créer. Elles l’appellent intelligence artificielle générale (AGI) et elles considèrent comme acquis que l’AGI doit exister. « Notre mission », dit le site Web d’OpenAI, « est de garantir que l’intelligence artificielle générale bénéficie à l’humanité tout entière ». Mais il y a ici un fait profondément étrange et rarement mentionné : il n’est pas du tout évident que nous voulions créer l’AGI – ce qui, comme le dira le premier Sam Altman, le PDG d’OpenAI, comporte des risques importants, notamment le risque que l’humanité tout entière soit anéantie. Et pourtant, une poignée de PDG a décidé, au nom de tous les autres, que l’AGI devait exister.