Un IA plus intelligent que les humains? Les Américains disent fermement: « Non merci ».

Les grandes entreprises d’IA s’efforcent de construire une IA surpuissante, disent-elles, pour notre bien à tous. Mais se sont-elles jamais demandé si nous le voulions réellement ? Les Américains, dans l’ensemble, ne le veulent pas. C’est ce que montre un nouveau sondage que nous avons pu consulter en avant-première. Commandé par le think tank AI Policy Institute et réalisé par YouGov, ce sondage a interrogé 1 118 Américains de tous âges, de tous genres, de toutes origines ethniques et de tous horizons politiques au début du mois de septembre. Il révèle que 63 % des électeurs estiment que la réglementation devrait viser à empêcher activement l’apparition d’une intelligence artificielle surpuissante. Des entreprises comme OpenAI ont bien fait comprendre qu’elles cherchaient à créer une telle intelligence artificielle, c’est-à-dire une intelligence supérieure à celle des humains. Elles l’appellent intelligence artificielle générale (IAG) et considèrent comme allant de soi qu’elle devrait exister. « Notre mission », indique le site d’OpenAI, « est de nous assurer que l’IA générale profite à toute l’humanité. » Mais il y a ici un fait curieux et peu remarqué, qui est pourtant loin d’être évident : il n’est pas du tout évident que nous devrions vouloir créer une IAG, dont, comme le rappellera Sam Altman, le PDG d’OpenAI, l’existence comporte des risques importants, notamment celui que toute l’humanité soit anéantie. Pourtant, une poignée de PDG ont décidé, au nom de tous les autres, que l’IAG devrait exister.