« La Californie peut-elle montrer la voie en matière de sécurité de l’IA ? »

La semaine dernière, le sénateur de l’État de Californie Scott Wiener (D-San Francisco) a introduit un nouveau projet de loi révolutionnaire sur l’IA visant à « établir des normes de sécurité claires, prévisibles et sensées pour les développeurs des plus grands et des plus puissants systèmes d’IA ». Il s’agit d’une approche bien écrite et politiquement avisée pour réglementer l’IA, centrée de manière étroite sur les sociétés construisant les modèles à grande échelle et la possibilité que ces efforts massifs puissent causer des dommages de grande envergure. Comme ce fut le cas dans des domaines tels que les émissions de voitures ou le changement climatique, la législation californienne pourrait servir de modèle pour une réglementation nationale, qui semble prendre beaucoup plus de temps. Mais que le projet de loi de Wiener soit adopté tel quel ou non par l’assemblée législative de l’État, son existence reflète le fait que les politiciens commencent à prendre au sérieux les leaders technologiques lorsqu’ils déclarent qu’ils ont l’intention de construire des technologies radicalement transformantes qui posent des risques importants pour la sécurité – et à ne plus les prendre au sérieux lorsqu’ils affirment, comme certains le font, qu’ils devraient le faire sans aucun contrôle. Un des défis de la régulation des systèmes d’IA puissants est de définir ce que l’on entend par « systèmes d’IA puissants ». Nous sommes en plein milieu de l’engouement actuel pour l’IA, et chaque entreprise de la Silicon Valley prétend qu’elle utilise l’IA, que ce soit pour construire des chatbots de service client, des algorithmes de trading, des intelligences générales capables de simuler de manière convaincante les humains, ou même des robots tueurs littéraux. Définir la question est essentiel, car l’IA a un énorme potentiel économique, et des réglementations maladroites et excessivement strictes qui répriment les systèmes bénéfiques pourraient causer d’énormes dommages économiques tout en ne résolvant que très peu les préoccupations en matière de sécurité bien réelles.