‘La Californie peut-elle montrer la voie à suivre en matière de sécurité de l’IA ?’

La semaine dernière, le sénateur de l’État de Californie Scott Wiener (D-San Francisco) a présenté un nouveau projet de loi historique sur l’IA visant à « établir des normes de sécurité claires, prévisibles et sensées pour les développeurs des plus grands et plus puissants systèmes d’IA ». Il s’agit d’une approche bien rédigée et politiquement astucieuse pour réglementer l’IA, axée de manière étroite sur les entreprises développant les modèles à grande échelle les plus importants et sur la possibilité que ces efforts massifs puissent causer des dommages massifs. Comme cela a été le cas dans des domaines allant des émissions de voitures au changement climatique, la législation californienne pourrait servir de modèle pour une réglementation nationale, qui semble prendre beaucoup plus de temps. Mais que le projet de loi de Wiener soit adopté ou non en l’état à l’assemblée de l’État, son existence témoigne du fait que les politiciens commencent à prendre au sérieux les revendications des leaders technologiques lorsqu’ils affirment leur intention de construire des technologies radicales transformant le monde et posant de graves risques pour la sécurité – et à ne plus les prendre au sérieux lorsqu’ils prétendent, comme certains le font, de le faire sans aucun contrôle. Un défi de la réglementation des systèmes d’IA puissants consiste à définir ce que l’on entend par « systèmes d’IA puissants ». Nous sommes en plein cœur du cycle de hype actuel de l’IA, et chaque entreprise de la Silicon Valley prétend qu’elle utilise l’IA, que cela signifie la construction de chatbots de service client, d’algorithmes de day trading, d’intelligences générales capables de mimer de manière convaincante les humains, ou même de robots tueurs littéraux. Définir la question est essentiel, car l’IA a un énorme potentiel économique, et des réglementations maladroites et excessivement strictes qui répriment des systèmes bénéfiques pourraient causer d’énormes dommages économiques tout en n’apportant que très peu de solutions aux préoccupations très réelles en matière de sécurité.