‘La Californie peut-elle montrer la voie à suivre en matière de sécurité de l’IA ?’

La semaine dernière, le sénateur de l’État de Californie Scott Wiener (D-San Francisco) a introduit une nouvelle législation historique sur l’IA visant à « établir des normes de sécurité claires, prévisibles et de bon sens pour les développeurs des plus grands et plus puissants systèmes d’IA ». Il s’agit d’une approche politiquement astucieuse et bien écrite pour réglementer l’IA, axée étroitement sur les entreprises qui construisent les modèles à grande échelle les plus importants et la possibilité que ces efforts massifs puissent causer des dommages massifs. Comme cela a été le cas dans des domaines allant des émissions de voitures au changement climatique, la législation californienne pourrait servir de modèle pour une réglementation nationale, qui semble prendre beaucoup plus de temps. Mais que le projet de loi de Wiener passe ou non à travers l’assemblée législative de l’État sous sa forme actuelle, son existence reflète que les politiciens commencent à prendre au sérieux les leaders technologiques lorsqu’ils affirment avoir l’intention de construire des technologies radicalement transformantes du monde qui posent des risques importants pour la sécurité – et à ne plus les prendre au sérieux lorsqu’ils affirment, comme certains le font, qu’ils devraient le faire sans aucun contrôle. Un défi de la régulation des systèmes d’IA puissants est de définir ce que vous entendez par « systèmes d’IA puissants ». Nous sommes en plein milieu de l’engouement actuel pour l’IA, et chaque entreprise de la Silicon Valley prétend qu’elle utilise l’IA, que ce soit pour construire des chatbots de service client, des algorithmes de day trading, des intelligences générales capables de mimer de manière convaincante des humains, ou même des robots tueurs littéraux. Définir la question est vital, car l’IA a un énorme potentiel économique, et des réglementations maladroites et excessivement strictes qui répriment les systèmes bénéfiques pourraient causer d’énormes dommages économiques tout en n’apportant étonnamment que peu de solutions aux véritables préoccupations en matière de sécurité.