« Pouvez-vous montrer la voie en matière de sécurité de l’IA en Californie ? »

La semaine dernière, le sénateur de l’État de Californie, Scott Wiener (D-San Francisco), a présenté un nouveau projet de loi révolutionnaire sur l’IA visant à « établir des normes de sécurité claires, prévisibles et sensées pour les développeurs des plus grands et puissants systèmes d’IA. » Il s’agit d’une approche bien écrite et politiquement avisée en matière de régulation de l’IA, se concentrant étroitement sur les entreprises qui construisent les modèles à grande échelle et la possibilité que ces efforts massifs puissent causer des dommages massifs. Comme cela a été le cas dans des domaines tels que les émissions de voitures et le changement climatique, la législation californienne pourrait servir de modèle pour la réglementation nationale, qui semble devoir prendre beaucoup plus de temps. Mais que le projet de loi de Wiener aboutisse ou non à la législature de l’État sous sa forme actuelle, son existence montre que les politiciens commencent à prendre au sérieux les dirigeants technologiques lorsqu’ils prétendent vouloir construire des technologies radicales et transformant le monde qui présentent des risques importants pour la sécurité – et à ne pas les prendre au sérieux lorsqu’ils prétendent, comme certains le font, qu’ils devraient le faire sans aucun contrôle. Un défi de la régulation des systèmes d’IA puissants est de définir ce que l’on entend par « systèmes d’IA puissants ». Nous sommes en plein cœur du cycle d’hype actuel de l’IA, et chaque entreprise de la Silicon Valley prétend utiliser l’IA, que ce soit pour construire des chatbots de service client, des algorithmes de trading, des intelligences générales capables d’imiter de manière convaincante les humains, voire même des robots tueurs littéraux. Définir la question est primordial, car l’IA a un énorme potentiel économique, et des réglementations maladroites et excessivement strictes qui répriment des systèmes bénéfiques pourraient causer d’énormes dommages économiques tout en faisant étonnamment peu pour répondre aux préoccupations de sécurité très réelles.