PDG anthropique Dario Amodei souhaite une discussion sérieuse sur les dangers de l’IA

La montée de l’IA générative a apporté de grandes promesses pour les entreprises, selon le PDG d’Anthropic, Dario Amodei, mais cette dernière tendance de l’industrie a aussi encouragé une culture de pessimisme autour des dangers potentiels de la technologie. Anthropic a été créée par d’anciens membres du personnel d’OpenAI qui sont partis – du moins en partie – en raison des préoccupations concernant les risques potentiels de l’intelligence artificielle générale (IAG) et la façon dont OpenAI fonctionnait. Cela a souvent opposé Anthropic et Amodei en tant que pessimistes ou ‘catastrophistes’, a-t-il noté dans un récent article de blog. Mais ce n’est pas le cas. Au lieu de cela, il affirme que surmonter les risques est le seul moyen d’assurer un avenir positif pour la technologie — et sans surprise, il est clairement convaincu qu’elle a un grand avenir. « Je pense que la plupart des gens sous-estiment à quel point le potentiel positif de l’IA pourrait être radical, tout comme je pense que la plupart des gens sous-estiment à quel point les risques pourraient être mauvais », a-t-il écrit. Le long article de blog détaillant les réflexions d’Amodei sur l’IA puissante – il dit qu’il n’aime pas le terme IAG – et l’avenir de l’IA suit un article similaire de Sam Altman d’OpenAI.