Buck Shlegeris, PDG de Redwood Research, un organisme à but non lucratif qui explore les risques posés par l’intelligence artificielle, a récemment appris une leçon amusante mais difficile en matière d’automatisation lorsqu’il a demandé à son agent alimenté par LLM d’ouvrir une connexion sécurisée de son ordinateur portable à son ordinateur de bureau. « Je m’attendais à ce que le modèle analyse le réseau et trouve l’ordinateur de bureau, puis s’arrête », a expliqué Shlegeris à The Register par e-mail. « J’ai été surpris que, après avoir trouvé l’ordinateur, il ait décidé de continuer à prendre des actions, d’abord en examinant le système, puis en décidant de faire une mise à jour logicielle, qu’il a ensuite ratée. » Shlegeris a documenté l’incident dans un post sur les médias sociaux. Je n’ai eu ce problème que parce que j’ai été très imprudent.
‘Entretien avec le Luddite’
Kelly : Mis à part l’incendie criminel et beaucoup de vandalisme, qu’ont accompli les Luddites à long terme ? Sale
