Les nouvelles de la sécurité cette semaine: ChatGPT a craché des données sensibles lorsqu’on lui a dit de répéter «poè

La menace d’une escalade a surgi cette semaine au Congrès américain quant aux stratégies visant à renouveler les pouvoirs de surveillance de l’État connus sous le nom de «Section 702», alors que les groupes de défense des droits civiques ont sonné l’alarme quant aux conséquences du programme et de son potentiel renouvellement. Une enquête de WIRED auprès de plus de 100 canaux restreints de Telegram a révélé que les interdictions de l’application de messagerie en ligne sur les discours extrémistes ne sont pas efficaces ou suffisantes. Et la plateforme d’identité Okta a admis cette semaine qu’une faille de sécurité précédemment considérée comme affectant 1 % de ses clients a en fait touché 100 % d’entre eux. Une analyse indique que les robots conversationnels personnalisés d’OpenAI, connus sous le nom de GPT, peuvent être manipulés pour divulguer leurs données d’entraînement et d’autres informations privées. Le financement de la recherche américaine sur la violence armée par les Centers for Disease Control and Prevention est en jeu alors que les républicains œuvrent en secret pour supprimer le soutien. La société d’ drones autonomes d’Anduril de Palmer Luckey explore des innovations en matière de propulsion par jet et d’intelligence artificielle pour améliorer ces dispositifs capables de modifier le cours des combats, pour le meilleur ou pour le pire. Et le contrôle de longue date par le gouvernement indien des nouvelles à la radio donne un avantage crucial au Premier ministre Narendra Modi avec les élections qui se profilent dans le pays. Si vous souhaitez faire un peu de ménage numérique ce week-end, nous avons une note explicative pour rendre vos recherches sur le Web plus sûres et plus privées, des conseils pour vous assurer que vos comptes Google restent actifs et ne sont pas supprimés, les mises à jour logicielles à installer dès maintenant et les dernières nouveautés sur la fonction NameDrop d’iOS 17 d’Apple. Attention, si vous continuez, vous risquez de lire des informations qui vous gâcheront la surprise. Même lorsqu’elle est activée par défaut, cette fonction est sûre et nécessite toujours une autorisation préalable de chaque utilisation. Mais ce n’est pas tout. Chaque semaine, nous rassemblons les actualités sur la sécurité et la vie privée que nous n’avons pas couvertes en profondeur. Cliquez sur les titres pour lire les histoires en entier, et restez en sécurité. Les critiques des outils d’IA générative tels que ChatGPT arguent qu’ils ne sont rien de plus que des machines à rabâcher, crachant le contenu d’autres personnes comme étant leurs propres «pensées». Les partisans de l’IA rétorquent que non, les systèmes tels que les grands modèles de langage ne font que lire tous ces mots pour en tirer des enseignements, tout comme les êtres humains. Mais il s’avère que tromper les moteurs IA pour qu’ils crachent leurs données d’entraînement, mot pour mot, est étonnamment facile avec les bonnes techniques, comme leur demander de répéter indéfiniment le mot «poème».

Share the Post: