Microsoft, OpenAI se mobilisent pour contrer les hackers aidés par l’IA générative – pour l’instant.

De tous les cauchemars possibles concernant les effets dangereux des outils d’IA générative (genAI) comme ChatGPT d’OpenAI et Copilot de Microsoft, l’un des plus préoccupants est leur utilisation par des pirates informatiques pour concevoir du code malveillant difficile à détecter. Encore plus alarmant est la crainte que genAI puisse aider des États voyous comme la Russie, l’Iran et la Corée du Nord à lancer des cyberattaques imparables contre les États-Unis et leurs alliés.
Les mauvaises nouvelles : des États-nations ont déjà commencé à utiliser genAI pour attaquer les États-Unis et leurs amis. Les bonnes nouvelles : jusqu’à présent, les attaques n’ont pas été particulièrement dangereuses ou particulièrement efficaces. Mieux encore : Microsoft et OpenAI prennent la menace au sérieux. Ils sont transparents à ce sujet, décrivant ouvertement les attaques et partageant ce qui peut être fait à leur sujet.
Cela dit, le piratage assisté par l’IA en est encore à ses balbutiements. Et même si genAI n’est jamais capable d’écrire des logiciels malveillants sophistiqués, il peut être utilisé pour rendre les techniques de piratage existantes beaucoup plus efficaces, en particulier des techniques d’ingénierie sociale comme l’hameçonnage ciblé et le vol de mots de passe et d’identités pour s’introduire dans les systèmes les plus sécurisés.
Récemment, Microsoft et OpenAI ont révélé une série d’attaques créées par genAI et ont détaillé comment les entreprises les ont combattues. (Les attaques étaient basées sur ChatGPT d’OpenAI, qui est également à la base de Copilot de Microsoft ; Microsoft a investi 13 milliards de dollars dans OpenAI.) OpenAI a expliqué dans un article de blog que la société a perturbé des tentatives de piratage de cinq « acteurs malveillants affiliés à des États » – Typhon de charbon et Typhon de saumon, liés à la Chine ; Tempête de sable écarlate, liée à l’Iran ; Neige d’émeraude, liée à la Corée du Nord ; et Blizzard de forêt, lié à la Russie.