Méfiez-vous! L'intelligence artificielle pourrait donner l'impression que les escroqueries sont légitimes et propager des menaces de logiciels malveillants comme les ransomwares
Le National Cyber Security Centre (NCSC), qui fait partie de l'agence d'espionnage britannique GCHQ, a émis un avertissement concernant la menace croissante de cyberattaques facilitées par l'intelligence artificielle (IA). Selon l'évaluation du NCSC, les outils d'IA générative, capables de produire du texte, de la voix et des images convaincants à partir de simples invites, rendent difficile la distinction entre les e-mails authentiques et ceux envoyés par des escrocs et des acteurs malveillants.
L’agence prédit que l’IA, en particulier l’IA générative et les grands modèles linguistiques alimentant les chatbots, contribueront de manière significative à l’augmentation des cybermenaces au cours des deux prochaines années. L'une des principales préoccupations est la difficulté d'identifier les différents types d'attaques, telles que le phishing, l'usurpation d'identité et l'ingénierie sociale.
La sophistication de la technologie de l’IA devrait rendre difficile pour les individus, quel que soit leur niveau de compréhension en matière de cybersécurité, d’évaluer la légitimité des e-mails ou des demandes de réinitialisation de mot de passe.
L'IA pourrait aider à accroître les cibles des ransomwares
Les attaques de ransomware , qui ont ciblé des institutions comme la British Library et Royal Mail au cours de l'année écoulée, devraient également augmenter. Le NCSC prévient que la sophistication de l'IA réduit les obstacles qui empêchent les cybercriminels amateurs d'accéder aux systèmes, de recueillir des informations sur les cibles et d'exécuter des attaques susceptibles de paralyser les systèmes informatiques, d'extraire des données sensibles et d'exiger des rançons en cryptomonnaies.
Les outils d'IA générative sont déjà utilisés pour créer de faux « documents leurres » qui semblent convaincants en évitant les erreurs courantes trouvées dans les attaques de phishing. Même si l’efficacité du code des ransomwares ne peut pas être améliorée par l’IA générative, elle peut aider à identifier et à sélectionner les cibles. Le NCSC suggère que les acteurs étatiques sont probablement les plus aptes à tirer parti de l’IA dans les cyberopérations avancées.
Le bon et le mauvais de l'IA
En réponse à la menace croissante, le NCSC souligne que l’IA peut également servir d’outil défensif, permettant de détecter les attaques et de concevoir des systèmes plus sécurisés. Le rapport coïncide avec l'introduction par le gouvernement britannique de nouvelles lignes directrices, le « Code de bonnes pratiques en matière de cybergouvernance », encourageant les entreprises à se préparer davantage à se remettre des attaques de ransomwares. Cependant, certains experts en cybersécurité, dont Ciaran Martin, l'ancien chef du NCSC, plaident en faveur d'une action plus forte, suggérant une réévaluation fondamentale des approches face aux menaces de ransomware. Martin souligne la nécessité de règles plus strictes concernant le paiement des rançons et met en garde contre les stratégies irréalistes, telles que les représailles contre les criminels dans les pays hostiles.