Le FBI met en garde : les pirates utilisent l'IA pour forger des logiciels malveillants dévastateurs

Par Chance en Computer Security

Se traduisent par :

Le FBI a mis en garde contre la montée alarmante de la cybercriminalité facilitée par des outils d'intelligence artificielle (IA) génératifs comme ChatGPT. Les pirates exploitent ces chatbots IA pour générer rapidement du code compromis, entraînant une augmentation de diverses activités illicites. Les escrocs et les fraudeurs perfectionnent leurs techniques avec l'aide de l'IA, tandis que les terroristes demandent conseil à ces outils pour mener des attaques chimiques plus dévastatrices. Le FBI a exprimé ses inquiétudes lors d'un appel avec des journalistes, soulignant l'urgence de faire face à cette menace émergente.

Selon une déclaration d'un haut responsable du FBI, rapportée par Tom's Hardware, l'agence prévoit une nouvelle augmentation des activités de cybercriminalité axées sur l'IA à mesure que les modèles d'IA deviennent plus largement adoptés et accessibles. L'augmentation de l'adoption de l'IA parmi les acteurs malveillants leur a permis d'améliorer leurs activités criminelles habituelles. Les générateurs de voix basés sur l'IA trompent et se font passer pour des personnes de confiance, ce qui conduit à des escroqueries ciblant les proches et les personnes âgées. L'utilisation de l'IA dans des stratagèmes frauduleux pose un défi important pour les forces de l'ordre et souligne la nécessité d'être vigilant et de prendre des contre-mesures pour lutter contre l'évolution du paysage des cybermenaces basées sur l'IA.

Table des matières

Pas le premier malware lié à l'IA

L'émergence de pirates utilisant des outils d'IA comme ChatGPT pour produire des logiciels malveillants n'est pas nouvelle. En février 2023, des chercheurs en sécurité de Checkpoint ont découvert des cas où des acteurs malveillants avaient manipulé l'API d'un chatbot, lui donnant la capacité de générer du code malveillant nuisible. Cela a permis à presque tous les pirates potentiels d'accéder à une interface simple pour créer des virus.

Le débat en cours

En mai 2023, alors que le FBI exprimait sa profonde inquiétude quant aux dangers potentiels que représentent les chatbots d'IA, certains cyber-experts ont présenté une perspective différente. Ils ont fait valoir que la menace présentée par les chatbots IA aurait pu être exagérée. Selon ces experts, la plupart des pirates trouvent encore des exploits de code plus efficaces par des moyens traditionnels comme les fuites de données et la recherche open source. Martin Zugec, directeur des solutions techniques chez Bitdefender, souligne que la plupart des auteurs de malwares novices ont besoin des compétences nécessaires pour contourner les protections anti-malware des chatbots. De plus, Zugec souligne que la qualité du code malveillant des chatbots est médiocre. Ce point de vue différent illustre le débat en cours autour de l'impact réel des chatbots IA sur le paysage de la cybersécurité.

Les opinions divergentes entre le FBI et les cyber-experts concernant la menace posée par les chatbots d'IA laissent la communauté de la cybersécurité divisée sur les risques potentiels. Alors que certains experts affirment que les pirates s'appuient encore davantage sur les exploits de code traditionnels issus des fuites de données et de la recherche open source, l'avertissement du FBI concernant la montée des logiciels malveillants alimentés par l'IA continue de susciter des inquiétudes. L'arrêt récent de l'outil d'OpenAI pour détecter le plagiat généré par les chatbots ajoute encore au malaise. Si les prédictions du FBI s'avèrent exactes, cela pourrait signifier des temps difficiles à venir dans la bataille en cours contre les pirates utilisant des chatbots pour alimenter leurs activités malveillantes. L'incertitude entourant cette question souligne l'importance d'une vigilance et d'une recherche continues pour garder une longueur d'avance sur l'évolution des cybermenaces.

Comment le FBI combat les logiciels malveillants

Le Federal Bureau of Investigation (FBI) a utilisé une approche à multiples facettes pour lutter contre la menace croissante des logiciels malveillants. La détection et l'analyse précoces des nouvelles souches de logiciels malveillants sophistiqués sont au cœur de leurs efforts. Le FBI identifie rapidement les menaces émergentes à l'aide d'une technologie de pointe et d'un réseau d'experts en cybersécurité, permettant des enquêtes ciblées et des mesures proactives. Des partenariats de collaboration avec des organisations du secteur privé, des agences gouvernementales et des organismes internationaux chargés de l'application de la loi facilitent l'échange d'informations et de renseignements cruciaux sur les campagnes de programmes malveillants. L'équipe dédiée d'experts en criminalistique numérique du FBI joue un rôle central dans la collecte de preuves à partir de systèmes infectés, aidant à l'identification et à la poursuite des cybercriminels.

Les campagnes de sensibilisation du public et les initiatives éducatives sensibilisent les individus et les organisations aux dangers des logiciels malveillants, leur permettant de reconnaître et de signaler les activités suspectes. De plus, des opérations de démantèlement coordonnées, menées en collaboration avec des partenaires internationaux, aident à perturber et à démanteler les infrastructures malveillantes utilisées par les cybercriminels. Avec une formation renforcée en cybersécurité pour ses agents et analystes, le FBI reste vigilant dans sa mission de protection du public contre les menaces en constante évolution posées par les logiciels malveillants.