DeepSeek AI, une société chinoise, limite les nouvelles inscriptions en raison des cyberattaques et des préoccupations croissantes en matière de sécurité

La start-up chinoise DeepSeek a rapidement gagné du terrain dans le monde de l'intelligence artificielle, mais sa popularité croissante s'accompagne d'un ensemble croissant de défis. L'entreprise a récemment limité les inscriptions de nouveaux utilisateurs en raison de ce qu'elle décrit comme des attaques malveillantes à grande échelle sur ses services. Alors que les utilisateurs existants peuvent continuer à accéder à la plateforme, les nouvelles inscriptions ont été temporairement restreintes.

La situation met en évidence les menaces croissantes en matière de sécurité auxquelles sont confrontées les plateformes d’IA et soulève des inquiétudes quant aux implications plus larges de la sécurité de l’IA, de la confidentialité et des tensions géopolitiques entourant les entreprises technologiques chinoises.

Cyberattaques visant DeepSeek

DeepSeek n'a pas divulgué de détails sur la nature de ces attaques, mais les experts en cybersécurité pensent qu'il pourrait s'agir d'un mélange d'attaques par déni de service distribué (DDoS), d'extractions d'invites système et de tentatives de jailbreak visant à contourner les restrictions de contenu ou à manipuler le comportement de l'IA.

Selon Stuart Millar, ingénieur en chef en IA chez Rapid7, les attaquants pourraient tester les réponses de DeepSeek à des questions sensibles, essayer d'extraire des invites système ou tenter de modifier le fonctionnement de l'IA. Une extraction réussie des invites système pourrait révéler des instructions propriétaires et potentiellement exposer les vulnérabilités de l'IA à une exploitation supplémentaire.

Erich Kron, chercheur en cybersécurité chez KnowBe4, a souligné que de telles attaques pourraient être motivées par divers facteurs :

• Extorsion – Les attaquants peuvent exiger le paiement d’une rançon en échange de l’arrêt des perturbations.
• Sabotage d’entreprise – Les concurrents pourraient tenter d’affaiblir la réputation et la position de DeepSeek sur le marché.
• Protection des investissements – Les entités investies dans des projets d’IA rivaux pourraient considérer DeepSeek comme une menace et chercher à le saper.

L'ascension fulgurante de DeepSeek dans le monde de l'IA

Fondée en 2023, DeepSeek s'est rapidement positionnée comme un acteur majeur dans la course à l'IA. Les modèles de l'entreprise, dont DeepSeek-V3, ont fait la une des journaux pour leur capacité à concurrencer, voire à surpasser, les modèles d'IA occidentaux comme GPT d'OpenAI et LLaMA de Meta, tout en étant entraînés à une fraction du coût.

Son application de chatbot iOS a récemment grimpé en flèche au sommet des classements des applications gratuites d'Apple aux États-Unis et au Royaume-Uni, surpassant même ChatGPT d'OpenAI en popularité.

L'efficacité est l'un des principaux facteurs de succès de DeepSeek. L'entreprise affirme que son modèle DeepSeek-V3 nécessite beaucoup moins d'heures de GPU que ses homologues de la Silicon Valley. Dans un contexte de sanctions américaines limitant la vente de puces d'IA avancées aux entreprises chinoises, cette efficacité est devenue un avantage concurrentiel essentiel.

Malgré ces avancées technologiques, DeepSeek reste controversé en raison de ses politiques de censure et des risques potentiels pour la sécurité nationale associés à ses pratiques de stockage de données.

Failles de sécurité et problèmes de confidentialité

DeepSeek a déjà été confronté à des vulnérabilités de sécurité , notamment une faille d'injection rapide découverte par le chercheur en sécurité Johann Rehberger. Cette faille aurait pu permettre aux attaquants de prendre le contrôle de comptes d'utilisateurs à l'aide d'une charge utile de script intersite (XSS) intégrée dans des réponses générées par l'IA.

De plus, un récent rapport de renseignement sur les menaces de Kela a révélé que les modèles d'IA de DeepSeek sont vulnérables aux attaques de jailbreak qui leur permettent de générer du contenu contraire à l'éthique et illégal, notamment :

• Génération de code de ransomware
• Fabrication de désinformation
• Guides étape par étape pour la fabrication d'explosifs et de toxines
• Instructions de développement de logiciels malveillants

Ces résultats soulèvent de sérieuses inquiétudes éthiques quant à la manière dont l’IA pourrait être utilisée à mauvais escient si elle n’est pas correctement sécurisée.

En outre, la politique de confidentialité de DeepSeek révèle que les données des utilisateurs, notamment les informations sur les appareils, les détails du réseau et les données de paiement, sont stockées sur des serveurs situés en Chine. Cette situation a suscité des inquiétudes dans les pays occidentaux, en particulier aux États-Unis, où la marine américaine a récemment conseillé au personnel d'éviter d'utiliser DeepSeek en raison de risques potentiels pour la sécurité et l'éthique.

L'autorité italienne de protection des données a également lancé une enquête, exigeant que DeepSeek clarifie la manière dont elle collecte, stocke et traite les données des utilisateurs. L'entreprise a 20 jours pour répondre aux questions concernant les sources de données, les justifications juridiques du traitement et si l'entraînement du modèle d'IA implique le scraping de données.

Une nouvelle rivalité entre IA dans un contexte de tensions géopolitiques

L'émergence de DeepSeek ajoute une nouvelle dimension à la course mondiale à l'IA, en particulier dans un contexte de tensions technologiques croissantes entre les États-Unis et la Chine. La communauté de l'IA en a pris note, le PDG d'OpenAI, Sam Altman, qualifiant le modèle de raisonnement de DeepSeek d'« impressionnant » et le reconnaissant comme un concurrent légitime.

Il est intéressant de noter que Jim Fan de NVIDIA a noté que DeepSeek « maintient la mission originale d'OpenAI en vie » en se concentrant sur la recherche ouverte et une large accessibilité, une déclaration qui critique subtilement le récent virage d'OpenAI vers des modèles à source fermée.

La Chine, quant à elle, a défendu sa position sur la réglementation technologique, affirmant qu’elle permettait aux entreprises mondiales d’IA d’opérer tant qu’elles respectaient les lois locales. Cependant, des inquiétudes subsistent quant à la manière dont les entreprises chinoises d’IA pourraient être influencées par les réglementations gouvernementales, les politiques de censure et les directives de sécurité nationale.

Un moment crucial pour la sécurité de l’IA

L'essor de DeepSeek démontre que la Chine fait de sérieux progrès dans le développement de l'IA, mais il souligne également les défis croissants en matière de cybersécurité auxquels sont confrontées les entreprises d'IA. Qu'il s'agisse de cyberattaques malveillantes, de problèmes de confidentialité ou de surveillance géopolitique, le parcours de DeepSeek met en évidence l'interaction complexe entre l'innovation en matière d'IA, la sécurité et la politique mondiale.

Pour les utilisateurs, ces événements rappellent qu’il faut se méfier des plateformes d’IA qui traitent des données sensibles, en particulier celles dont les politiques de confidentialité sont opaques et qui présentent des vulnérabilités potentielles en matière de sécurité. À mesure que l’IA continue d’évoluer, il sera essentiel pour les entreprises qui cherchent à maintenir la confiance des utilisateurs et leur crédibilité à l’échelle mondiale de garantir des mesures de cybersécurité solides et des pratiques transparentes en matière de données.