Modèles de langage à grande échelle sans restriction : une nouvelle menace pour la sécurité de l'industrie du chiffrement

Avec le développement rapide des technologies d'intelligence artificielle, des modèles avancés allant de la série GPT à Gemini transforment profondément notre façon de travailler et de vivre. Cependant, cette avancée technologique a également introduit des risques potentiels pour la sécurité, en particulier avec l'émergence de modèles de langage de grande taille non contrôlés ou malveillants.

Les LLM sans restrictions désignent des modèles linguistiques qui ont été spécialement conçus, modifiés ou "débridés" pour contourner les mécanismes de sécurité et les limites éthiques intégrés dans les modèles grand public. Bien que les développeurs de LLM grand public investissent d'importantes ressources pour empêcher l'abus des modèles, certaines personnes ou organisations, pour des motifs inappropriés, commencent à rechercher ou à développer des modèles non restreints. Cet article explorera les menaces potentielles que ces modèles représentent dans l'industrie du chiffrement, ainsi que les défis de sécurité associés et les stratégies d'atténuation.

Méthodes d'abus des LLM sans restriction

L'émergence de ce type de modèle a considérablement abaissé le seuil d'entrée pour la mise en œuvre d'attaques complexes. Même les personnes sans compétences professionnelles peuvent facilement générer du code malveillant, créer des courriels de phishing ou planifier des escroqueries. Les attaquants n'ont qu'à obtenir les poids et le code du modèle open source, puis à l'affiner avec un ensemble de données contenant du contenu malveillant pour créer des outils d'attaque sur mesure.

Cette tendance entraîne de multiples risques :

1. Les attaquants peuvent personnaliser des modèles pour des cibles spécifiques, générant ainsi du contenu plus trompeur pour contourner les vérifications de contenu habituelles.
2. Le modèle peut être utilisé pour générer rapidement des variantes de code de sites de phishing ou pour personnaliser des arnaques pour différentes plateformes.
3. La disponibilité des modèles open source a favorisé la formation d'un écosystème IA souterrain, fournissant un terreau pour les activités illégales.

Voici quelques types typiques de LLM sans restriction et leurs menaces potentielles :

WormGPT : version noire de GPT

WormGPT est un LLM malveillant vendu publiquement sur des forums clandestins, prétendant ne pas avoir de limites morales. Il est basé sur des modèles open source comme GPT-J 6B et a été entraîné sur une grande quantité de données liées aux logiciels malveillants. Les utilisateurs peuvent obtenir un mois d'accès pour seulement 189 dollars.

Dans le domaine du chiffrement, WormGPT pourrait être utilisé de manière abusive pour :

• Générer des e-mails de phishing réalistes pour inciter les utilisateurs à cliquer sur des liens malveillants ou à divulguer leurs clés privées.
• Aider à écrire des codes malveillants pour voler des fichiers de portefeuille, surveiller le presse-papiers, etc.
• Piloter l'automatisation de l'escroquerie, incitant les victimes à participer à des projets fictifs.

DarkBERT : une épée à double tranchant pour le contenu du dark web

DarkBERT est un modèle de langage spécialement entraîné sur des données du dark web, initialement conçu pour aider les chercheurs et les agences d'application de la loi à comprendre l'écologie du dark web. Cependant, s'il est mal utilisé, les informations sensibles qu'il détient peuvent avoir de graves conséquences.

Dans le domaine du chiffrement, les risques potentiels de DarkBERT incluent :

• Collecter des informations sur les utilisateurs et les équipes de projet, mettre en œuvre une fraude précise.
• Copier les méthodes de vol de cryptomonnaie et de blanchiment d'argent matures du dark web.

FraudGPT : un outil multifonction pour la fraude en ligne

FraudGPT se présente comme une version améliorée de WormGPT, principalement vendue sur le dark web et les forums de hackers. Ses modes d'abus dans le domaine du chiffrement incluent :

• Générer des faux projets de chiffrement et du matériel marketing réalistes.
• Création en masse de pages de phishing imitant des échanges de renommée.
• Fabrication à grande échelle de faux commentaires, promotion de jetons frauduleux ou dénigrement de projets concurrents.
• Imiter les conversations humaines pour inciter les utilisateurs à divulguer des informations sensibles.

GhostGPT : un assistant IA sans contrainte morale

GhostGPT est un chatbot IA clairement positionné sans restrictions morales. Dans le domaine du chiffrement, il pourrait être utilisé pour :

• Générer des e-mails de phishing hautement réalistes, se faisant passer pour des notifications frauduleuses émises par des échanges de crypto-monnaie mainstream.
• Générer rapidement un code de contrat intelligent contenant une porte dérobée.
• Créer des logiciels malveillants capables de se transformer pour voler des informations de portefeuille.
• En combinant d'autres outils d'IA, générer des voix falsifiées des porteurs de projets pour mener des escroqueries téléphoniques.

Venice.ai : risques potentiels d'accès sans censure

Venice.ai offre l'accès à plusieurs LLM, y compris certains modèles avec moins de restrictions. Bien que son objectif soit de fournir une expérience d'IA ouverte aux utilisateurs, il pourrait également être abusé pour générer du contenu malveillant. Les risques potentiels incluent :

• Utiliser des modèles avec peu de limitations pour contourner la censure, générer des modèles de phishing ou des idées d'attaque.
• Abaisser le seuil pour les ingénieries de phishing malveillantes.
• Accélérer l’itération et l’optimisation des tactiques d’attaque.

Stratégies de réponse

Face aux nouvelles menaces posées par les LLM sans limites, l'industrie du chiffrement doit adopter une approche multiforme :

1. Augmenter les investissements dans les technologies de détection, développer des outils capables d'identifier et d'intercepter les contenus malveillants générés par l'IA.
2. Promouvoir la construction de la capacité de prévention du jailbreak des modèles, explorer les mécanismes de watermarking et de traçabilité.
3. Établir des normes éthiques solides et un mécanisme de régulation pour limiter dès la source le développement et l'abus de modèles malveillants.
4. Renforcer l'éducation des utilisateurs pour améliorer leur capacité à reconnaître le contenu généré par l'IA.
5. Promouvoir la coopération dans l'industrie, partager les renseignements sur les menaces et les meilleures pratiques.

Seule une collaboration conjointe de toutes les parties prenantes de l'écosystème de la sécurité peut efficacement faire face à ce nouveau défi de sécurité et protéger le développement sain de l'industrie du chiffrement.