ChatGPT créateur de Malwares : Simple spéculation ou possibilité Inquiétante?
Depuis son lancement l'année dernière, ChatGPT a suscité l'enthousiasme des passionnés de technologie avec sa capacité à rédiger des articles, des poèmes, des scripts de vidéos/ films, et bien plus encore. Cet outil d’IA peut même générer du code fonctionnel dans n'importe quel langage de programmation pour n'importe quel objectif. Bien que la plupart des développeurs utilisent cette fonction à des fins totalement inoffensives, un nouveau rapport suggère que les protections mises en place par OpenAI peuvent être contournées pour créer des logiciels malveillants. Aaron Mulgrew, chercheur en cybersécurité et PDG de la société Forcepoint, a utilisé ChatGPT pour élaborer une exploitation capable de voler des données à partir d'un appareil compromis. Ces développements suscitent des questions sur la facilité de contourner les protections mises en place par OpenIA et sur la possibilité de créer des logiciels malveillants sans avoir à écrire le moindre code.
De quoi est capable un malware ?
Ce logiciel malveillant a la capacité d'exfiltrer des données à partir d'un appareil compromis, ce qui signifie qu'il peut extraire des informations sensibles ou privées d'un système sans être détecté. Ce logiciel exploite des vulnérabilités logicielles non corrigées, connues sous le nom de "zero-day vulnerabilities". En d’autres termes, les données peuvent être exploitées le jour même de leur découverte, avant qu'un correctif puisse être créé, laissant ainsi les systèmes sans défense contre de telles attaques. Les fragments de documents sont partagés par la suite sur Google Drive. Ce logiciel malveillant a été spécialement conçu pour échapper à la détection par les logiciels antivirus, et il a réussi à éviter d'être détecté par tous les éditeurs de logiciels antivirus répertoriés sur VirusTotal.
Comment fonctionne ce malware ?
Le chercheur a utilisé le langage Go en raison de sa facilité de développement et de la possibilité de vérifier manuellement le code en cas de problèmes de débogage. L'approche adoptée consiste à générer du code malveillant de manière quantifiable en assemblant manuellement de petits extraits de code d'assistance pour créer un exécutable complet. La stéganographie* a été choisie comme méthode d'exfiltration, permettant de dissimuler des données sensibles à l'intérieur de fichiers image.
L'objectif est de rechercher des fichiers image de grande taille déjà présents sur le disque, afin d'éviter d'apporter des fichiers externes sur l'appareil, réduisant ainsi les risques de détection. La demande a été faite à ChatGPT de générer du code pour rechercher des fichiers PNG de plus de 5 Mo sur le disque local. Une fois ces fichiers identifiés, ChatGPT a également été sollicité pour ajouter du code permettant d'encoder les fichiers PNG trouvés à l'aide de la stéganographie.
Une bibliothèque de stéganographie prête à l'emploi telle Auyer a été utilisée pour cette tâche. Concernant l'exfiltration des données, l'auteur a opté pour Google Drive en raison de la fréquente autorisation du domaine Google dans la plupart des réseaux d'entreprise. En combinant les extraits de code générés par ChatGPT, l'auteur a réussi à créer un MVP (Minimum Viable Product) du logiciel malveillant. Ce cas préoccupant soulève une question de recherche pertinente : Comment pouvons-nous renforcer les mécanismes de sécurité et de prévention au sein des IAs comme ChatGPT, afin de minimiser les risques d'utilisation malveillante et de garantir une utilisation éthique et responsable de ces technologies émergentes ?
*La stéganographie est une technique qui consiste à cacher des informations, comme des messages ou des fichiers, à l'intérieur d'autres données, de manière à les rendre imperceptibles. Elle vise à dissimuler l'existence de ces informations plutôt qu'à les chiffrer, ce qui la distingue de la cryptographie.
Pour nous contacter : Financement.rdi@fidal.com
