Cours de reverse engineering logiciel

Leçon 1 • Configuration du laboratoire de RE

Guide les étudiants dans la construction d'un environnement d'analyse isolé avec des machines virtuelles et les outils essentiels. Assure un espace de travail sûr et reproductible pour tous les exercices.

Leçon 2 • Limites juridiques et éthiques

Couvre les exigences d'autorisation, les normes de divulgation responsable et la conduite éthique. Forme les étudiants aux normes professionnelles avant le début des travaux pratiques.

Leçon 3 • Qu'est-ce que le rétro-ingénierie

Définit le rétro-ingénierie, ses objectifs et son rôle dans la recherche en sécurité et l'analyse logicielle. Établit le vocabulaire utilisé tout au long du cours.

Leçon 4 • Notions essentielles d'architecture informatique

Passe en revue les registres du CPU, la disposition de la mémoire et le cycle de fetch-décodage-exécution. Fournit le modèle mental du matériel nécessaire pour interpréter le code désassemblé.

Leçon 1 • Différences et extensions x86-64

Met en lumière l'extension des registres, l'adressage relatif à RIP et les bases des instructions SIMD en mode 64 bits. Prépare les étudiants aux binaires 64 bits modernes rencontrés dans la pratique.

Leçon 2 • Fondamentaux du jeu d'instructions x86

Couvre les instructions de mouvement de données, arithmétiques et logiques avec des exemples annotés. Forme le vocabulaire de lecture nécessaire pour tout travail de désassemblage à venir.

Leçon 3 • La pile et les conventions d'appel

Détaille comment les fonctions passent les arguments, préservent les registres et renvoient des valeurs selon les principales conventions d'appel. Essentiel pour comprendre correctement la sortie décompilée.

Leçon 4 • Instructions de flux de contrôle

Explique les sauts conditionnels et inconditionnels, les boucles et les mécanismes CALL/RET. Les étudiants apprennent à reconstruire la logique d'un programme à partir de séquences d'instructions brutes.

Leçon 1 • Annotation et renommage des symboles

Couvre le renommage systématique des fonctions, variables et structures de données pour construire un modèle lisible. Améliore directement la vitesse d'analyse et réduit la charge cognitive.

Leçon 2 • Navigation dans les graphes de code

Enseigne l'utilisation des graphes de flux de contrôle, des graphes d'appels et des références croisées pour orienter l'analyse. Permet une navigation efficace dans des bases de code volumineuses et inconnues.

Leçon 3 • Analyse des chaînes et des importations

Extrait les chaînes significatives, les API importées et les signatures de bibliothèques pour déduire le comportement du programme. Fournit un triage rapide avant une analyse approfondie du code.

Leçon 4 • Script des tâches d'analyse statique

Introduit l'automatisation des tâches statiques répétitives à l'aide des API de script du désassembleur. Les étudiants écrivent des scripts qui renomment, annotent et extraient des données à grande échelle.

Leçon 1 • Détection et contournement de l'anti-débogage

Identifie les astuces anti-débogage courantes et démontre des méthodes de contournement fiables. Prépare les étudiants aux cibles durcies rencontrées dans l'analyse réelle.

Leçon 2 • Traçage et journalisation de l'exécution

Utilise le traçage au niveau des instructions et la journalisation des API pour capturer l'historique complet de l'exécution. Complète l'analyse par points d'arrêt pour les cibles non déterministes ou multi-threadées.

Leçon 3 • Architecture et concepts du débogueur

Explique comment les débogueurs s'attachent aux processus, gèrent les exceptions et contrôlent l'exécution. Fournit le modèle conceptuel nécessaire pour utiliser efficacement n'importe quel débogueur.

Leçon 4 • Inspection de l'état du programme

Enseigne la lecture des registres, de la mémoire et de la pile d'appels à l'exécution pour vérifier les résultats statiques. Les étudiants corrèlent l'état en direct avec le désassemblage pour confirmer le comportement du code.

Leçon 1 • Gestion des optimisations du compilateur

Identifie les artefacts d'inlinage, de déroulage de boucle et de réduction de puissance dans la sortie décompilée. Les étudiants apprennent à annuler mentalement les optimisations pour retrouver la logique d'origine.

Leçon 2 • Récupération des structures de données

Reconstruit les structures, les unions et les dispositions de classes à partir des motifs d'accès dans le code décompilé. Une récupération précise des structures est essentielle pour comprendre les cibles orientées objet.

Leçon 3 • Décompilation de code orienté objet

Aborde le name mangling C++, la dispatch virtuelle et le RTTI pour reconstituer les hiérarchies de classes. Étend les compétences de décompilation à la majorité des logiciels compilés modernes.

Leçon 4 • Comment fonctionnent les décompilateurs

Explique le levage vers une représentation intermédiaire, la récupération de type et la génération de pseudo-code. Définit des attentes réalistes quant à la qualité et aux limites de la sortie du décompilateur.

Leçon 1 • Obfuscation basée sur la virtualisation

Introduit les protecteurs par machine virtuelle personnalisés, les boucles de dispatch de bytecode et l'identification des handlers. Les étudiants développent une méthodologie pour inverser partiellement le code protégé par VM.

Leçon 2 • Obfuscation des chaînes et des données

Couvre l'encodage XOR, la construction de chaînes sur la pile et les routines de déchiffrement personnalisées. Les étudiants extraient les chaînes en clair d'échantillons obfusqués de manière automatique et manuelle.

Leçon 3 • Approches de désobfuscation automatisée

Applique l'exécution symbolique et l'analyse de taint pour automatiser la désobfuscation à grande échelle. Fait le pont entre les techniques manuelles et les workflows assistés par outils pour les cibles complexes.

Leçon 4 • Taxonomie de l'obfuscation de code

Catalogue l'insertion de code indésirable, les prédicats opaques, l'aplatissement du flux de contrôle et la substitution. Fournit aux étudiants un cadre de classification pour identifier l'obfuscation à vue.

Leçon 1 • Intégration du fuzzing avec les résultats du RE

Utilise les connaissances issues du RE pour construire des harnais de fuzzing ciblés et des corpus de départ. Combine la perspicacité statique avec le fuzzing dynamique pour maximiser la découverte de vulnérabilités.

Leçon 2 • Identification des faiblesses cryptographiques

Reconnaît les algorithmes faibles, la gestion incorrecte des clés et la crypto personnalisée par analyse statique. Les étudiants évaluent la sécurité cryptographique sans accès au code source.

Leçon 3 • Défauts de logique et d'authentification

Localise les contournements d'authentification, les transitions d'état incorrectes et les conditions de course par revue de code. Démontre que les erreurs de logique sont aussi dangereuses que les bugs mémoire.

Leçon 4 • Documentation et rapport des vulnérabilités

Structure les rapports de vulnérabilité avec les étapes de reproduction, l'analyse de cause racine et les évaluations d'impact. Produit des livrables professionnels adaptés à une divulgation responsable.

Leçon 1 • Conception d'une méthodologie de RE structurée

Établit un workflow reproductible de triage à l'analyse approfondie pour les binaires inconnus. Réduit les efforts inutiles et garantit une couverture cohérente sur de grandes cibles.

Leçon 2 • Exécution symbolique et concolique

Applique la résolution de contraintes pour explorer les chemins d'exécution et générer automatiquement des entrées ciblées. Étend l'analyse manuelle aux problèmes de couverture de chemins trop importants pour une revue manuelle.

Leçon 3 • Différenciation binaire et analyse de correctifs

Compare les versions binaires pour isoler les fonctions corrigées et déduire les vulnérabilités corrigées. Essentiel pour l'analyse des écarts de correctifs et les tests de sécurité par régression.

Leçon 4 • Frameworks d'instrumentation dynamique

Utilise l'instrumentation binaire dynamique pour insérer de la logique d'analyse à l'exécution sans code source. Permet la mesure de couverture, le traçage de taint et le traçage personnalisé à grande échelle.