Comprendre le phénomène des deepfakes

Les deepfakes représentent une tendance croissante dans le paysage de la cybersécurité. Alimentés par l’intelligence artificielle (IA), ces contenus synthétiques permettent de créer des vidéos, des images ou des enregistrements audio extrêmement réalistes, donnant l’illusion que des personnes connues tiennent des propos ou réalisent des actions qu’elles n’ont jamais faites. La technologie repose principalement sur des modèles de deep learning et les réseaux antagonistes génératifs (GANs), capables d’apprendre à imiter des visages, des expressions et des voix de manière troublante.

Si les premières applications des deepfakes pouvaient prêter à sourire, par exemple dans le divertissement ou la création de contenu humoristique, la technologie est désormais détournée à des fins malveillantes, notamment dans les domaines de la désinformation, du chantage numérique ou de l’usurpation d’identité. Pour les entreprises comme pour les particuliers, ce phénomène représente une nouvelle menace numérique à prendre très au sérieux.

Les dangers concrets des deepfakes en cybersécurité

Les usages malveillants des deepfakes se multiplient, et leurs implications en matière de cybersécurité sont multiples :

• Usurpation d’identité numérique : Des cybercriminels peuvent utiliser des deepfakes pour se faire passer pour un PDG ou un responsable d’entreprise, incitant par exemple un employé à réaliser un virement bancaire. Ce type d’attaque est connu sous le nom de CEO fraud.
• Ingénierie sociale avancée : Les techniques de manipulation psychologique gagnent en efficacité lorsqu’elles sont appuyées par des vidéos ou des appels vocaux incontestablement crédibles.
• Atteinte à la réputation : Faussement associés à des propos compromettants, des individus peuvent voir leur réputation professionnelle ou personnelle gravement endommagée.
• Propagation de fausses informations : Dans un contexte politique ou économique, la production de deepfakes peut favoriser la désinformation massive et impacter l’opinion publique.

Selon un rapport de la société DeepTrace publié en 2019, le nombre de deepfakes en ligne doublait tous les six mois, une tendance qui n’a fait que s’intensifier avec la démocratisation des outils open source comme DeepFaceLab, FaceSwap ou même les plateformes en ligne proposant de créer des vidéos truquées à partir de simples photos.

Le cadre juridique en France et en Europe

Face à cette menace, les États ont commencé à se doter d’un arsenal législatif. En France, plusieurs textes s’appliquent à l’utilisation frauduleuse des deepfakes au regard du Code pénal :

• Article 226-1 du Code pénal : Sanctions contre l’atteinte à la vie privée, comme l’enregistrement ou la diffusion d’images sans consentement.
• Article 441-1 : Réprime la falsification de documents administratifs ou d’identité, une disposition extensible aux contenus numériques falsifiés.
• Articles 313-1 et suivants : Concernent l’escroquerie, notamment dans le cas d’un détournement de fonds via une usurpation d’identité fondée sur un deepfake.

À l’échelle européenne, le Règlement Général sur la Protection des Données (RGPD) oblige toute organisation à sécuriser les données personnelles qu’elle traite. La manipulation d’images ou de voix sans autorisation peut être considérée comme une violation de ces règles (voir notamment les articles 5 et 6 du RGPD).

Intelligence artificielle et détection des deepfakes

Si l’intelligence artificielle est à l’origine des deepfakes, elle constitue également un outil essentiel pour leur détection. De nombreuses entreprises et institutions travaillent actuellement à la mise en place de solutions capables d’identifier les contenus altérés. Parmi elles :

• Microsoft Video Authenticator : un outil capable d’analyser des photos ou vidéos pour détecter des indices subtils de retouche, comme des artefacts numériques ou des incohérences d’éclairage.
• Facebook AI Research (FAIR) : développement d’algorithmes capables de repérer les “empreintes digitales” laissées par les outils de génération de deepfakes.
• Detect Fakes : des plateformes open-source utilisées dans un cadre académique pour sensibiliser les utilisateurs à la reconnaissance des faux contenus.

Ces outils s’appuient souvent sur l’analyse biométrique (détection des mouvements des yeux, des clignements, des traits du visage) ou sur l’apprentissage supervisé, utilisant de gigantesques bases de vidéos truquées pour entraîner les réseaux neuronaux à les reconnaître.

Les bonnes pratiques pour se prémunir contre les deepfakes

Qu’il s’agisse d’un particulier ou d’une organisation, adopter une posture de vigilance face aux deepfakes est aujourd’hui incontournable. Voici quelques bonnes pratiques recommandées :

• Sensibilisation et formation : Former les employés à reconnaître les signes potentiels d’une manipulation audio ou vidéo est une première barrière efficace. L’ingénierie sociale est souvent la porte d’entrée des attaques.
• Double authentification pour les décisions sensibles : En cas d’instruction provenant d’un supérieur via une vidéo ou un message vocal, une vérification secondaire (appels ou confirmation écrite) peut permettre d’éviter une fraude.
• Mise en place de protocoles en cas d’attaque : Les entreprises doivent anticiper les scénarios dans lesquels leur image pourrait être détournée et mettre en place un plan de gestion de crise (communication, preuves numériques, dépôt de plainte).
• Veille technologique active : L’écosystème des deepfakes évolue rapidement. Une veille constante sur les outils de détection et sur les menaces émergentes est essentielle.
• Protéger sa présence numérique : Minimiser l’exposition publique de données sensibles (vidéos, voix, discours publics) réduit le matériau exploitable par les logiciels de génération de deepfakes.

L’importance de collaborer dans la lutte contre les deepfakes

La lutte contre les deepfakes ne peut reposer uniquement sur des solutions technologiques. Une approche pluridisciplinaire impliquant États, entreprises du numérique, chercheurs et utilisateurs est indispensable. Plusieurs initiatives sont en cours :

• Deepfake Detection Challenge (organisé par Facebook, Microsoft, Amazon Web Services et d’autres) : encourager la résistance collective face aux contenus falsifiés.
• Coalition for Content Provenance and Authenticity (C2PA), impulsée par Adobe, Microsoft et la BBC, visant à instaurer un standard pour authentifier les contenus numériques dès leur création.
• Campagnes de sensibilisation du grand public : inciter les citoyens à vérifier les sources d’une vidéo, à se méfier des contenus spectaculaires ou partagés viralement, et à utiliser des outils de vérification.

Pour les professionnels de la cybersécurité, cette menace appelle à une actualisation constante des pratiques, mais aussi à une meilleure collaboration entre les différents acteurs du numérique. Intégrer des outils de détection de deepfakes dans les solutions de cybersécurité d’entreprise devient aujourd’hui nécessaire, tout comme la mise en place de certifications numériques pour authentifier les communications vidéo ou audio officielles.

Les deepfakes marquent une nouvelle ère où perception et réalité numérique peuvent être brouillées. Malgré leur potentiel dans certains domaines créatifs, leur utilisation à des fins de cybercriminalité impose de les surveiller étroitement. La cybersécurité de demain devra compter avec ces technologies, en développant des contre-mesures robustes et en s’assurant d’un cadre éthique et légal adapté.