La fraude au faux conseiller consiste à se faire passer pour un interlocuteur de confiance — banquier, service informatique, dirigeant — afin d'obtenir une action de la victime : validation d'un virement, communication d'un code, approbation d'une notification. L'IA générative n'a pas créé cette fraude : elle en a supprimé les limites de production. Cloner une voix ne demande plus qu'un court échantillon audio, souvent disponible publiquement.
Ce que l'IA change réellement
Trois évolutions concrètes, sans céder au sensationnalisme :
- Crédibilité : plus de fautes de langue, plus d'accent incohérent. Le prétexte est contextualisé (nom du vrai conseiller, référence à une opération réelle issue d'une fuite de données).
- Échelle : ce qui demandait un comédien et un scénario devient une chaîne automatisée.
- Modalité : le vishing (voix) s'étend à la visioconférence, où l'apparence de plusieurs participants peut être synthétisée.
En revanche, l'IA amplifie des attaques connues, elle ne les réinvente pas. Le mode opératoire reste l'ingénierie sociale : créer l'urgence, invoquer l'autorité, isoler la victime. C'est utile à retenir, parce que cela indique où placer les contrôles.
Pourquoi la biométrie perd sa valeur probante à distance
La biométrie répond à la question « est-ce le bon visage / la bonne voix ? ». Or c'est exactement ce qu'un modèle génératif sait produire. Il faut distinguer deux situations très différentes :
| Contexte | Ce qui est vérifié | Exposition au deepfake |
|---|---|---|
| Biométrie locale (déverrouillage d'un appareil) | correspondance avec un gabarit stocké dans un élément sécurisé, capteur physique | Faible : l'attaquant devrait présenter un artefact au capteur réel |
| Biométrie à distance (selfie, appel vidéo, KYC en ligne) | un flux vidéo/audio reçu par le serveur | Élevée : le flux peut être synthétisé ou injecté |
La détection de vivacité (liveness detection) est une contre-mesure utile, mais elle s'inscrit dans une course : chaque génération de détection est suivie d'une génération de contournement. Fonder une décision à fort impact financier sur la seule apparence, sur un canal non maîtrisé, devient un pari.
Le point aveugle : la victime coopère
C'est ce qui rend cette fraude si difficile à bloquer techniquement. Dans un scénario de faux conseiller :
- l'utilisateur est le bon utilisateur ;
- il utilise son propre appareil ;
- il fournit volontairement ses facteurs d'authentification ;
- aucun contrôle technique n'est contourné.
La MFA valide tout, correctement. Ce qui est corrompu, c'est le consentement : la personne agit sous manipulation, sans comprendre la conséquence réelle de son geste. Aucun facteur qui répond aux questions « je connais / je possède / je suis » ne détecte cela.
Les contrôles qui restent efficaces
1. Valider l'action, pas la session
Le levier le plus solide consiste à déplacer le contrôle : plutôt qu'authentifier une session puis faire confiance, exiger une validation explicite au moment de l'opération, avec le contexte affiché (montant, bénéficiaire, IBAN). Une victime manipulée pour « valider une opération de sécurité » se retrouve confrontée aux données réelles du virement.
2. Introduire une friction qui exige un raisonnement
Un bouton « Approuver » se clique sous pression. Un challenge cognitif demande une opération mentale active. Cette exigence a deux effets : elle réintroduit un temps de réflexion — souvent suffisant pour rompre l'urgence artificielle — et elle ne peut pas être franchie par un modèle qui n'a pas accès à la méthode de résolution personnelle de l'utilisateur.
C'est le principe du 4ᵉ facteur cognitif : ce n'est pas l'apparence de la personne qui est vérifiée, c'est son raisonnement. Un deepfake reproduit un visage et une voix ; il ne reproduit pas une règle mentale privée qui n'a jamais été exposée publiquement.
3. Des contrôles organisationnels non contournables par la persuasion
- Double validation sur les seuils sensibles, par un canal différent.
- Délai de refroidissement sur les nouveaux bénéficiaires ou les changements d'IBAN.
- Règle absolue communiquée : aucun collaborateur ne demandera jamais un code ou une approbation par téléphone. Une règle sans exception est plus robuste qu'une vigilance générale.
- Voie de vérification connue : un numéro de rappel officiel, à l'initiative de la victime.
Ce qu'il faut éviter
- Miser uniquement sur la détection de deepfake : c'est une course, pas une garantie.
- Ajouter de la friction partout : cela fabrique de l'automatisme, exactement ce que la fraude exploite. La friction doit être proportionnée au risque de l'action.
- Considérer la sensibilisation comme suffisante : les études convergent — la formation générique ne fait pas disparaître le risque humain. Elle réduit la surface, elle ne la supprime pas.
FAQ
Faut-il abandonner la biométrie ?
Non. La biométrie locale (déverrouillage d'appareil, gabarit dans un élément sécurisé) reste très utile. C'est la biométrie à distance comme preuve unique sur une opération à fort impact qui devient difficile à défendre.
Comment reconnaître un deepfake vocal en temps réel ?
Les indices historiques (prosodie plate, latence, artefacts) se réduisent à chaque génération de modèles. Il est plus fiable de ne pas dépendre de cette détection : rappeler soi-même sur un numéro officiel, et exiger une validation contextualisée dans l'application.
Une signature électronique protège-t-elle contre ce scénario ?
Elle prouve l'intégrité du document et l'engagement du signataire, pas que le signataire a compris ce qu'il signait sous manipulation. Le contrôle utile reste la validation d'intention contextualisée, en amont.
Quels secteurs sont les plus exposés ?
Ceux qui combinent une relation à distance, un enjeu financier immédiat et des interlocuteurs nombreux : banque, assurance, mais aussi tout service comptable exposé à la fraude au président.
Aller plus loin : pilier : authentification cognitive · biométrie face aux deepfakes · détecter un deepfake · KYC et deepfake