Votre rendez-vous du jeudi · Série IA
Les quatre premiers épisodes ont regardé l'IA que vous utilisez : l'inventaire des usages, qui en répond, les risques propres aux modèles de langage, l'IA de vos fournisseurs.
Cet épisode change de côté de la table. Il porte sur l'IA que d'autres utilisent contre vous, et sur une question simple : si votre directeur financier vous appelait demain avec sa voix, son visage et une bonne raison, qu'est-ce qui empêcherait le virement ?
Ce qui a réellement changé
Le texte ne trahit plus rien
Pendant des années, la sensibilisation au hameçonnage tenait en un conseil : cherchez les fautes. Ce conseil est périmé. Comme nous l'écrivions en juin, plus de 80 % des courriels d'hameçonnage contiennent désormais du contenu généré par IA. Le message se lit comme si votre fournisseur l'avait écrit, dans votre langue, avec le vocabulaire de votre secteur, et il a été produit en quelques minutes.
La voix et le visage ne prouvent plus rien
En février 2024, un employé du bureau de Hong Kong d'Arup, la firme d'ingénierie britannique, rejoint une visioconférence avec le directeur financier du groupe et plusieurs collègues qu'il connaît. Il avait d'abord douté du courriel qui évoquait une transaction confidentielle. La réunion a levé ses doutes. Tous les autres participants étaient des hypertrucages. Il a effectué quinze virements, pour environ 25 millions de dollars américains. Arup a confirmé ensuite qu'aucun de ses systèmes n'avait été compromis.
C'est le point à retenir : rien n'a été piraté. Aucun pare-feu, aucun EDR, aucun filtre courriel n'avait quoi que ce soit à détecter. L'attaque a traversé un processus d'affaires, pas une infrastructure.
Le prétexte neutralise la vérification
Le troisième changement est le plus fin. En septembre, notre récap hebdomadaire détaillait la campagne Phantom Deal documentée par Gen Digital : un message WhatsApp au nom d'un dirigeant connu, puis un faux conseiller qui transmet un accord de confidentialité aux couleurs d'un grand cabinet, pour une acquisition secrète. Le document exige que tout passe par WhatsApp et le courriel personnel, et que les collègues restent en dehors. L'objectif : 626 735 euros vers Hong Kong.
Le NDA n'est pas un décor. Il sert à justifier par écrit le secret, donc à interdire le seul geste qui protège vraiment : demander à un collègue. La tentative a échoué parce que l'employée a remarqué qu'une voix ne correspondait pas. Autrement dit, par chance, et la prochaine voix sera meilleure.
Ce qui n'a pas changé
L'IA a rendu la version bon marché de l'ingénierie sociale aussi convaincante que la version coûteuse. Elle n'a pas changé la fin de l'histoire. Chaque attaque de cette famille se termine par l'une de quatre demandes :
- Payer : un virement urgent, confidentiel, hors du circuit habituel.
- Changer des coordonnées bancaires : celles d'un fournisseur, ou le dépôt direct d'un employé.
- Rendre un accès : réinitialiser un mot de passe ou un facteur d'authentification, souvent celui d'un dirigeant, par téléphone au centre de services. C'est exactement ce qui est arrivé à Abbott.
- Transmettre des données : les fichiers de paie, les T4, une liste de clients.
C'est une excellente nouvelle. Vous ne pouvez pas gagner la course à la détection des faux, les faux s'améliorent chaque mois. Vous pouvez en revanche contrôler quatre demandes.
Le seul contrôle qui résiste encore
Il tient en une phrase : aucune de ces quatre demandes n'est exécutée sans une vérification par un canal indépendant, choisi par celui qui exécute, jamais par celui qui demande.
Chaque mot compte.
- Un canal indépendant. Pas une réponse au courriel, pas un rappel du numéro affiché dans la signature, pas la visioconférence dans laquelle la demande a été faite. Un numéro tiré du répertoire interne ou du dossier fournisseur, établi avant la demande.
- Choisi par celui qui exécute. C'est la personne des comptes fournisseurs, de la paie ou du centre de services qui décide comment elle vérifie. Si le demandeur propose un moyen de vérification, c'est un signal, pas une aide.
- Sans exception. Ni pour l'urgence, ni pour la confidentialité, ni pour le niveau hiérarchique. L'urgence et le secret sont précisément les deux leviers de l'attaque. Une règle qui prévoit une exception pour le PDG protège tout le monde sauf le PDG.
Deux compléments rendent la règle praticable. Un second approbateur pour toute nouvelle coordonnée bancaire, avec un délai de carence avant le premier paiement. Et une authentification résistante à l'hameçonnage (FIDO2, clés d'accès) pour la finance, la direction et les administrateurs, parce qu'un code reçu par texto se relaie en temps réel.
Ce contrôle a l'air désuet. C'est tout son intérêt : une voix synthétique ne peut pas franchir un contrôle qu'elle ne touche jamais.
Le test : quinze minutes, un tableau, quatre lignes
Faites-le cette semaine, avec la personne qui gère les paiements et celle qui gère le centre de services.
Tracez un tableau avec une ligne par demande et trois questions en colonnes :
| Demande | Par quel canal vérifie-t-on, concrètement ? | Qui choisit le numéro ? | Et si le demandeur invoque l'urgence ou le secret ? | | --------------------------------- | ------------------------------------------- | ----------------------- | --------------------------------------------------- | | Payer | | | | | Changer des coordonnées bancaires | | | | | Rendre un accès | | | | | Transmettre des données | | | |
Remplissez-le avec ce qui se fait réellement, pas avec ce que dit la politique.
Trois réponses doivent vous alerter. « On rappelle la personne », sans préciser à quel numéro. « Ça dépend de qui demande. » Et, dans la dernière colonne, toute réponse qui contient le mot « exception ».
Puis posez la question qui compte à la personne des comptes fournisseurs : « Si notre PDG vous appelle de son cellulaire, en vidéo, pour un virement confidentiel lié à une acquisition, que faites-vous ? » Si elle hésite, le problème n'est pas elle. C'est que personne ne lui a jamais donné le droit écrit de dire non au PDG.
Ce que vous devriez avoir vendredi
Le tableau rempli, avec les cases vides ou floues surlignées. Une règle de vérification d'une demi-page, signée par la direction, qui interdit explicitement les exceptions pour l'urgence et la confidentialité, et qui donne à l'exécutant le droit de refuser. Et la liste nominative des personnes qui doivent passer à une authentification résistante à l'hameçonnage d'ici la fin du trimestre.
Si vous voulez situer ce risque parmi les autres, le score de risque cyber gratuit vous donne en dix minutes une lecture de vos domaines données, tiers et résilience.
Épisode 6, le 8 octobre : ISO 42001 et NIST AI RMF, par où commencer. Deux référentiels pour structurer tout ce que les cinq premiers épisodes ont mis en place, et comment éviter d'en faire un projet de conformité de plus.
Sources : CNN, Arup victime d'un hypertrucage à 25 millions de dollars · Dark Reading, faux projets d'acquisition