Les escroqueries par appel vidéo à l’IA se multiplient, et voici comment elles fonctionnent
L’essor de l’IA générative est là, pour le meilleur et pour le pire. Malheureusement, les escrocs et les diffuseurs de fausses informations figurent parmi les plus grands gagnants. La génération de vidéos par l’IA est loin d’être parfaite, mais elle est devenue suffisamment performante pour permettre d’usurper l’identité d’une autre personne.
Comment les escroqueries aux appels vidéo par IA fonctionnent-elles ?
Le principe est simple : utiliser la technologie deepfake pour usurper l’identité d’une personne et s’en servir pour obtenir quelque chose de vous, généralement des informations financières sensibles.
Il s’agit souvent de sous-ensembles d’escroqueries à la romance conçues pour cibler les personnes à la recherche de l’amour sur les sites de rencontre et profiter d’elles. Mais elles peuvent parfois être utilisées d’une autre manière, par exemple en se faisant passer pour une célébrité ou une personnalité politique connue, ou même parfois pour quelqu’un que vous pourriez connaître (comme votre patron au travail). Dans ce dernier cas, ils utilisent souvent un numéro de téléphone usurpé pour mieux faire illusion.
Qu’est-ce qu’un Deepfake ?
Les Deepfakes sont des images ou des vidéos créées par l’intelligence artificielle et conçues pour imiter un personnage existant, généralement à des fins de tromperie. La technologie Deepfake est utilisée à des fins non malveillantes – principalement des mèmes et des divertissements – mais aujourd’hui, elle sert de support à ces escroqueries par appel vidéo.
Quel est l’objectif de l’escroc ?
En bref ? Des informations. Cela peut prendre plusieurs formes, mais en fin de compte, la plupart des escroqueries à l’IA veulent la même chose, même si les conséquences varient.
Au bas de l’échelle, l’escroc peut essayer de vous tromper en vous demandant de lui fournir des informations sensibles concernant, par exemple, l’entreprise pour laquelle vous travaillez. Vous pourriez avoir des informations sur des clients ou des contrats qui pourraient être vendus à une entreprise rivale. C’est probablement le meilleur scénario possible, mais il peut être dévastateur pour votre entreprise.
Dans le pire des cas, ils peuvent vous soutirer vos coordonnées bancaires ou votre numéro de sécurité sociale, souvent sous l’apparence d’un amoureux ayant besoin d’une aide financière ou même d’un intervieweur pour un nouvel emploi prometteur auquel vous avez postulé ou non.
Dans les deux cas, une fois que l’escroc a recueilli les informations et que le mal est fait, la rapidité avec laquelle vous vous rendez compte de la supercherie et atténuez les dégâts devient un facteur déterminant.
Comment repérer une arnaque à l’appel vidéo AI
Actuellement, les deepfakes utilisés dans la plupart des escroqueries aux appels vidéo de l’IA sont incohérents. Ils présentent souvent des imperfections visuelles et des bizarreries qui donnent l’impression que la vidéo ou la voix est fausse.
Recherchez des éléments tels que des expressions faciales qui ne correspondent pas tout à fait, un décalage étrange de l’arrière-plan de la vidéo, une voix qui semble quelque peu plate, etc. Les technologies actuelles ont souvent des difficultés à suivre la cible si elle se lève ou si elle lève les mains au-dessus de la tête (elles ont été formées principalement sur des prises de vue de tête et des vidéos « épaule en l’air »).
Toutefois, la technologie de l’IA s’améliore rapidement. S’il est bon de reconnaître les failles de l’IA actuelle, il est potentiellement dangereux de s’appuyer sur ces compétences dans une perspective globale. Ces « deepfakes » sont déjà bien plus performants que l’année dernière, et nous approchons à grands pas du moment où il sera presque impossible de les distinguer d’une vraie vidéo ou d’un vrai son. Bien qu’il existe des outils de détection des deepfakes vidéo par l’IA, on ne peut pas s’y fier tant la technologie évolue rapidement.
Comment se protéger contre les escroqueries Deepfake
Plutôt que d’essayer de repérer les contenus générés par l’IA, essayez d’adopter une approche plus proactive de la sécurité. La plupart des méthodes de sécurité de l’information qui ont fonctionné par le passé fonctionneront encore aujourd’hui.
Vérifier l’identité de l’appelant
Plutôt que d’essayer d’identifier quelqu’un sur la base de son visage ou de sa voix, utilisez des caractéristiques plus difficiles à falsifier.
Assurez-vous que l’appel provient du bon numéro de téléphone ou du bon nom de compte. Pour les applications telles que Teams ou Zoom, vérifiez l’e-mail qui a envoyé le code de la salle pour voir s’il correspond aux informations d’identification de l’appelant.
Si vous avez encore des doutes, demandez-lui de vérifier son identité par d’autres moyens. Par exemple, essayez de lui envoyer un SMS disant : « Es-tu en train de participer à cet appel Zoom avec moi en ce moment même ? » ou quelque chose de similaire.
Vous pouvez même essayer d’engager la conversation. Les escrocs sont souvent déstabilisés lorsqu’ils sont obligés de s’écarter du script, et s’ils se font passer pour une personne que vous connaissez réellement, ils auront probablement du mal à répondre à des questions telles que « Comment va Jimmy ? Je ne l’ai pas vu depuis notre partie de pêche il y a quelque temps », surtout si vous y ajoutez de faux détails pour le déstabiliser.
Enfin, s’il s’agit d’une personne à qui vous parlez souvent, pensez à vous protéger contre le danger de l’étranger en créant un mot de passe ; si vous savez tous les deux qu’il faut dire « Marzipan » au début de la conversation ou quelque chose comme ça, c’est difficile à falsifier.
Ne leur donnez pas d’informations sensibles
Bien entendu, la meilleure protection consiste à ne pas divulguer d’informations importantes. Personne ne devrait vous demander vos coordonnées bancaires ou votre numéro de sécurité sociale à voix haute au cours d’un appel (et vous ne devriez jamais les communiquer en ligne). Et s’ils vous pressent de le faire, c’est une raison de plus pour mettre fin à la conversation.
Ces informations ne doivent être fournies qu’à l’aide de documents officiels ou d’une méthode qui vous laisse plus de temps pour vérifier la légitimité de la source.
Si quelqu’un essaie de vous rediriger vers un document Google ou un PDF en le liant à un chat textuel d’un appel Zoom ou Teams, demandez-lui de vous l’envoyer à partir de son adresse électronique professionnelle. Prenez ensuite le temps de vérifier qu’il s’agit bien d’une adresse électronique légitime avant même de cliquer sur le lien, et encore moins de saisir les informations.
La meilleure protection contre les escrocs est toujours d’organiser les choses de manière à ne pas être pressé et à prendre le temps de réfléchir à ce qui se passe avant de répondre.
