Générateurs d’images d’IA : Une menace émergente en matière de cybersécurité

L’intelligence artificielle (IA) a la possibilité de changer la nature même de notre culture. De même, si les outils d’IA dont nous disposons actuellement sont un type d’indication de ce qui est à venir, nous avons beaucoup à attendre.

Nous avons aussi beaucoup de choses dont nous devons nous méfier. A savoir, l’armement de l’IA par les cybercriminels et autres étoiles de danger. Ce n’est pas un souci théorique, et les générateurs d’images d’IA ne sont pas non plus insensibles aux abus.

Que sont les générateurs d’images d’IA ? Comment fonctionnent-ils exactement ?

Si vous avez déjà utilisé un générateur de photos AI, vous avez une assez bonne idée de ce dont il s’agit. Même si vous n’en avez jamais utilisé, il est plus que probable que vous ayez découvert des photos générées par l’IA sur des sites de médias sociaux ainsi qu’ailleurs. Le logiciel qui est préféré aujourd’hui traite un concept vraiment simple : le client entre le message, et aussi l’IA génère une photo basée sur ce message.

Ce qui se passe sous le capot est beaucoup beaucoup plus compliqué. L’IA s’est améliorée au cours des dernières années et la majorité des générateurs texte-image actuels sont des versions dites de diffusion. Cela indique qu’ils sont « entraînés » sur une longue période de temps sur une variété massive de messages ainsi que de photos, ce qui rend leurs productions si impressionnantes et d’un réalisme saisissant.

Ce qui rend ces outils d’IA encore plus exceptionnels, c’est qu’ils ne se contentent pas de modifier des photos existantes ou de combiner d’innombrables photos en une seule, mais qu’ils développent également de toutes nouvelles photos originales à partir de zéro. Plus les individus utilisent ces générateurs texte-image, plus ils sont alimentés en informations, et plus leurs développements finissent par être meilleurs.

Certains des générateurs de photos IA les plus connus sont Dream by WOMBO, DALL-E, Stable Diffusion, Midjourney, DeepAI, Fotor et Craiyon. De nouveaux générateurs apparaissent à gauche et à droite, et les titans de la technologie, dont Google, lancent les leurs.

4 façons pour les acteurs de la menace d’armer les générateurs d’images d’IA.

Comme pratiquement toutes les technologies, les générateurs d’images d’IA peuvent être utilisés abusivement par des étoiles malveillantes. En fait, ils sont actuellement utilisés à toutes sortes de fins douteuses. Cependant, quel type précis de fraudes et de cyberattaques un criminel peut-il réaliser à l’aide de générateurs d’images IA ?

1. Ingénierie sociale

Un point apparent que les acteurs du danger pourraient faire avec les générateurs d’images AI est de prendre part à la conception sociale ; par exemple, créer de faux profils de médias sociaux. Plusieurs de ces programmes peuvent produire des photos incroyablement pratiques qui ressemblent à des photos authentiques de personnes réelles, et un escroc pourrait se servir de ces profils de sites de médias sociaux bidons pour faire du catfishing.

Contrairement aux photos de personnes réelles, celles générées par l’IA ne peuvent pas être découvertes par la recherche inversée d’images, et le cybercriminel n’a pas besoin de collaborer avec un nombre limité de photos pour tromper sa cible – en utilisant l’IA, il peut en générer autant qu’il le souhaite, construisant ainsi une identité en ligne convaincante depuis le début.

Mais il existe des cas réels de stars du danger qui utilisent des générateurs de photos d’IA pour arnaquer des particuliers. En avril 2022, TechTalks le blogueur Ben Dickinson a reçu un e-mail d’un cabinet d’avocats affirmant qu’il avait en fait utilisé une image sans autorisation. Les avocats ont envoyé par courriel un avis de violation du droit d’auteur DMCA, indiquant à Dickinson qu’il devait se connecter à nouveau à un de leurs clients, ou éliminer l’image.

Dickinson a cherché le cabinet d’avocats sur Google et a découvert le site Internet principal. Tout semble totalement authentique ; le site contient même des images de 18 avocats, avec leurs biographies et leurs qualifications. Cependant, rien de tout cela n’est authentique. Les images ont toutes été générées par l’IA, et les avis de violation du droit d’auteur attendus ont été envoyés par une personne cherchant à extorquer des liens retour à des propriétaires de blog sans méfiance, dans le cadre d’une stratégie sournoise de SEO (Search Engine Optimization).

2. Escroquerie à la charité

Lorsque des tremblements de terre dévastateurs ont frappé la Turquie ainsi que la Syrie en février 2023, d’innombrables personnes dans le monde entier ont exprimé leur solidarité avec les victimes en donnant des vêtements, de la nourriture et aussi de l’argent.

Selon un document de BBC , les escrocs en ont profité, utilisant l’IA pour développer des photos raisonnables et aussi obtenir des contributions. Un fraudeur a révélé des images de dommages générées par l’IA sur TikTok Live, demandant à ses clients des contributions. Un autre a publié une photo générée par l’IA d’un pompier grec sauvant un enfant endommagé des dommages, et a demandé à ses fans des contributions en bitcoins.

On ne peut qu’imaginer quel genre de fraudes caritatives les criminels maintiendront l’assistance de l’IA à l’avenir, pourtant il est sûr de supposer qu’ils ne feront que s’améliorer dans l’abus de cette application logicielle.

3. Deepfakes ainsi que la désinformation

https :// www.youtube.com/watch?v=oxXpB9pSETo !.?. !</p> <p>Les gouvernements, les équipes de lobbyistes, et aussibrain trust ont depuis longtemps mis en garde contre les menaces des deepfakes. Les générateurs d’images d’IA incluent une composante supplémentaire à ce problème, offerte le réalisme de leurs productions. En fait, au Royaume-Uni, il existe également une émission comique intitulée Deep Fake Neighbour Wars qui découvre l’esprit dans des paires de célébrités improbables. Qu’est-ce qui empêcherait certainement un représentant de la désinformation de produire une photo bidon et de la diffuser sur les réseaux sociaux à l’aide de crawlers ?

Cela peut avoir des conséquences dans la vie réelle, comme cela a failli être le cas en mars 2022, lorsqu’un faux clip vidéo montrant le président ukrainien Volodymyr Zelensky informant les Ukrainiens d’abandonner a été diffusé en ligne, per NPR. Cependant, il s’agit simplement d’un exemple, car les possibilités sont pratiquement illimitées, et il existe également de nombreuses méthodes par lesquelles un acteur de la menace pourrait porter atteinte à la crédibilité de quelqu’un, faire de la publicité pour une fausse histoire ou diffuser des fake news avec l’aide de l’IA.

4. Fraude publicitaire

TrendMicro ont découvert en 2022 que des fraudeurs utilisaient du matériel généré par l’IA pour produire des promotions trompeuses, ainsi que pour faire de la publicité pour des produits non éthiques. Ils produisaient des photos qui recommandaient à des stars populaires d’utiliser des articles particuliers, et menaient des campagnes publicitaires basées sur ces images.

Par exemple, une publicité pour une  » chance de conseil financier  » mettait en scène le milliardaire Elon Musk, propriétaire et PDG de Tesla. Bien sûr, Musk n’a jamais soutenu l’article en question, mais la séquence vidéo générée par l’IA présentée le faisait croire, incitant très probablement les téléspectateurs non avertis à cliquer sur les publicités.

L’IA et aussi la cybersécurité : Une question complexe à laquelle nous devons nous attaquer

À l’avenir, les régulateurs gouvernementaux et les professionnels de la cybersécurité devront peut-être travailler ensemble pour résoudre la menace émergente de la cybercriminalité alimentée par l’IA. Cependant, comment pouvons-nous réglementer l’IA et protéger les personnes normales, sans supprimer l’innovation et sans restreindre la flexibilité numérique ? Cette question aura certainement un impact important dans les années à venir.

Jusqu’à ce qu’il y ait une solution, faites ce que vous pouvez pour vous protéger : vérifiez soigneusement tout type d’information que vous voyez en ligne, restez à l’écart des sites Web louches, utilisez des logiciels sécurisés, entretenez vos outils environ tous les jours, et découvrez comment utiliser l’intelligence artificielle à votre avantage.

S’abonner à notre newsletter