Les Deepfakes sur YouTube se multiplient, mais il est désormais possible de signaler certains contenus issus de l’IA

• YouTube a introduit une fonctionnalité permettant de signaler les vidéos générées par l’IA et mettant en scène des personnes qui ne souhaitent pas que leur image soit utilisée.
• Les contenus générés par l’IA, y compris les vidéos, sont de plus en plus nombreux et peuvent être utilisés aussi bien pour des parodies inoffensives que pour de la désinformation dangereuse.
• La procédure de plainte relative à la protection de la vie privée de YouTube permet aux utilisateurs de signaler un contenu généré par l’IA, avec un délai de 48 heures pour le retrait de la vidéo.

L’intelligence artificielle commence, lentement mais sûrement, à avoir un impact tangible sur nos vies. Certaines sont bonnes, d’autres mauvaises. Cela oblige les entreprises technologiques à prendre des mesures pour protéger les personnes qui utilisent leurs plateformes. C’est notamment le cas de YouTube, qui permet désormais aux particuliers de signaler une vidéo mettant en scène une version d’eux-mêmes générée par l’IA.

Comment les vidéos YouTube générées par l’IA sont en hausse

Le contenu généré par l’IA est omniprésent. Les rapports d’actualité et les articles en ligne peuvent être générés par des robots d’IA tels que ChatGPT et Gemini, les photos et les œuvres d’art peuvent être générées par des logiciels tels que DALL-E et Imagen, et les vidéos peuvent être générées par une série d’outils d’IA de texte à vidéo qui ne cessent de s’améliorer.

Parmi les différentes formes de contenu que l’IA est capable de produire, la vidéo est la moins raffinée à l’heure actuelle, avec de nombreux exemples de modèles d’IA produisant des clips extrêmement bizarres et troublants. Cependant, la technologie s’améliore et les formes les plus simples, comme mettre des mots dans la bouche de quelqu’un, sont de plus en plus difficiles à détecter.

Les vidéos générées par l’IA vont des parodies inoffensives de célébrités disant des choses qu’elles n’ont pas réellement dites aux deepfakes conçus pour diffuser des informations erronées. Les premières sont amusantes, bien qu’elles puissent encore déranger les célébrités concernées. Mais la seconde est utilisée pour faire avancer des programmes, déstabiliser des démocraties et faire basculer des élections.

Quoi qu’il en soit, à mesure que la technologie s’améliore et que le nombre de cas de vidéos générées par l’IA augmente, les sites de vidéos en ligne et les plateformes de médias sociaux vont devoir mettre en place des barrières pour prévenir les abus. C’est pourquoi, comme l’a rapporté pour la première fois TechCrunch YouTube s’attaque au problème.

Comment signaler un contenu généré par l’IA dans une vidéo YouTube

YouTube a discrètement l’option dans le cadre de ses lignes directrices en matière de protection de la vie privée permettant aux particuliers de signaler une vidéo utilisant un personnage généré par l’IA ou un autre personnage synthétique qui vous ressemble ou qui a l’air de vous ressembler. Cette disposition s’applique que la vidéo soit destinée à nuire (par exemple à ruiner la réputation de quelqu’un) ou qu’il s’agisse de quelque chose de plus innocent (mais tout de même indésirable).

Si vous repérez une version synthétique ou générée par l’IA de vous-même dans une vidéo YouTube, vous pouvez désormais soumettre une demande de retrait. Pour ce faire, il convient de suivre la procédure de plainte relative à la protection de la vie privée, qui repose sur le signalement du problème par la personne concernée, contrairement à la possibilité qu’a toute personne de signaler une vidéo YouTube pour d’autres formes d’abus.

Pour signaler une vidéo contenant votre image générée par l’intelligence artificielle ou modifiée de manière synthétique, suivez les étapes suivantes la procédure de plainte relative à la protection de la vie privée de YouTube. Lorsque vous arrivez à l’étape 6 sur 6, vous avez la possibilité de « Signaler un contenu modifié ou synthétique ». YouTube dispose d’une page expliquant ces appellations, mais les décrit brièvement comme « un contenu qui vous ressemble ou qui vous parle, mais qui a été édité ou généré de manière significative par l’IA ou d’autres outils ».

Que se passe-t-il lorsque vous signalez un contenu IA sur YouTube ?

Une fois que vous avez suivi la procédure de plainte relative à la protection de la vie privée de YouTube et signalé un contenu modifié ou synthétique, le YouTubeur responsable dispose de 48 heures pour retirer la vidéo. Si la vidéo n’est pas retirée dans ce délai, YouTube mènera une enquête plus approfondie.

Les YouTubers ont également la possibilité de supprimer les informations personnelles (et d’identification) de la vidéo ou de flouter les visages des personnes impliquées dans la vidéo. Ils ne peuvent toutefois pas simplement rendre la vidéo privée pour supprimer la réclamation, car YouTube n’est pas certain que le téléchargeur ne rétablira pas le statut public à une date ultérieure.

YouTube ne promet pas de supprimer tous les cas de contenu généré par l’IA signalés par la personne concernée, mais plutôt de « prendre en compte divers facteurs lors de l’évaluation de la plainte ». Il exige également des réclamations de première partie dans tous les cas sauf une poignée, ce qui signifie que vous ne pourrez pas vous plaindre au nom de quelqu’un de célèbre.

Il s’agit néanmoins d’une bonne première étape dans ce qui deviendra certainement un problème croissant au cours des prochaines années.