Sensibiliser les enfants aux hypertrucages

Avez-vous vu une image ou une vidéo récemment qui vous semblait réelle, mais qui s’est avérée être truquée? La plupart des images falsifiées en ligne sont simplement des photos retouchées ou des photos réelles présentées dans un contexte trompeur, mais de plus en plus d’hypertrucages font leur apparition. Il s’agit d’images truquées, mais convaincantes, de personnes ou de choses réelles, comme celle du pape portant une doudoune ou celles de Katy Perry et de Rihanna au Met Gala de 2024 (la photo de Katy Perry était tellement convaincante que même sa propre mère y a cru).

Les hypertrucages, comme les autres types d’IA générative, sont créés au moyen d’algorithmes avancés, appelés modèles de diffusion. Ces modèles apportent des modifications aux images au fur et à mesure, jusqu’à ce qu’elles deviennent méconnaissables. Ensuite, ils testent des millions de façons d’annuler ces changements et de restaurer l’image originale, un processus connu sous le nom de diffusion inverse. Une fois que l’IA a appris comment faire, elle peut créer un modèle numérique d’une personne et lui faire prendre différentes poses ou la modifier, un peu comme les « doubles numériques » utilisés dans les films hollywoodiens.

Il y a de cela quelques années, créer un hypertrucage demandait de bonnes compétences techniques. Aujourd’hui, toutefois, les nouveaux outils de création ont rendu la tâche facile et accessible à tous. Même si, comme bon nombre d’autres technologies, les outils les plus connus sont paramétrés de sorte à ne pas pouvoir être utilisés de façon malveillante, certaines personnes parviennent encore à contourner ces restrictions. Malheureusement, il existe aussi des outils d’hypertrucages qui ne posent pas de telles limites et qui, dans certains cas, ont été créés dans le but spécifique de causer du tort.

Nous devons nous assurer que les jeunes savent ce qu’est l’hypertrucage et comment y faire face, mais il faut aussi faire preuve de prudence : sensibiliser davantage les gens aux hypertrucages sans leur donner les outils nécessaires pour les identifier peut leur porter préjudice en les rendant aussi méfiants du contenu réel que du faux contenu. Comme les ados définissent généralement le bien et le mal en fonction de ce qu’ils jugent normal entre eux, nous devons aussi faire attention à ne pas donner l’impression que les hypertrucages malveillants sont plus courants ou banalisés qu’ils ne le sont réellement.

Comment repérer de la désinformation dans des hypertrucages?

Nous ne pouvons pas uniquement nous fier à ce que nous voyons, parce que les preuves habituelles, telles que des yeux mal alignés ou des doigts en trop, sont beaucoup plus rares dans les images créées par les outils d’hypertrucage plus récents. De plus, en adoptant cette approche, on risque de conclure à tort qu’une image réelle est un hypertrucage si on ne veut pas y croire. Comme l’indique Eliot Higgins, fondateur du site de journalisme d’enquête Bellingcat, « la véritable menace du contenu généré par l’IA ne réside pas dans le fait qu’il nous fait croire à de fausses informations, mais plutôt qu’il nous pousse à ne plus croire ce qui ne renforce pas nos croyances, voire à ne plus rien croire du tout parce que la vérité semble impossible à établir. »

Nous devrions plutôt apprendre aux jeunes à appliquer des techniques de tri des informations, comme celles listées dans le programme FAUX que ça cesse d’HabiloMédias. Ces techniques visent à se tourner vers d’autres sources plus difficiles à falsifier. Par exemple, si l’on téléverse une vraie photo de Rihanna au Met Gala de 2023 dans un outil de recherche d’image inversée, on obtiendra des liens vers l’émission du Today Show et d’autres sources fiables. En recherchant la fausse photo de 2024, les résultats ne mèneront qu’à des publications dans les médias sociaux et des articles indiquant qu’il s’agit d’un hypertrucage. D’autres méthodes de recherche de la source originale déboucheront généralement sur des pages de médias sociaux ou des publications dans des forums en ligne de personnes qui n’ont sans doute pas pris la photo. Il est aussi possible de faire appel à des vérificateurs de faits professionnels, qui disposent des connaissances techniques nécessaires pour valider ou discréditer une photo. Vous pouvez également utiliser l’outil de vérification d’HabiloMédias, qui permet d’effectuer une recherche sur plus d’une douzaine de plateformes à la fois. Enfin, il y a de fortes chances que les médias de confiance mentionnent les images ou les vidéos susceptibles de faire l’objet des gros titres, comme un politicien ou une célébrité en train de commettre une bévue. Si aucun média n’en parle, il vaut mieux attendre avant de croire à ce type de contenu ou de le partager.

Hypertrucages de contenus intimes

Alors que les médias ont surtout couvert la désinformation liée aux hypertrucages, des chercheurs affirment que ce sont plutôt les hypertrucages de contenus intimes, qui montrent des personnes à moitié ou entièrement nues ou pratiquant un acte sexuel, qui sont les plus courants. Deux types d’outils largement accessibles permettent de créer ce contenu : les applications de « déshabillement », qui modifient la photo pour mettre à nu son sujet, et les applications d’« échange de visage », qui collent le visage de la personne à une photo ou une vidéo intime existante. De plus en plus souvent, cependant, les outils d’IA peuvent utiliser plusieurs photos d’une même personne pour créer des images ou même des vidéos encore plus crédibles.

Bien que l’on recense des cas de dizaines de filles et de jeunes femmes ciblées au sein d’une même communauté, notamment à Winnipeg et à London (Ontario) l’année dernière, l’étude montre que de manière générale, assez peu de jeunes ont été victimes d’hypertrucages de contenus intimes. Même si nous devons informer les jeunes de ce problème, il faut aussi éviter de rendre cette situation plus courante qu’elle ne l’est réellement, et donc normale et acceptable aux yeux des ados.

Alors, comment sensibiliser les jeunes aux hypertrucages de contenus intimes?

Bien qu’il soit utile d’encourager les ados à régler leurs paramètres de confidentialité pour limiter la visibilité de leurs publications en ligne, cela n’empêchera pas la création d’hypertrucages, parce qu’ils sont souvent réalisés par des pairs qui ont encore accès à leurs comptes. Et il n’est bien évidemment pas réaliste de demander à des jeunes de ne publier aucune photo ou vidéo.

Il vaut donc mieux leur tenir le même discours qu’avec le sextage. Qu’il s’agisse d’un hypertrucage ou d’une vraie photo, vos enfants doivent savoir qu’ils peuvent venir vers vous pour obtenir de l’aide s’ils découvrent qu’une photo intime d’eux a été partagée en ligne. Kaitlyn Mendes, professeure spécialisée dans l’inégalité des sexes à la Western University, explique : « Il faut éteindre ce sentiment de honte, parce que je peux vous dire qu’[après] avoir parlé à de nombreux adolescents, rare sont ceux qui se confient à des adultes quand les choses tournent mal, car ils ont peur de se faire traiter d’idiots. Qu’on leur dise que c’est de leur faute. Que leur vie est foutue. »

Quand les jeunes se tournent vers nous, nous pouvons les aider à documenter les faits et à envoyer des demandes de retrait sur les sites où la photo ou la vidéo a été publiée. (La fiche-conseil d’HabiloMédias « À l’aide! Quelqu’un a partagé une photo de moi sans mon consentement! » offre plus d’informations à ce sujet. L’outil du Centre canadien de protection de l’enfance, Aidez-moi SVP, peut aussi apporter de l’aide.)

Vous pouvez également aider vos enfants en étudiant les options légales qui s’offrent à vous pour faire retirer l’hypertrucage du Web. À l’heure actuelle, il existe des lois contre la création d’hypertrucages de contenus intimes en Colombie-Britannique, au Nouveau-Brunswick, à l’Île-du-Prince-Édouard et en Saskatchewan. Par ailleurs, générer et publier des images intimes de mineurs constitue une infraction criminelle, même si ces photos ont été créées par une IA.

Nous devons aussi informer nos enfants des problèmes moraux que pose la création d’hypertrucages.

La campagne #PenseAuxConséquences de TELUS Averti et HabiloMédias offre des outils pour répondre aux différentes excuses que les jeunes utilisent souvent pour justifier le partage de sextos. Les personnes qui créent et partagent des hypertrucages de contenus intimes utilisent exactement les mêmes excuses pour se dédouaner. En effet, selon une étude menée en 2020, les personnes qui créent des hypertrucages de contenus intimes se justifient en minimisant les dégâts causés et en essayant de faire passer ce problème moral pour un défi technique, qui consisterait à produire le contenu le plus réaliste et convaincant possible. L’étude a aussi révélé qu’il était devenu tout à fait normal de créer et de partager des hypertrucages au sein de cette communauté.

Nos enfants doivent comprendre que les hypertrucages de contenus intimes, mais aussi de tout autre contenu embarrassant ou préjudiciable, ne sont pas sans conséquences : ils causent du tort aux personnes qui en sont victimes. En effet, sur 16 000 personnes interrogées dans le cadre d’un sondage dans 10 pays différents, une large majorité s’est accordée à dire que créer et partager des hypertrucages de contenus intimes sans le consentement de la personne concernée lui porterait préjudice. Une étude menée sur des ados de 13 à 16 ans a quant à elle conclu que « le partage d’images ou de vidéos dénudées causait systématiquement du tort aux jeunes impliqués ».

Les victimes d’hypertrucages de contenus intimes ont aussi fait part des conséquences que ces pratiques ont eues sur elles :

• « On nous dit “ce n’est pas vrai, passe à autre chose”, mais ça reste embarrassant. »
• « Partout où vous allez, les gens que vous croisez en parlent. »
• « Même s’il a été prouvé que l’image était truquée, la personne concernée est encore victime de harcèlement et de moqueries. »
• « J’ai l’impression que c’est la photo d’une agression. »

Nous devons aussi combattre l’idée reçue selon laquelle les hypertrucages ne font pas de dégâts parce qu’ils sont inventés, qu’ils ne sont pas réels. Cette idée est fausse pour deux raisons. Premièrement, l’hypertrucage ne se limite pas à vous : d’autres personnes le verront. Deuxièmement, il montre du contenu privé, intime et sans doute embarrassant ou humiliant. Si vous créez un hypertrucage d’une personne qui gagne une médaille olympique ou qui prépare un gâteau, ce sera peut-être trompeur, mais pas embarrassant. Par contre, lorsqu’il s’agit d’une personne nue ou effectuant un acte sexuel, c’est totalement différent.

Attention toutefois à ne pas tomber dans un autre piège des hypertrucages : blâmer la victime. Si l’on considère que les victimes d’hypertrucages sexuels qui n’ont jamais pris ou envoyé d’images dénudées d’elles-mêmes sont « parfaitement innocentes », cela suggère que les autres personnes qui l’ont fait sont en tort dans le cas où quelqu’un d’autre partagerait ces images. Lorsque vous sensibilisez les jeunes aux hypertrucages, insistez sur le fait que rien ne justifie l’envoi d’une image ou d’une vidéo intime à quelqu’un sans le contentement éclairé de cette personne, que ce contenu soit réel ou généré par une IA.

Pour aider vos ados à en apprendre davantage sur l’intelligence artificielle, développer une pensée critique, déterminer les mythes courants et approfondir l’éthique de l’IA, suivez l’atelier TELUS Averti sur l’IA responsable.