En octobre dernier, Francesca Mani, 14 ans, a vu son quotidien basculer dans l’horreur. Une rumeur s’est propagée dans son lycée : des garçons possédaient des photos nues de camarades féminines.
Francesca a découvert, avec stupéfaction, que son image figurait parmi elles. « Personne ne pense que cela pourrait lui arriver, et pourtant c’était bien mon cas », témoigne-t-elle. Ces photos avaient été fabriquées à l’aide de « site de nudification », des plateformes d’IA pour truquer des images.
Les sites de nudification, comme « Cloth Off », permettent de transformer des photos ordinaires en nudes réalistes en quelques secondes. Ces sites, accessibles sans aucune vérification d’âge, attirent des millions d’utilisateurs chaque mois. Selon une plainte déposée par une autre victime, un garçon du lycée avait téléchargé des photos Instagram pour les modifier. « L’idée que ces outils soient si accessibles à des adolescents est terrifiante », ajoute Francesca.
Une réponse scolaire jugée insuffisante
Les victimes ont été publiquement appelées au bureau du principal et ont accentué leur humiliation. « Je voyais des garçons rire pendant que des filles pleuraient dans les couloirs », raconte Francesca. Pourtant, le principal n’a infligé qu’un jour de suspension à l’élève responsable. « Est-ce suffisant pour un acte aussi grave ? » s’interroge Dorota, la mère de Francesca. Elle déplore un manque de mesures concrètes pour protéger les victimes et prévenir ces incidents.
Les réseaux sociaux amplifient le problème
Ces sites de nudification encouragent leurs utilisateurs à partager leurs créations sur les réseaux sociaux, ce qui aggrave leur impact. Des photos avant et après modification, souvent de mineures, circulent librement sur ces plateformes. « J’ai vu des images d’adolescentes lors de compétitions sportives transformées en contenus explicites », explique Kalina Coltai, chercheuse spécialisée dans les abus liés à l’IA. Ces pratiques exploitent des failles juridiques et un manque de régulation pour prospérer.
Aux États-Unis, une image d’un enfant nu mais non explicitement sexuelle n’est pas toujours illégale. Cette faille juridique complique la protection des victimes de ces abus liés à l’IA. « La loi doit évoluer pour répondre à ces nouvelles menaces », affirme Yoda Service, juriste au National Center for Missing and Exploited Children. Les réseaux sociaux, utilisés pour diffuser ces images, tardent parfois des mois à les supprimer. Cela aggrave le traumatisme des victimes.
Un projet de loi porteur d’espoir
Le « Take It Down Act », en cours de validation au Congrès, propose de criminaliser ces pratiques. Ce texte impose également un délai strict de 48 heures pour supprimer les contenus signalés. Francesca et sa mère militent activement pour que les écoles adoptent des politiques de prévention adaptées. « Les lois doivent être claires, les sanctions dissuasives, et les écoles mieux préparées », insiste Dorota.
Ce scandale illustre les dangers d’une technologie mal encadrée, transformée en arme d’abus. La législation, l’éducation et la responsabilité des plateformes doivent évoluer pour protéger les victimes. Une réponse collective, qui allie lois strictes et sensibilisation, est essentielle pour prévenir ces dérives et garantir un usage éthique des outils d’IA.
- Partager l’article :
Notre blog est alimenté par les lecteurs. Lorsque vous achetez via des liens sur notre site, nous pouvons percevoir une commission d’affiliation.
Plus de détails sur l’article original.