Atteinte à la vie privée et usurpation d’identité
Une photo, une vidéo ou un enregistrement vocal publié en ligne peut techniquement être détourné pour créer un hypertrucage, sans l’accord de la personne. L’image ou la voix peuvent alors être utilisées pour la mettre dans des situations fausses, gênantes ou préjudiciables, portant atteinte à sa vie privée et à sa réputation.
Ils peuvent ainsi être utilisés dans le cadre de phénomènes de « sextorsion » (extorsion ayant pour support le chantage lié à la diffusion de contenus à caractère sexuel).
Pour rappel, le montage réalisé avec l’image d’une personne sans son consentement peut être puni d’un an emprisonnement et de 15 000 € d’amende ( article 226-8 du Code pénal ).
Si le montage est à caractère sexuel et/ou généré par un service de communication en ligne ( un réseau social ), les peines peuvent être plus lourdes.
Cyberharcèlement
Les hypertrucages peuvent servir à humilier, menacer ou faire chanter une personne. Des images ou vidéos truquées, parfois à caractère choquant, peuvent être diffusées pour nuire à une victime, en particulier les jeunes, avec des conséquences importantes sur leur bien-être.
Pour rappel, le harcèlement, en ligne ou non, est puni de 2 ans d’emprisonnement et 30 000 € d’amende ( article 222-33-2-2 du Code pénal ). Les peines encourues sont plus lourdes si la victime est un conjoint, un ex-conjoint ou une personne vulnérable.
Fraudes et escroqueries
La reproduction fidèle d’un visage, d’une voix ou d’un comportement peut servir à usurper l’identité d’une personne : ouverture ou modification de comptes en ligne, fraude auprès de services, escroquerie visant des proches ou des collaborateurs, etc.
L’escroquerie, qui consiste à tromper une personne en vue de se voir remettre de l’argent, un bien ou un service est punie de 5 ans d’emprisonnement et de 375 000 € d’amende ( article 313-1 du Code pénal ).
Désinformation et manipulation
Les hypertrucages peuvent être créés pour tromper le public. Des vidéos ou des audios falsifiés de personnalités peuvent être diffusés pour manipuler l’opinion, nuire à une réputation ou propager de fausses informations.
La fabrication ou la diffusion de désinformation est, dans certains cas, punie par la loi
( Article 27 de la Loi du 29 juillet 1881,
Article 322-14 du Code pénal,
Article L97 du Code électoral ).
Génération de contenus haineux ou pédopornographiques
Les hypertrucages peuvent permettre de générer des contenus illégaux comme des contenus haineux (racistes ou xénophobes) ou pédopornographiques.
Certains services gratuits ou payants utilisant l’IA prétendent « déshabiller » des personnes réelles, notamment à partir de clichés de personnes mineurs : ne les utilisez pas, ne partagez pas les contenus.
Par ailleurs, certaines pratiques comme, par exemple la publication de photos et de vidéos de mineurs sur les réseaux sociaux (ou sharenting ) peuvent participer à nourrir les hypertrucages.
Le fait de produire, de détenir, d’enregistrer, de transmettre ou de consulter habituellement des contenus pédopornographiques est puni de 5 ans d’emprisonnement et de 75 000 € d’amende, y compris si ces contenus ont été produits par des outils d’intelligence artificielle ( article 227-23 du Code pénal ).
Les contenus haineux visant des personnes en raison de leur appartenance ou de leur non-appartenance, vraie ou supposée, à une ethnie, une nation, une prétendue race ou une religion déterminée est punie de l’amende prévue pour les contraventions de la 5e classe ( jusqu’à 1 500 € ou 3 000 € en cas de récidive – article R 625-7 du Code pénal ).