Le cadre juridique existant semble suffisant pour lutter contre la montée en puissance de la désinformation par IA sur internet, à condition qu’il soit mis en œuvre rapidement, de façon rigoureuse et coordonnée par les juridictions, les plateformes et les autorités publiques.

Les points clés à retenir sur la désinformation par intelligence artificielle

• Les outils de génération vidéo par IA permettent aujourd’hui de produire des contenus particulièrement réalistes et difficiles à identifier.
• Les campagnes de désinformation reposant sur des contenus générés artificiellement se multiplient dans les domaines politique, médiatique et géopolitique.
• Plusieurs mécanismes juridiques peuvent déjà être mobilisés en droit français : droit de la presse, usurpation d’identité, atteinte à la représentation d’une personne ou manipulation de l’information.
• Le Digital Services Act (DSA) impose aux grandes plateformes des obligations renforcées de transparence, de modération et de gestion des risques systémiques.
• La loi SREN et l’IA Act renforcent progressivement l’encadrement des contenus générés par intelligence artificielle.
• L’enjeu principal réside désormais dans l’application effective de ces dispositifs par les autorités publiques, les juridictions et les plateformes.

Une nouvelle génération d’outils au service de la désinformation

La lutte contre la désinformation en ligne a été érigée en sujet prioritaire par la Présidence, qui a même évoqué une possible « labellisation des médias »¹. Cette lutte revêt un enjeu de plus en plus fort, avec l’intensification et le perfectionnement des méthodes de désinformation par le biais de vidéos générées par intelligence artificielle.

Des contenus synthétiques de plus en plus crédibles

Des avancées technologiques importantes brouillent les frontières avec le réel. Sora 2, Veo 3, Grok… beaucoup de services de création de vidéos par IA se distinguent désormais par leur capacité à mieux prendre en charge les mouvements corporels, les jeux de lumières et les ambiances sonores, rendant ainsi les sorties vidéo bien plus réalistes que les modèles précédents.

Malgré leur format court (les vidéos générées durent environ 8 à 15 secondes) ces outils ont rapidement été utilisés comme outils de désinformation. Brouillant les frontières entre le monde réel et le monde numérique, il devient de plus en plus compliqué de reconnaître les signes qu’une vidéo a été créée par une intelligence artificielle. Certaines vidéos générées véhiculent ainsi de faux discours politiques, de fausses arrestations ou encore de faux faits divers. Ces messages délibérément erronés perpétuent des désinformations sur des sujets politiques importants et peuvent viser à déstabiliser l’opinion publique.

Pourtant, ces actions sont considérées par la plupart de leurs conditions générales d’utilisation comme non acceptables. Par exemple, concernant Veo 3, il est notamment interdit de générer du contenu trompeur, violent, haineux ou violant les droits de propriété intellectuelle. Il est également stipulé qu’il est interdit de faire croire que les vidéos générées par Veo 3 sont de vraies vidéos. Veo 3, comme les autres services bloquent ainsi certaines requêtes, par exemple liées aux problématiques migratoires et à la violence². Pourtant, les garde-fous techniques ne sont pas suffisants, et ces vidéos prolifèrent sur la toile.

L’essor des campagnes de manipulation informationnelle

Ces outils sont au cœur des stratégies de désinformation et de déstabilisation à l’échelle nationale et internationale. En matière de politique interne par exemple, c’est le projet de l’autoroute A89 qui a été visé, par une fausse vidéo décrédibilisant les arguments écologiques et sociaux des opposants à ce projet³.

En matière d’ingérence étrangère, un groupe nommé Storm-1516, actif depuis au moins fin 2023 a mené des dizaines de campagnes informationnelles (77 au moins documentées début 2025) ciblant la France, l’Ukraine, et d’autres pays occidentaux⁴. Plusieurs faux récits ont totalisé, entre décembre 2024 et mars 2025, 55,8 millions de vues pour près de 39 000 publications sur les réseaux sociaux. Parmi elles : un ancien élève accusait Brigitte Macron (épouse du président) d’abus sexuels, la vidéo utilisait un visage reconstruit par IA ; un « militant islamiste » menaçait de s’attaquer à des symboles en France ; un faux « clip » d’une jeune femme se prétendant « nièce de Marine Le Pen » — « Amandine Le Pen » ; diffusait en période électorale, une vidéo truquée simulant un « bulletin d’information » d’un grand média (ou broadcast) prétendant qu’un pays étranger (Ukraine) aurait préparé un assassinat contre Emmanuel Macron.

Quels moyens juridiques de lutte existent concrètement ?

Face à la multiplication des contenus générés par intelligence artificielle, plusieurs mécanismes juridiques peuvent déjà être mobilisés. Certains sont anciens et reposent sur le droit de la presse, tandis que d’autres ont été créés ou renforcés pour répondre aux nouveaux usages numériques.

Les infractions de presse face aux fausses informations

En premier lieu, les infractions de presse. Ces vidéos générées par l’Intelligence artificielle peuvent être qualifiées en premier lieu de délit contre la chose publique, au sens de l’article 27 de la loi du 29 juillet 1881 sur la liberté de la presse, qui vise à réprimer « la publication, la diffusion ou la reproduction, par quelque moyen que ce soit, de nouvelles fausses, de pièces fabriquées, falsifiées ou mensongèrement attribuées à des tiers lorsque, faites de mauvaise foi » elles sont susceptibles de « troubler la paix publique ».

Une application limitée par les difficultés probatoires

Concernant les auteurs physiques, l’élément moral requis, l’intention, est particulièrement difficile à caractériser, car il faut démontrer que les relayeurs ont su qu’ils partageaient de fausses vidéos ou informations. Les diffuseurs originaux sont quant à eux souvent anonymes, utilisent de faux comptes et des infrastructures étrangères. Cette disposition est donc difficile à mobiliser en pratique, au profit des infractions de presse classiques (diffamation et injure).

L’exemple de la plainte de Reporters sans frontières contre X

Concernant les plateformes, ce fondement est mobilisé en septembre 2024 dans sa plainte par Reporter Sans Frontières⁵ contre la plateforme X, à qui il est reproché d’avoir laissé en ligne, malgré des signalements répétés, des contenus usurpant l’identité de l’ONG ainsi que d’un de ses directeurs et diffusant des informations mensongères sur la présence de néonazis en Ukraine. Mais aussi contre l’auteur du premier post identifié ayant relayé cette vidéo pour diffamation et s’agissant d’un « deep fake », pour usurpation d’identité⁶.

Le Digital Services Act (DSA)

La responsabilité des auteurs de contenus ne constitue toutefois qu’une partie de la réponse juridique. Le législateur européen a également choisi d’imposer des obligations renforcées aux plateformes numériques afin de limiter la propagation de contenus illicites ou trompeurs.

Des obligations renforcées de transparence et de modération

Surtout, cette plainte s’appuie sur la violation de la réglementation européenne en la matière, le Digital Services Act, entré en vigueur le 16 novembre 2022 imposant de nombreuses obligations aux plateformes en la matière, en particulier de transparence et de modération.

Auditionné dans le cadre d’une procédure formelle de la Commission européenne contre la plateforme X le 18 décembre 2023, RSF a souligné l’inefficacité du mécanisme mis en place par X en vertu du Règlement européen sur les services numériques, ainsi que le caractère trompeur des coches bleues censées garantir une forme de transparence et d’authenticité sur les comptes qui ont pourtant maintenus des contenus signalés comme mensongers.

Dans cet élan, la Commission européenne a rendu le 5 décembre 2025, la première décision d’application du Digital Services Act (DSA) en sanctionnant X d’une amende de 120 millions d’euros pour manquement à des obligations de transparence et de non-conception trompeuse. Les griefs principaux retenus sont : l’usage trompeur du « blue check » (coche bleue) en tant que design trompeur exposant les utilisateurs à de l’usurpation d’identité, voire de l’escroquerie⁷ ; le manque de transparence de son registre public de publicité (ad repository) ; le refus d’accès aux données publiques pour chercheurs (obstacles empêchant les chercheurs d’accéder aux métriques de visibilité)⁸. La Commission détaille également le calendrier de mise en conformité et l’obligation pour X de proposer en 60 jours un plan pour corriger les manquements.

Les obligations particulières des très grandes plateformes

Il est également important de rappeler que X a été désignée par la Commission européenne comme « une très grande plateforme en ligne », à l’instar d’autres réseaux sociaux comme Instagram, Snapchat ou Facebook⁹. Ainsi, la plateforme est tenue de recenser, d’analyser et d’évaluer de manière diligente tout risque systémique – contenus illicites, atteintes aux droits fondamentaux, à la sécurité publique et aux procédures électorales – au sein de l’Union découlant de la conception ou du fonctionnement de leurs services et de leurs systèmes connexes, ou de l’utilisation qui en est faite. Une telle plateforme est ainsi tenue de mettre en place des mesures d’atténuation raisonnables, proportionnées et efficaces, adaptées aux risques systémiques spécifiques recensés¹⁰.

Loi SREN et atteinte à la représentation d’une personne

Les deepfakes et autres contenus générés artificiellement ont conduit le législateur français à créer de nouvelles infractions spécifiquement adaptées à ces usages.

Afin de lutter contre ce phénomène, la loi SREN¹¹ punit désormais d’un an d’emprisonnement et de 15 000 euros d’amende le fait de porter à la connaissance du public ou d’un tiers le « contenu visuel ou sonore généré par un traitement algorithmique et représentant l’image ou les paroles d’une personne » sans l’autorisation de la personne concernée et qui n’apparaît pas à l’évidence comme un contenu généré par l’IA ou sur lequel l’utilisation de l’IA n’est pas expressément mentionnée. Cette sanction est portée à 45 000 euros d’amende et deux ans d’emprisonnement en cas d’utilisation d’un service de communication en ligne¹². La loi a introduit dans le code pénal une sanction similaire autonome en ce qui concerne les contenus à caractère sexuel générés par l’IA¹³.

Loi de lutte contre la manipulation de l’information

Au-delà des mécanismes de responsabilité pénale, le législateur a également instauré des procédures destinées à préserver la sincérité du débat démocratique et des scrutins électoraux.

Une procédure d’urgence en période électorale

La loi du 22 décembre 2018 relative à la lutte contre la manipulation de l’information a instauré pour les grandes plateformes de partage de contenus un devoir de coopération en matière de lutte contre la manipulation de l’information, dont une composante centrale est la mise en œuvre de mesures pour : « lutter contre la diffusion de fausses informations susceptibles de troubler l’ordre public ou d’altérer la sincérité d’un des scrutins. »

L’article L 163-2 du code électoral est le pilier de ce dispositif « anti fake news » et permet en période électorale de faire cesser en référé, dans les 48 heures à compter de la saisine, la diffusion de fausses informations lorsqu’elles sont diffusées de manière délibérée, artificielle ou automatisée et massive et qu’elles sont de nature à altérer la sincérité du scrutin.

Un champ d’application limité dans le temps

Cet article est particulièrement adapté s’agissant de fausses vidéos générées par l’intelligence artificielle et les manipulations en période électorale sur les réseaux sociaux. Il se borne cependant à la seule période électorale, à savoir « trois mois précédant le premier jour du mois d’élections générales et jusqu’à la date du tour de scrutin où celles-ci sont acquises ».

IA Act et transparence

Enfin, l’IA Act¹⁴ contient des dispositions en matière de transparence applicables en août 2026, qui prévoient que les fournisseurs de systèmes d’IA veillent à ce que les résultats, y compris les vidéos, soient marqués dans un format lisible par une machine et détectables comme étant générés ou manipulés artificiellement. Un projet de code de conduite¹⁵ est ainsi en cours d’élaboration pour permettre sa mise en œuvre en particulier par les déployeurs d’IA qui auront l’obligation d’identifier les contenus générés par l’IA¹⁶, en particulier les grandes plateformes et réseaux sociaux.

Un cadre juridique désormais complet, mais encore peu éprouvé

Face à la montée en puissance des outils d’intelligence artificielle et à leur potentiel d’amplification de la désinformation, le cadre juridique existant et à venir semble suffisant pour préserver les enjeux démocratiques. Il appelle désormais à une mise en œuvre rapide, rigoureuse et coordonnée que ce soit par les juridictions, les plateformes et les autorités publiques. En effet, le DSA a commencé à s’appliquer le 25 août 2023 et seule une décision – certes conséquente – a été prise à ce jour par la Commission européenne le 5 décembre 2025 contre la plateforme X. Concernant la plainte de RSF, celle-ci a été déposée le 18 décembre 2023 et n’a pas encore abouti sur une décision¹⁷. Quant à l’Arcom, elle a nommé sept associations comme signaleurs de confiance au sens du DSA, permettant à leurs signalements d’être pris en compte prioritairement par les plateformes. Il faut encourager et étendre cette démarche, même si ce rôle n’est pas facile à acquérir puisqu’il nécessite de disposer d’une “expertise et de compétences particulières aux fins de détecter, d’identifier et de notifier des contenus illicites”, comme le rappelle une décision administrative de l’Arcom visant au rejet de l’attribution de rôle de signaleur de confiance à une association¹⁸, dont la contestation a été rejetée par le Conseil d’Etat¹⁹.

L’Arcom s’est d’ailleurs vu confier des pouvoirs renforcés²⁰ pour veiller à l’application du DSA en matière de transmission d’informations, de contrôle, d’injonctions et de saisine de l’autorité judiciaire.

La préservation de la sincérité du débat public, particulièrement à l’approche des échéances électorales à venir, dépendra de cette capacité collective à appliquer le cadre existant pour maîtriser les dérives informationnelles et à résister à la pression des Etats-Unis pour le déréguler.

À propos des auteurs

Benjamin Labyod est Responsable du Département des affaires juridiques du GIP Pix. Tiphaine Delacroix-Gouin est juriste au sein du GIP Pix. Constitué entre l’État, l’ANSSI, l’ANCT, le CNAM, le CNED et l’Université de Strasbourg (UOH), le GIP Pix a pour mission d’évaluer et de certifier les compétences numériques, tout en contribuant à l’émergence d’un standard de référence dans une logique de bien commun.

Notes et références

1. Prise de parole du chef de l’Etat, Emmanuel Macron, au lycée Gambetta d’Arras, le 19 novembre 2025. ↩
2. Time, Andrew R. Chow et Billy Perrigo, « Google’s Veo 3 Can Make Deepfakes of Conflict, Riots, More », 03/05/2025. ↩
3. Vert, Théo Mouraby, « Deepfake : une vidéo truquée utilise les progrès de l’intelligence artificielle pour décrédibiliser les opposants à l’A69 », 18/07/2025. ↩
4. Rapport SGDSN / VIGINUM – Analyse du mode opératoire informationnel russe Storm-1516, mai 2025. ↩
5. RSF porte plainte contre X (ex-Twitter) pour diffusion de fausses informations et usurpation d’identité. ↩
6. Art. 226-4-1 du code pénal. Depuis, d’autres dispositions pénales, spécifiques, ont été introduites par la loi SREN, elles sont décrites plus loin. ↩
7. Article 25 paragraphe 1 du DSA. ↩
8. Article 40 paragraphe 12 du DSA. ↩
9. Supervision of the designated very large online platforms and search engines under DSA. ↩
10. Article 34, paragraphes 1 et 2, et article 35, paragraphe 1 du DSA. ↩
11. Loi n° 2024-449 du 21 mai 2024 visant à sécuriser et à réguler l’espace numérique, dite « loi SREN ». ↩
12. Article 226-8 du Code pénal. ↩
13. Article 226-8-1 du Code pénal. ↩
14. IA Act – règlement (UE) 2024/1689 établissant des règles harmonisées sur l’intelligence artificielle – article 50. ↩
15. Code of Practice on marking and labelling of AI-generated content. ↩
16. IA Act – Article 50 (§4) : “Deployers of an AI system that generates or manipulates image, audio or video content constituting a deep fake, shall disclose that the content has been artificially generated or manipulated (…).” ↩
17. A notre connaissance au moment de la rédaction de notre article. ↩
18. Décision Arcom du 11 décembre 2024. ↩
19. CE, 17 octobre 2025, n° 501359. ↩
20. Articles 9-1 et 9-2 de la Loi pour la confiance dans l’économie numérique issus de la loi SREN et leur décret d’application au sein du Décret n° 2024-1255 du 30 décembre 2024. ↩