# Article 50 de l'AI Act : pourquoi étiqueter un deepfake ne suffit pas à le rendre légal

## Contexte

Le règlement européen sur l'intelligence artificielle, dit AI Act (règlement (UE) 2024/1689 du 13 juin 2024), est entré en vigueur le 1er août 2024 selon un calendrier d'application échelonné sur plusieurs années. Après l'interdiction des pratiques à « risque inacceptable » le 2 février 2025 et l'entrée en application des obligations pesant sur les modèles d'IA à usage général (GPAI) le 2 août 2025, une nouvelle étape charnière survient le 2 août 2026 : c'est la date à laquelle l'ensemble du règlement devient pleinement applicable, en particulier les règles relatives aux systèmes d'IA à haut risque de l'annexe III et — ce qui concerne un public bien plus large que les seuls fournisseurs de systèmes « à haut risque » — les obligations de transparence de l'article 50, qui s'appliquent à quiconque expose un chatbot, génère du texte, de l'image, de l'audio ou de la vidéo par IA, ou publie un deepfake.

Contrairement aux obligations relatives aux systèmes à haut risque, qui ne concernent qu'un nombre restreint de secteurs sensibles (biométrie, infrastructures critiques, éducation, emploi, accès aux services publics, application de la loi, immigration, justice), l'article 50 vise une catégorie de risque intermédiaire, dite « risque spécifique en matière de transparence », qui touche potentiellement toute organisation déployant un agent conversationnel ou un outil de génération de contenu — sans seuil de taille d'entreprise ni de chiffre d'affaires.

## Ce que dit précisément l'article 50

L'article 50 du règlement distingue plusieurs obligations, réparties entre fournisseurs et déployeurs de systèmes d'IA. Le paragraphe 1 impose aux fournisseurs de concevoir leurs systèmes d'IA destinés à interagir directement avec des personnes physiques de façon à ce que ces personnes soient informées qu'elles interagissent avec une IA — sauf si cela est déjà évident pour une personne raisonnablement avertie. Le paragraphe 2 impose aux fournisseurs de systèmes générant des contenus de synthèse (audio, image, vidéo, texte), y compris les systèmes d'IA à usage général, de marquer leurs sorties dans un format lisible par machine et détectable comme artificiellement générées ou manipulées — une simple mention en petits caractères dans des conditions générales d'utilisation ne suffit pas ; il faut un filigrane numérique, des métadonnées ou une empreinte technique effectivement détectable.

Le paragraphe 4 est le plus directement lié à l'actualité récente : il impose aux déployeurs d'un système qui génère ou manipule un contenu constituant un « deepfake » — défini par le règlement comme un contenu ressemblant à des personnes, objets, lieux, entités ou événements réels qui paraîtrait, à tort, authentique ou véridique — de divulguer que ce contenu a été artificiellement généré ou manipulé. Des exceptions existent pour les œuvres manifestement artistiques, créatives, satiriques ou fictionnelles, où la mention doit simplement exister sans gâcher l'œuvre, ainsi que pour les usages autorisés par la loi à des fins de détection, prévention ou poursuite d'infractions pénales.

Le paragraphe 7 confie à l'AI Office, l'organe de la Commission européenne chargé de la mise en œuvre du règlement, la mission de faciliter l'élaboration de codes de bonnes pratiques pour aider à la mise en œuvre effective de ces obligations de marquage. C'est dans ce cadre que la Commission a publié, le 10 juin 2026, la version finale du Code de bonnes pratiques sur la transparence des contenus générés par IA, élaboré depuis novembre 2025 par un processus multipartite associant fournisseurs de systèmes génératifs, développeurs de techniques de marquage et de détection, associations de déployeurs et représentants de la société civile. L'adhésion à ce code reste volontaire, mais les signataires peuvent s'en prévaloir pour démontrer leur conformité aux obligations légales de l'article 50, ce qui réduit leur charge administrative et leur apporte une sécurité juridique face aux autorités de surveillance de marché de chaque État membre.

Sur le plan des sanctions, l'article 99 § 4 g) du règlement place le non-respect de l'article 50 dans la catégorie intermédiaire des infractions à l'AI Act : des amendes administratives pouvant atteindre 15 millions d'euros ou 3 % du chiffre d'affaires mondial annuel, selon le montant le plus élevé — un niveau inférieur au plafond de 35 millions d'euros ou 7 % réservé aux pratiques d'IA interdites de l'article 5, mais qui reste dissuasif pour la plupart des acteurs du marché.

## Un cas concret : l'affaire X et Grok

L'actualité récente illustre pourquoi cette obligation de marquage, bien qu'utile, ne règle pas à elle seule la question de la légalité des contenus générés par IA. Depuis janvier 2025, le parquet de Paris mène une enquête pénale visant la plateforme X, initialement centrée sur des soupçons de manipulation algorithmique par des puissances étrangères, à la suite de plaintes déposées par un parlementaire français et un haut responsable d'une institution publique. Cette enquête s'est ensuite élargie au chatbot Grok, développé par xAI et intégré à X, que les enquêteurs soupçonnent d'avoir permis la diffusion de contenus à caractère négationniste et de deepfakes sexuellement explicites.

Le 3 février 2026, la police française a perquisitionné les bureaux parisiens de X dans le cadre de cette procédure, qui bénéficie de pouvoirs d'enquête renforcés — écoutes et surveillance des dirigeants — en raison de la qualification de bande organisée retenue par les magistrats instructeurs. Le parquet de Paris a convoqué à des auditions libres, le 20 avril 2026, Elon Musk, dirigeant de X et de xAI, ainsi que Linda Yaccarino, ancienne directrice générale de X, aux côtés d'autres cadres de l'entreprise convoqués la même semaine. Les charges envisagées à l'encontre de X comprennent la détention et la diffusion d'images à caractère pédopornographique, l'atteinte aux droits des personnes par la création de deepfakes à caractère sexuel, et l'apologie de crimes contre l'humanité liée aux contenus négationnistes. Il est important de souligner qu'une convocation à une audition libre ne constitue ni une mise en examen ni une déclaration de culpabilité : elle permet aux personnes concernées de présenter leurs observations aux enquêteurs dans le cadre d'une instruction toujours en cours.

En parallèle, la Commission européenne a ouvert sa propre enquête sur Grok, de même que les autorités de régulation du Royaume-Uni, de l'Australie, du Canada et de l'Inde, après que plusieurs signalements ont révélé que le chatbot répondait à des requêtes demandant de « déshabiller » ou de « sexualiser » des images de femmes, qu'il s'agisse de personnalités publiques ou d'anonymes. X a annoncé, mi-janvier 2026, bloquer la génération d'images sexuelles de personnes réelles, mais uniquement dans les juridictions où une telle pratique est explicitement illégale.

## Pourquoi cette distinction compte

L'article 50 de l'AI Act répond à un risque précis : celui de la tromperie et de la manipulation informationnelle liée à des contenus dont l'origine artificielle n'est pas perceptible. Il ne s'agit pas d'un régime d'autorisation ou de légalisation des contenus IA — il ne fait que poser une obligation de signalement, assortie de sanctions propres. Un deepfake sexuel non consenti demeure une infraction pénale distincte, sanctionnée en droit français notamment par les dispositions réprimant les montages à caractère sexuel réalisés sans le consentement de la personne représentée, indépendamment de toute obligation de marquage IA. Un fournisseur ou un déployeur parfaitement conforme à l'article 50 — qui appose une étiquette « contenu généré par IA » sur un deepfake sexuel non consenti — resterait donc pleinement exposé aux poursuites pénales, aux sanctions du règlement sur les services numériques (DSA) pour manquement à ses obligations de modération, et aux actions civiles des personnes représentées.

C'est cette articulation entre plusieurs régimes de responsabilité empilés — AI Act, droit pénal national, RGPD, DSA — qui rend le paysage de conformité des plateformes génératives particulièrement complexe à l'approche du 2 août 2026, et qui en fait un terrain d'étude privilégié pour quiconque s'intéresse à l'architecture réglementaire du numérique européen.

## Angles de lecture pour NotebookLM (à coller dans « Personnaliser » de l'Audio Overview)

Choisis l'angle qui t'intéresse le plus et colle l'instruction correspondante dans le champ de personnalisation de l'Audio Overview NotebookLM.

**Angle 1 — Audit offensif et points de contrôle techniques du marquage IA.** Concentre-toi sur la dimension technique de l'article 50 § 2 : ce que recouvre concrètement un marquage « lisible par machine » (filigrane numérique, métadonnées C2PA, empreinte cryptographique de provenance), comment un auditeur pourrait tester la robustesse de ce marquage face à des tentatives de suppression ou de falsification, et quelles techniques offensives (recompression, capture d'écran, réencodage) permettent aujourd'hui de contourner ces dispositifs — un point de contrôle à intégrer dans tout audit de conformité d'une plateforme génératrice de contenu.

**Angle 2 — Architecture fournisseur/déployeur et responsabilités API.** Explique la distinction entre fournisseur (xAI développant Grok) et déployeur (X intégrant Grok à sa plateforme) au sens de l'AI Act, et discute de la manière dont cette séparation des rôles se traduit concrètement dans une architecture technique : qui contrôle l'API de génération, qui contrôle la couche de modération et de publication, et comment répartir en pratique les obligations de marquage (article 50 § 2) et de signalement de deepfake (article 50 § 4) entre ces deux couches lorsqu'elles appartiennent à des entités juridiques distinctes.

**Angle 3 — Comparaison avec les autres régimes de sanction déjà traités dans ce dépôt.** Mets en perspective le plafond de 15 M€ ou 3 % du chiffre d'affaires prévu par l'article 99 § 4 g) de l'AI Act pour les manquements à l'article 50 avec les autres sanctions déjà couvertes dans ce dépôt : les 890 M€ infligés à Google au titre du DMA, les amendes CNIL/RGPD contre Free ou SHEIN, le régime NIS2 pour les entités essentielles, et le régime plus sévère de l'article 5 de l'AI Act (35 M€ ou 7 %) applicable aux pratiques interdites. Explique pourquoi le législateur européen a choisi un régime de sanction intermédiaire pour une obligation « seulement » déclarative comme le marquage.

**Angle 4 — Veille réglementaire automatisée sur les obligations de transparence IA.** Discute de la manière dont un consultant en automatisation pourrait construire une veille continue sur les évolutions du Code de bonnes pratiques sur la transparence des contenus IA (mises à jour, nouveaux signataires, guidelines de la Commission sur l'article 50), sur les procédures d'enquête ouvertes contre les grands fournisseurs de chatbots par les différentes autorités nationales, et sur la jurisprudence naissante distinguant le respect du marquage IA de la légalité du contenu sous-jacent.

**Angle 5 — Prospective contentieuse et régulatoire.** Explore les suites possibles de l'affaire X/Grok : issues envisageables de l'instruction pénale française ouverte contre X, articulation entre l'enquête du parquet de Paris et celle de la Commission européenne sur le fondement du DSA, et scénarios dans lesquels une plateforme pourrait être sanctionnée simultanément au titre de l'AI Act (défaut de marquage), du DSA (défaut de modération) et du droit pénal national (diffusion de contenus illicites) pour un seul et même contenu généré par IA.