Droit Vivant · Intelligence artificielle & transparence des contenus générés · 28 août 2026

Le filigrane de Gemini est né dans Nature, pas à Bruxelles : Demis Hassabis l'a cosigné en octobre 2024, l'Europe vient d'en faire une obligation — xAI a refusé de signer le chapitre transparence, et la Chine l'impose sans avoir rien signé du tout

Principe-clé : l'article 50, §2, de l'AI Act n'impose pas une technologie mais un résultat — les sorties d'un système d'IA générative doivent être marquées dans un format lisible par machine et détectables comme artificielles, par des solutions « efficaces, interopérables, robustes et fiables » et « techniquement réalisables » au regard de l'état de l'art. C'est donc la recherche publiée qui définit, en pratique, le niveau d'exigence que le droit peut réclamer.

Textes de référence

règlement (UE) 2024/1689 (AI Act), art. 50, §1 — informer la personne qu'elle interagit avec une IA
art. 50, §2 — marquage lisible par machine et détectabilité des contenus de synthèse (audio, image, vidéo, texte) ; obligation pesant sur le fournisseur
art. 50, §4 — obligation du déployeur : révéler un hypertrucage, et signaler les textes publiés pour informer le public sur des questions d'intérêt général
art. 50, §7 — codes de bonnes pratiques encouragés par le Bureau de l'IA pour la détection et l'étiquetage
art. 53 et art. 55 — obligations des modèles à usage général, socle du code de bonnes pratiques GPAI
art. 99 — sanctions : jusqu'à 15 M€ ou 3 % du chiffre d'affaires mondial pour un manquement à l'article 50
Chine — Mesures d'étiquetage des contenus générés ou synthétisés par IA (CAC, 14 mars 2025) et norme nationale obligatoire GB 45438-2025, en vigueur depuis le 1^er septembre 2025

L'affaire

Le 23 octobre 2024, Nature publie « Scalable watermarking for identifying large language model outputs » (vol. 634, p. 818-823), signé par vingt-trois chercheurs de Google DeepMind — Sumanth Dathathri et Abigail See en tête, Demis Hassabis et Pushmeet Kohli en dernier. L'article décrit SynthID-Text et, fait rare pour un papier d'industrie, documente un déploiement réel : le filigrane est actif dans Gemini, et sa neutralité sur la qualité du texte est évaluée sur près de 20 millions de réponses issues d'interactions réelles.

Trois choix techniques comptent. Le filigrane ne touche pas à l'entraînement : il ne modifie que la procédure d'échantillonnage, en biaisant le tirage du prochain jeton à l'aide de fonctions pseudo-aléatoires amorcées par le contexte récent et une clé. La détection ne nécessite pas le modèle : elle est peu coûteuse, ce qui la rend industrialisable. Et le schéma est compatible avec le sampling spéculatif, sans quoi il serait inutilisable en production. Une variante non distordante préserve la distribution de sortie ; une variante distordante détecte mieux, au prix de la qualité.

Le calendrier réglementaire vient après. Le code de bonnes pratiques GPAI est publié le 10 juillet 2025, la liste des signataires le 1^er août 2025 : Google y figure, aux côtés d'OpenAI, Anthropic, Microsoft, Amazon, IBM, Mistral AI, Aleph Alpha. Meta a refusé de signer. xAI a signé le seul chapitre « sûreté et sécurité » — pas le chapitre transparence, pas le chapitre droit d'auteur, qu'elle juge « profondément préjudiciables à l'innovation ». Aucun laboratoire chinois ne figure parmi les signataires.

Or l'obligation dure, elle, est ailleurs. L'article 50 de l'AI Act est applicable depuis le 2 août 2026. Pour l'obligation de marquage du §2, les systèmes déjà mis sur le marché avant cette date bénéficient d'un délai de grâce jusqu'au 2 décembre 2026 ; les systèmes nouveaux s'y conforment dès leur mise sur le marché. La Commission a publié des lignes directrices en projet le 8 mai 2026 et travaille à un code de bonnes pratiques sur la transparence des contenus générés par IA.

Pourquoi c'est important

L'idée reçue voudrait que Bruxelles ait arraché le filigrane à une industrie réticente. La chronologie dit l'inverse : SynthID tournait en production et l'article était dans Nature avant que l'obligation ne morde. Ce que le droit européen a fait, c'est changer le statut de cette technique — d'argument commercial volontaire à exigence opposable, assortie d'une sanction pouvant atteindre 15 M€ ou 3 % du chiffre d'affaires mondial. Le rapport de force réel n'est pas « le régulateur contre l'ingénieur » : c'est un texte qui renvoie à l'état de l'art, et un état de l'art fixé par les publications des laboratoires qu'il régule.

Le refus de signer mérite la même précision. Un code de bonnes pratiques est un instrument volontaire : le signer procure une présomption de conformité et un dialogue facilité, ne pas le signer n'exonère de rien — un fournisseur non signataire reste tenu par le règlement dès qu'il place un modèle sur le marché de l'Union, et doit simplement démontrer sa conformité par d'autres moyens. Quant à l'argument « les Chinois n'ont pas signé » : il est exact et trompeur à la fois. Pékin n'a rien signé parce que Pékin légifère — depuis le 1^er septembre 2025, les Mesures de la CAC et la norme GB 45438-2025 imposent un double étiquetage, explicite (visible pour l'utilisateur) et implicite (métadonnées ou filigrane numérique dans le fichier), avec des obligations qui remontent jusqu'aux magasins d'applications. Sur le marquage machine, la Chine est en avance d'un an sur l'Union.

Pour qui teste des systèmes, l'exigence se traduit en surface d'attaque. Un filigrane par échantillonnage résiste mal à la paraphrase, à la traduction, au découpage en fragments courts — la détection est statistique et s'effondre quand le texte est bref. Il suppose une gestion de clé : qui la détient, qui peut détecter, comment révoquer. Et il ne dit rien de l'inverse — un texte sans filigrane n'est pas humain, il peut simplement venir d'un modèle ouvert exécuté localement. C'est précisément la mise en garde que Nature a formulée dans son éditorial d'octobre 2024 : un filigrane doit être étanche pour servir à quelque chose.

Mini-glossaire

Filigrane numérique (watermarking): Signal statistique délibérément inséré dans un contenu généré, invisible à la lecture, détectable par qui possède la clé. Pour du texte, il est encodé dans le choix des jetons plutôt que dans des pixels ou des métadonnées.
Filigrane non distordant: Variante qui, en moyenne sur les tirages, laisse inchangée la distribution de sortie du modèle : le texte filigrané est statistiquement indiscernable du texte non filigrané. Elle protège la qualité, mais exige plus de texte pour être détectée.
Sampling spéculatif: Technique d'accélération où un petit modèle propose plusieurs jetons qu'un grand modèle valide en bloc. Tout filigrane destiné à la production doit s'y intégrer, sans quoi il coûte la latence qu'on venait de gagner.
Code de bonnes pratiques (AI Act): Instrument volontaire élaboré sous l'égide du Bureau de l'IA. Y adhérer vaut présomption de conformité et allège la charge de la preuve ; s'en abstenir n'écarte pas l'obligation légale, mais impose de démontrer sa conformité autrement.
Étiquetage explicite / implicite (droit chinois): Explicite : mention visible ou audible destinée à l'utilisateur. Implicite : marque lisible par machine inscrite dans les métadonnées ou le filigrane du fichier. Les deux sont obligatoires depuis le 1^er septembre 2025.