Droit Vivant
Brief

↓ Version .md brute

Brief — Le filigrane de Gemini est né dans *Nature*, pas à Bruxelles : Demis Hassabis l'a cosigné en octobre 2024, l'Europe vient d'en faire une obligation — xAI a refusé de signer le chapitre transparence, et la Chine l'impose sans avoir rien signé du tout

Thème : intelligence artificielle et transparence des contenus générés — filigrane des sorties de modèles de langage, article 50 de l'AI Act, code de bonnes pratiques GPAI et étiquetage obligatoire en droit chinois

Mots-clés : #ai-act #cyber #google-deepmind #xai #chine #filigrane-numerique

Le 23 octobre 2024, *Nature* publiait « Scalable watermarking for identifying large language model outputs » (vol. 634, p. 818-823, DOI 10.1038/s41586-024-08025-4), signé par vingt-trois chercheurs de Google DeepMind, de Sumanth Dathathri et Abigail See jusqu'à Demis Hassabis et Pushmeet Kohli. L'article décrit SynthID-Text, un filigrane qui ne touche pas à l'entraînement du modèle mais modifie seulement la procédure d'échantillonnage — le choix du prochain jeton est biaisé par des fonctions pseudo-aléatoires amorcées par le contexte récent et une clé —, dont la détection ne requiert pas le modèle sous-jacent, et qui s'intègre au sampling spéculatif pour rester utilisable en production. Fait rare pour un papier d'industrie, il documente un déploiement réel : le filigrane est actif dans Gemini, et sa neutralité sur la qualité est évaluée sur près de 20 millions de réponses issues d'interactions réelles. Dans le même moment, un éditorial de *Nature* avertissait que le filigrane doit être étanche pour servir à quelque chose.

Le droit européen vient après, et c'est ce décalage qui compte. L'article 50, §2, du règlement (UE) 2024/1689 (AI Act) impose aux fournisseurs de systèmes générant des contenus de synthèse — audio, image, vidéo et texte — de marquer les sorties dans un format lisible par machine et de les rendre détectables comme artificielles, par des solutions « efficaces, interopérables, robustes et fiables » et « techniquement réalisables » au regard de l'état de l'art ; l'article 50, §4, ajoute l'obligation, pour le déployeur, de révéler un hypertrucage et de signaler les textes publiés pour informer le public sur des questions d'intérêt général. L'article 50 est applicable depuis le 2 août 2026 ; pour la seule obligation de marquage du §2, les systèmes mis sur le marché avant cette date bénéficient d'un délai de grâce jusqu'au 2 décembre 2026, les systèmes nouveaux s'y conformant dès leur mise sur le marché. La Commission a publié des lignes directrices en projet le 8 mai 2026 et travaille à un code de bonnes pratiques sur la transparence des contenus générés par IA. Le manquement expose, au titre de l'article 99, à une amende pouvant atteindre 15 millions d'euros ou 3 % du chiffre d'affaires annuel mondial.

Reste la question des signatures, qu'il faut énoncer avec précision. Le code de bonnes pratiques GPAI, publié le 10 juillet 2025, liste ses signataires le 1er août 2025 : Google en fait partie, avec OpenAI, Anthropic, Microsoft, Amazon, IBM, Mistral AI, Aleph Alpha, Cohere, Black Forest Labs, ServiceNow. Meta a refusé de signer, jugeant le texte porteur d'« incertitudes juridiques » et allant « bien au-delà du champ de l'AI Act ». xAI a signé le seul chapitre « sûreté et sécurité » — donc pas le chapitre transparence, ni celui sur le droit d'auteur, qu'elle qualifie de « profondément préjudiciables à l'innovation ». Aucun laboratoire chinois ne figure parmi les signataires. Mais un code de bonnes pratiques est un instrument volontaire : ne pas le signer n'exonère de rien, cela oblige seulement à démontrer sa conformité autrement. Et l'absence chinoise s'explique moins par un refus de réguler que par une régulation propre : depuis le 1er septembre 2025, les *Mesures d'étiquetage des contenus générés ou synthétisés par IA* de la CAC (publiées le 14 mars 2025) et la norme nationale obligatoire GB 45438-2025 imposent un double étiquetage — explicite, visible pour l'utilisateur, et implicite, inscrit dans les métadonnées ou le filigrane du fichier —, avec des obligations qui remontent jusqu'aux magasins d'applications. Sur le marquage lisible par machine, la Chine a un an d'avance sur l'Union.

Sources