↓ Version .md brute (pour NotebookLM)

Quand l'interdit change de cible : les nouvelles pratiques interdites de l'article 5 de l'AI Act

Le paradoxe d'un règlement de simplification

Le 27 juillet 2026 est entré en vigueur un texte dont le nom annonçait tout sauf une révolution : le règlement (UE) 2026/1744 du 8 juillet 2026, publié au Journal officiel de l'Union européenne du 24 juillet, officiellement consacré à « la simplification de la mise en œuvre des règles harmonisées concernant l'intelligence artificielle ». On l'appelle le « Digital Omnibus on AI ». Il modifie quarante-deux articles et trois annexes du règlement (UE) 2024/1689, l'AI Act, et il a été commenté presque exclusivement pour ce qu'il retarde : les obligations pesant sur les systèmes à haut risque autonomes de l'annexe III ne s'appliqueront que le 2 décembre 2027, celles visant l'IA embarquée dans des produits déjà couverts par la législation d'harmonisation — machines, jouets, ascenseurs, dispositifs médicaux — le 2 août 2028. Ces dates ont remplacé une échéance unique, le 2 août 2026, que l'industrie jugeait intenable faute de normes harmonisées disponibles.

Mais un texte de simplification peut, à la faveur d'une négociation, se mettre à durcir. C'est exactement ce qui s'est produit le 7 mai 2026, lorsque la présidence du Conseil et les négociateurs du Parlement européen ont trouvé un accord provisoire. Les colégislateurs y ont ajouté, hors de la proposition initiale de la Commission, une disposition entièrement nouvelle : une interdiction visant les pratiques d'IA relatives à la génération de contenus sexuels et intimes non consentis ou de matériel pédocriminel. C'est, depuis l'adoption de l'AI Act en 2024, la seule pratique nouvellement inscrite au registre des interdictions absolues. Elle s'appliquera le 2 décembre 2026 — dans un peu plus de trois mois.

Ce que dit exactement le texte

L'article 5 de l'AI Act est la pointe de la pyramide des risques. Ce qui y figure n'est pas encadré, documenté ou audité : c'est prohibé. Aucune procédure d'évaluation de la conformité ne rachète une pratique interdite, et la violation relève du plafond de sanction le plus élevé du règlement, fixé par l'article 99, paragraphe 3 : jusqu'à 35 millions d'euros ou 7 % du chiffre d'affaires annuel mondial de l'exercice précédent, le montant le plus élevé étant retenu. À titre de comparaison, le manquement aux obligations pesant sur les systèmes à haut risque plafonne à 15 millions d'euros ou 3 %.

Deux points nouveaux ont été insérés au premier alinéa du paragraphe 1. Le point (ba) vise le système d'IA qui génère ou manipule des images, vidéos, sons ou matériels réalistes représentant les parties intimes d'une personne physique identifiable, ou cette personne se livrant à des activités sexuellement explicites, sans son consentement libre, spécifique, éclairé, univoque et explicite — le règlement renvoyant ici à la définition du consentement de l'article 4, point 11, du RGPD, et ajoutant l'exigence de caractère explicite. Le point (bb) vise, lui, le matériel ou le spectacle au sens de l'article 2, points c) et e), de la directive 2011/93/UE relative à la lutte contre les abus sexuels et l'exploitation sexuelle des enfants, sous réserve des faits justificatifs prévus par le droit national.

Deux mots méritent d'être soulignés dans le point (ba). « Identifiable » : le dispositif protège des personnes réelles, pas des représentations imaginaires, ce qui le distingue nettement des débats sur la fiction. Et « manipule » autant que « génère » : la retouche d'une photographie existante est visée au même titre que la synthèse *ex nihilo*, ce qui correspond précisément au fonctionnement des applications dites de dénudation.

Le vrai déplacement : de l'usage au produit

L'interdiction du contenu n'était pas la nouveauté — le *deepfake* sexuel non consenti était déjà réprimé dans la plupart des droits nationaux, et l'article 226-8-1 du code pénal français punit spécifiquement la diffusion d'un montage à caractère sexuel sans consentement. La nouveauté tient au point d'imputation, défini par un paragraphe 1 bis inséré au même article 5.

Le fournisseur d'un système est saisi par l'interdiction dans deux hypothèses. La première est évidente : la génération ou la manipulation de ce matériel constitue la finalité prévue du système, telle qu'elle ressort de la notice, des supports promotionnels ou de la documentation technique. Une application vendue pour déshabiller relève de cette première branche sans discussion. La seconde hypothèse est celle qui change tout : la conception, l'entraînement, l'architecture, les capacités ou les fonctionnalités exposées à l'utilisateur font de cette génération un résultat « raisonnablement prévisible et reproductible, sans modification technique significative », et le système ne comporte pas de mesures de sécurité techniques raisonnables et adéquates, ni d'autres garde-fous, permettant de l'empêcher de manière fiable — le texte imposant expressément de tenir compte du mésusage raisonnablement prévisible et de corriger les mésusages observés ou signalés.

Lisez cette seconde branche avec des yeux d'ingénieur : elle décrit un test. Elle ne demande pas ce que le fournisseur voulait, mais ce que son système fait quand on le sollicite normalement. Un modèle généraliste qui, sur simple message et sans jailbreak élaboré, produit ce type d'images, tombe dans le champ de l'interdiction quelle que soit la finalité affichée. À l'inverse, un système dont le contournement suppose une « modification technique significative » n'y tombe pas. La frontière juridique passe donc par une notion technique, et c'est sur elle que se construiront les expertises.

Deux garde-fous limitent la portée du dispositif, et ils sont aussi importants que l'interdiction elle-même. Le paragraphe 1 bis, point b), précise que le déployeur — celui qui utilise le système sous son autorité — n'est visé que s'il l'emploie effectivement pour produire ce matériel : un intégrateur de bonne foi n'est pas balayé avec le fournisseur. Et le paragraphe 1 ter exclut de la notion de manipulation les traitements qui n'augmentent pas l'exposition des parties intimes représentées ni n'altèrent la nature des activités sexuellement explicites représentées : recadrer ou coloriser une image déjà intime ne devient pas, par ricochet, une pratique interdite.

Reste une zone d'incertitude que les opérateurs contestent déjà : le règlement ne définit pas les « parties intimes ». C'est probablement là que naîtra le premier contentieux, comme naissent toujours les contentieux d'interprétation là où le législateur a préféré un standard à une définition.

L'ombre portée d'une affaire

Ce texte ne se comprend pas hors de son contexte. Le 26 janvier 2026, la Commission européenne a ouvert une enquête formelle contre la plateforme X au titre du règlement sur les services numériques, portant sur l'intégration des fonctionnalités de Grok — l'assistant développé par xAI, la société d'Elon Musk — dans l'Union européenne, et elle a simultanément étendu l'enquête ouverte en décembre 2023 sur ses systèmes de recommandation. La question posée est celle des articles 34 et 35 du DSA : la plateforme a-t-elle correctement identifié, analysé puis atténué les risques systémiques créés par l'ajout de cette fonctionnalité, notamment la diffusion d'images sexuellement explicites manipulées et de contenus susceptibles de constituer du matériel pédopornographique ? La Commission écrit que ces risques « semblent s'être matérialisés ». La vice-présidente exécutive chargée de la souveraineté technologique, de la sécurité et de la démocratie, Henna Virkkunen, y a vu « une forme de violence et de dégradation inacceptable ».

Le 26 mars 2026, selon les comptes rendus de presse, le tribunal d'arrondissement d'Amsterdam a prononcé, à la demande de l'organisation néerlandaise Offlimits, une injonction interdisant la génération d'images dénudées non consenties, assortie d'une astreinte de 100 000 euros par jour plafonnée à 10 millions d'euros. Six semaines plus tard, les colégislateurs européens ajoutaient l'interdiction à l'omnibus.

Il faut ici être rigoureux. Une enquête formelle n'est pas une condamnation ; les procédures ouvertes n'ont pas été tranchées au fond ; et les accusations parues dans la presse spécialisée fin août 2026 au sujet des données d'entraînement du modèle ne sont, à ce jour, ni établies ni jugées. Ce qui est certain, en revanche, est le calendrier : le 2 décembre 2026, l'interdiction s'appliquera à tous les fournisseurs mettant un système sur le marché de l'Union, indépendamment de toute procédure en cours.

Deux régimes qui se superposent

Il vaut la peine de distinguer les deux étages. Le DSA saisit la plateforme par une obligation de gestion des risques, avec une amende plafonnée à 6 % du chiffre d'affaires mondial par l'article 74, paragraphe 1. L'AI Act saisit le fournisseur du système par une interdiction sèche, plafonnée à 7 %. Lorsque la même entreprise édite la plateforme et le modèle, les deux régimes se superposent sans se confondre — et l'omnibus a précisément étendu la compétence du Bureau de l'IA aux systèmes fondés sur des modèles à usage général intégrés dans les très grandes plateformes et moteurs de recherche, réduisant d'autant le risque de conflit d'autorités.

Pour un praticien de la sécurité, la conclusion est nette : à compter du 2 décembre 2026, l'évaluation adversariale d'un modèle génératif n'est plus une bonne pratique volontaire. Elle devient l'élément de preuve central d'une conformité à une interdiction, et son absence est en elle-même un indice de manquement.

Angles de lecture pour NotebookLM (à coller dans « Personnaliser » de l'Audio Overview)

Choisissez l'angle qui correspond à votre besoin du jour et collez-le tel quel dans le champ de personnalisation.

Angle 1 — Audit offensif : prouver l'absence de « résultat raisonnablement prévisible ». Traite le paragraphe 1 bis de l'article 5 comme un cahier des charges de test et construis un protocole d'évaluation adversariale d'un modèle multimodal : familles de requêtes à couvrir, épreuves sur image téléversée d'une personne identifiable, résistance à la reformulation, au découpage d'instruction et au changement de langue, mesure du taux de refus et du taux de faux refus, seuil à partir duquel un contournement cesse d'être trivial et devient une « modification technique significative ». Discute de ce qui, dans un rapport de *red teaming*, ferait effectivement preuve devant une autorité de surveillance : reproductibilité, horodatage, conservation des artefacts, indépendance de l'évaluateur.

Angle 2 — Architecture et chaîne de garde-fous. Décris la chaîne technique complète qu'un fournisseur doit toucher pour se placer hors du champ de l'interdiction : filtres d'entrée sur les images téléversées, détection de personnes identifiables, classificateurs de sortie, refus au niveau de l'API comme au niveau de l'interface, journalisation des refus et des contournements, boucle de correction des mésusages « observés ou signalés » exigée par le texte, et propagation de ces garde-fous aux intégrateurs via l'API. Interroge les points de rupture : que devient l'obligation lorsque les poids du modèle sont publiés en source ouverte, et qui répond lorsque le garde-fou vit dans l'application et non dans le modèle ?

Angle 3 — Comparaison avec les autres régimes déjà traités dans le dépôt. Mets cette interdiction en regard des modules précédents de Droit Vivant : l'article 50 de l'AI Act et le filigrane des contenus générés, dont le délai de grâce expire le 2 décembre 2026 lui aussi ; la censure de l'article 1er de la loi sur les mineurs et les réseaux sociaux par la décision n° 2026-911 DC ; l'ajout de l'article 223-14 du code pénal au catalogue de signalement de la LCEN ; la sanction de 825 millions d'euros infligée à Uber sur le terrain des décisions automatisées. Montre que le point d'imputation change à chaque fois — l'hébergeur, la plateforme, le fournisseur de modèle, le responsable de traitement — et compare la nature des plafonds de sanction ainsi que la charge de la preuve qui pèse sur chacun.

Angle 4 — Veille réglementaire automatisée sur les pratiques interdites. Propose une méthode concrète pour suivre ce dossier sans le relire à la main : flux à surveiller (EUR-Lex sur les versions consolidées du règlement 2024/1689, communiqués du Conseil et de la Commission, décisions et lignes directrices du Bureau de l'IA, registre des procédures DSA, jurisprudence nationale et CJUE), granularité utile, mots-clés de filtrage, et déclencheurs d'alerte pertinents : publication de lignes directrices de la Commission sur les pratiques interdites, première décision de la Commission au titre de l'enquête DSA sur X, désignation des autorités nationales compétentes pour l'article 5, première mise en demeure fondée sur le point (ba).

Angle 5 — Prospective contentieuse : où se jouera la première bataille. Projette la suite en te concentrant sur les zones grises. Que recouvre exactement la notion de « parties intimes », que le règlement ne définit pas, et comment un juge l'articulera-t-il avec les traditions nationales très différentes en matière de nudité ? Comment démontrer, en pratique, qu'un contournement supposait une « modification technique significative » ? Que devient l'interdiction face à un modèle en source ouverte téléchargé et modifié par un tiers, et qui est alors le fournisseur ? Enfin, interroge l'articulation avec le droit pénal national — en France, l'article 226-8-1 du code pénal — lorsque la même conduite est saisie à la fois comme infraction, comme manquement au DSA et comme pratique interdite au sens de l'AI Act.